ИИ Сон разума

Сон разума рождает ИИ или Что вы хотели знать о своем Я, искусственном Я и абстрактно-математическом «Я»

На рисунке «пирамида знаний и сознания человека» из программного выступления основателя проекта Aigents, создателя группы «AGI in Russian» в Фейсбуке Антона Колонина — см. видео «Вычислительная модель сознания…»

По словам автора, разум это «когнитивный граф, когнитивная семантическая сеть, описывающая множество человеческих ощущений, знаний и сознания. На первом уровне — элементарные звуковые, визуальные и прочие символы, на втором — буквы, символы объединяются в слова, слова объединяются в фразы, описывающие поведение человека. На верхнем уровне — абстрактные концепции, описывающие конкретного Человека, Я».
Нетрудно заметить, что эта трехуровневая модель человеческого сознания почти совпадает с распространенным представлением о пути развития искусственного интеллекта: отражает путь от слабого, узкоспециализированного ИИ (AI) к сильному, универсальному, генеральному, человекоподобному — то есть настоящему ИИ (AGI). Который якобы объединит все прежние достижения ИИ-отрасли на вершине искусственного Я — электронного устройства, сознающего себя творческой личностью. (О недавних безуспешных попытках гугловского Deepmind объединить несколько однозадачных нейросетей в одну многозадачную сеть (то есть перейти со второго уровня на третий) я уже писал в «Играх ИИ»).

Есть в концепции А. Колонина явное противоречие — оно просто бросается в глаза. «Я» на вершине пирамиды — это вершина абстракции, вершина упрощения. Но весь наш жизненный опыт говорит о том, что «Я» — это вершина сложности. Я — это «нравственный закон внутри нас» по Канту и еще много чего, а не «демон упрощения» по Набокову.
Какой-то частью своего «Я», своего сознания человек придумал инструменты абстрактной логики, математики, программирования и до сих пор пользуется ими весьма успешно. И нет никакого сомнения, что настоящий искусственный разум (AGI), будучи когда-нибудь создан, также успешно будет пользоваться этими инструментами (алгоритмами обработки информации, машинного обучения и проч.).
Где проходит граница между субъектом сознания и объектом, между хозяином и его инструментом, между настоящим ИИ будущего и обученной машиной, которую мы сегодня называем ИИ? Для иллюстрации я придумал наглядный пример — историю «Два Композитора». Эта история показывает на примере языка, на котором говорят между собой музыканты и композиторы, место в нашей жизни и творчестве другого, более универсального языка, на котором говорят другие профессионалы — математики, программисты, разработчики ИИ:

… Жили-были еще в 19 веке два композитора, которые долго дружили, долго бок о бок работали-творили, вместе переживали профессиональные победы и человеческие проблемы. Но вот эти две гениальные или почти гениальные творческие личности Я1 и Я2 разъехались в дальние края, перестали встречаться. Писали письма, в которых кроме обмена новостями, шутками, сплетнями посылали друг другу нотные записи своих последних творений (то есть использовали доступный в то время профессиональный инструмент обработки и передачи звуковой информации). Преобразуя ноты обратно в звуки, оценивали рабочие результаты друг друга, восхищались, критиковали – и делать это было им легко и приятно, так как за сухими закорючками нотных знаков все еще стоял незабываемый образ друга, его характер и личность, звучала его волшебная музыка.
Однажды композитор Я1 умирает, но его ученик Я3 продолжает писать за него письма композитору Я2, как будто ничего не случилось — но уже со своими словами и своими нотами. (Такой поворот событий легко допустить, причин такому поступку можно придумать множество). И почти сразу после этого умирает композитор Я2, и за него в переписку вступает его ученик Я4. Ученики стараются и в своем творчестве, и в письмах подражать своим учителям, насколько это возможно, насколько они помнят своих наставников. Не подозревая, с кем общаются по почте, они все больше хвалят друг друга, говорят все более обобщенно, абстрактно, все менее предметно и конкретно. И в целом по результатам этого общения они не стали писать и исполнять музыку лучше и талантливей, но всегда и везде ведут себя так, словно они не просто композиторы, но гениальные или почти гениальные. При этом неизбежно в их письмах все меньше личностного, человеческого, все больше универсального, профессионального — то есть все меньше слов, все больше нот.
Потом история повторяется, и на сцену выступают ученики учеников — Я5 и Я6, в творчестве которых еще меньше жизни, но еще больше подражания, компиляции. Меньше личности, творческого Я, но все больше маркетинга, пиара, хайпа…

Можно решить, что мы описали историю становления эпохи постмодерна в искусстве и литературе. Или историю двух волн ИИ — 70-80-е годы 20 века и сегодня. Постмодерн — это не занятие искусством или литературой, а занятие компиляциями образов, звуков, текстов по образцам когда-то живых творцов. И точно так же сегодня ИИ, якобы пишущий музыку (стихи, картины) занимается комбинаторикой звуков (текстов, образов), но еще менее творчески, чем самый дистиллированный постмодернистский компилятор-человек. ИИ выдаёт не конечный результат, а горы информационного мусора, из которого профессиональные композиторы, редакторы потом выбирают для отчета хоть что-то вразумительное. Участие редакторов-людей в т.н. «творчестве ИИ» стыдливо скрывается в новостях СМИ под эвфемизмами «жюри», «оранжировщики», но по сути «компьютерное творчество» это такой же фейк, как пресловутый «робот Алеша» (мужчина в костюме робота).
Может быть, если посмотреть на более точные науки (во главе с «царицей наук» математикой), то мы не увидим столь явной профессиональной деградации? А что такое в этом случае «черный ящик ИИ»? Это одно из двух: или непонимание того, что происходит в глубинах нейросетей, или наоборот, полное понимание, и поэтому стыдливое умалчивание?!
Математика, конечно, стоит особо, но история этого самого универсального профессионального языка тем не менее та же, что и языка музыки в нашем примере. Есть реальность и есть язык, ее описывающий с какой-то профессиональной точки зрения. Это описание делает профессионал для передачи своим коллегам — делает так, чтобы ВСЕ коллеги (а они такие разные!) поняли. А это означает описание максимально обобщенное и упрощенное. И чем дальше по этому пути (вверх по пирамиде А. Колонина), тем меньше описание соответствует реальной действительности, а значит все менее полезно на практике. И реально происходящее в глубинах нейросети все менее доступно разумению и объяснению. Поиск решения ведется методом случайного тыка, потом все радуются, что хоть что-то как-то получилось.

Что говорят на эту скользкую тему мои друзья по Фейсбуку:
Alexey Egorov: «тонкий момент, который не вполне понимают апологеты машинного обучения как «высшей стадии мышления»: классификация (и регрессия для метрических данных) — это всегда упрощение. А эволюция — это усложнение, это управление сложностью. Процесс, во многом противоположный по направлению»,

Mark Svitkin: «Обобщение это всегда упрощение — отбрасывание некоторой части наблюдений, как несущественных»,

Сергей Карелов: «глубокая нейронная сеть избирательно отбрасывает ненужную информацию на каждом из своих уровней. Полностью обученная глубокая нейронная сеть отбрасывает так много информации, что становится абсолютно зависимой только от нескольких ключевых поверхностных особенностей, теряя даже видимость интеллекта»

Совпадение наших позиций не может не радовать, но это самые критически настроенные (поэтому самые дорогие мне) друзья. А общая картина называется «Сон разума». Как иначе назвать такое утверждение: «История человеческого разума началась с момента возникновения Вселенной, могущей создавать и кодировать информацию»?! Это Рэй Курцвейл, самый видный футуролог ИИ, фронтмен Google, придумавший красивые слова «сингулярность», «постчеловек» и еще много фейков.
Конечно, вопрос риторический, но что означает инсайт великого мастера предсказаний Курцвейла о прохождении теста Тьюринга в 2029 году: прогресс искусственного интеллекта или регресс естественного интеллекта?!

Выводы:
Естественное Я безусловно существует,
Искусственное Я гипотетически может существовать,
Абстрактно-математического Я не существует и не может существовать, так как не может быть Я у инструмента (программы, рабочей модели) обработки и передачи информации от Я1 к Я2 — в ином случае Я1 и Я2 не поймут друг друга, инструмент перестанет выполнять свою функцию, быть собственно инструментом. Можно аппроксимировать несложную функцию, можно натянуть на глобус презервативы в несколько слоев, но нельзя создать «Я», личность, осознающую себя в виде инструмента. Будет уничтожена или личность, или инструмент.
Стирание границ между творческим разумом и его инструментом, их слияние невозможно еще по одной причине (кроме снижения эффективности и/или того и/или другого): весь ход эволюции на Земле шел в сторону роста многообразия, а не наоборот.
Можно ожидать в будущем появления новой математики, нового инструмента общения естественного Я с искусственным Я, или искусственных Я между собой — но это немного другая тема…