Мир ИИ

Машина Алана Тьюринга Bombe, созданная для анализа немецкой шифровальные машины Энигмы

Бог из машины или Кто станет властелином мира Интеллектуальных Игрушек (ИИ)

Владимир Путин в конце мая заявил о том, что страна, которая займет монопольные, лидирующие позиции в сфере ИИ, станет «властелином мира». И это заявление звучит уже во второй раз — первый раз Президент сказал то же самое 1 сентября 2017 года. Наверно, следовало бы подождать третьего раза – ведь именно трижды произнесенное заклинание должно сработать. И будем надеяться, что окончательный вариант призыва (или предостережения?) будет более понятным, более близким к реальности, то есть прозвучит так: «…станет властелином мира интеллектуальных игрушек под общим брендом «Искусственный Интеллект».
Было бы, наверно, интересно проанализировать речь Путина: что в реальности означают слова «монополист» и «властелин», провести аналогию с речью Илона Маска, но во всем этом будет мало смысла, если не уточнить для начала наличие самого предмета разговоров, пресловутого «ИИ».
До сих пор флагом рекламного бренда «ИИ» (и маяком для экспертов и инвесторов) является победа компьютера в шахматы и го. Однако дальше этих достижений Google (не монополист, но явный лидер) не продвинулся и даже признал свое поражение (о чем я уже писал в «Играх ИИ»). Этот факт, а также многие другие факты позволяют утверждать, что на самом деле существуют две автономные линии эволюции:
1) линия эволюции человека, естественного интеллекта, который в будущем создаст настоящий человекоподобный искусственный интеллект,
2) линия эволюции интеллектуальных игр и игрушек (от еще докомпьютерных игрушек через машину Тьюринга к машине-победителю в шахматы, в го, в Dota 2 и другие компьютерные игры), линия эволюции алгоритмов машинного обучения и обученных машин во всем их разнообразии.
Эти две линии эволюционного развития не пересекаются и никогда не пересекутся – это разные дороги и разные задачи. Вторая линия пересекается с другими сферами и отраслями научно-технического прогресса – компьютерами, статистикой, образованием, автомобилями, развлечениями, ядерной физикой. И в своем влиянии на первую, основную линию эволюции (от мозга животного к мозгу человека как естественному интеллекту и далее к искусственному интеллекту) обученная машина ничем особо не выделяется из общего ряда технологий — в том смысле, что это влияние ничуть не больше, чем влияние автомобилей, самолетов или ракет. Не будь изобретен самолет, человечество придумало-использовало бы что-то другое, возможно более удачное. Не будь хайпа машинного обучения, человеческий разум, возможно, еще быстрее создал настоящий искусственный интеллект.
Чтобы убедиться в том, что такое разделение вполне корректно, стоит проследить вторую линию до ее начала и основ.

Прародительницей «самообучающегося Искусственного Интеллекта» (как эксперты и СМИ назвали программу AlphaGo компании Google DeepMind) является самообучающаяся Интеллектуальная Игрушка MENACE, придуманная в 1961 году Дональдом Мичи. Она была призвана выигрывать в простенькую игру «крестики-нолики» и состояла из 300 спичечных коробков, наполненных разноцветными бусинками. Каждый коробок соответствовал ситуации в игре, а бусинка – ходу за машину против игрока-человека. По итогам игры происходило обучение с подкреплением путем добавления или вынимания из коробков бусинок «победного» или «проигравшего» цвета. Подробнее можно почитать у Максима Руссо «Го и машинное обучение».
«В результате со временем вероятность того, что MENACE сделает правильный ход, возрастала, а вероятность ходов, ведущих к проигрышу, уменьшалась. Мичи сыграл со своей машиной 220 партий, и в итоге она стала прекрасным игроком в крестики-нолики. Другие примеры аналогичных машин из спичечных коробков описаны Мартином Гарднером».
Более скромный вариант – игра «11 палочек» из 10 спичечных коробков – «Нейронная сеть на спичечных коробках». Хорошее средство достойно провести вечер в кругу друзей-интеллектуалов.

Но какое же это самообучение, если участвует человек? Да, но человек выполняет механическое действие по перекладыванию бусинок — это легко механизировать и автоматизировать, что и сделал Алан Тьюринг.
На фото — английская машина Bombe, созданная Тьюрингом для анализа немецкой шифровальные машины Энигмы. Раскрытие секретного кода «было построено на длинных ассоциативных рядах и расчете вероятности следования одних символов за другими с учетом предыдущей последовательности. Это — универсальный и достаточно простой алгоритм обучения» (из Википедии).

Полвека назад никто не называл ни спичечные коробки, ни роторно-релейные механизмы Тьюринга «искусственным интеллектом». И даже «умными машинами» не называли.
С появлением компьютера перебор вариантов в современных Интеллектуальных Играх стал намного сложнее, что явилось причиной не только рождения рекламного бренда «Искусственный Интеллект», но и выявило проблемы – функциональную ограниченность технологии, а также ее не-интерпретируемость, т.н. «черный ящик ИИ».

Каждая игра имеет свои правила. Изменить правила игры, переобучить нейросеть принципиально невозможно – это будет уже другая игра, другая обученная машина (см. Игры ИИ). Отсюда следует узость, одно-задачность «искусственной нейронной сети», что побудило экспертов назвать Интеллектуальные Игрушки на базе компьютера не просто «Искусственным Интеллектом», а «слабым Искусственным Интеллектом». Естественно, с обещанием в будущем «усилить» «слабый ИИ» до уровня человеческого интеллекта — что абсолютно невозможно, так как означало бы перепрыгнуть с одной линии эволюции на другую, пусть параллельную, но автономную.

Что касается проблемы «черного ящика ИИ» — может быть, дело тут не в сложности, а просто в желании разработчиков скрыть правду? Скрыть ту простую истину, что содержимое «черного ящика» на самом деле не является и никогда не станет искусственным интеллектом. Потому что нет никакой связи т.н. «нейрона» и т.н. «нейронной сети» с нейроном и группами нейронов в человеческом мозгу – зато есть связь по прямой эволюционной линии со спичечным коробком. Вчера их сотни, сегодня их миллионы, а завтра миллиарды спичечных коробков благодаря росту вычислительной мощности компьютеров будут имитировать искусственный интеллект, интуицию, творчество. С расширением сферы применения такого «ИИ» будут расти риски для человека, а главный риск — в неспособности «черного ящика» делать работу над ошибками, избегать таким образом новых ошибок и аварий – см. Тупик ИИ.

Нет и не может быть в перспективе машинного обучения никакого интеллекта — есть перебор вариантов, бесконечность которых ограничена «обучением/самообучением», контекстом предыдущих/последующих ходов, сигналов, слов. Важно также то, что ни человек, ни животные перебором вариантов не занимаются – разве что человек на досуге чисто для прикола, чтобы «убить время».

Трудно спорить с тем, что Интеллектуальные Игрушки за полвека сильно прогрессировали – от перебора позиций в крестики-нолики к перебору точек и векторов при распознавании лиц. Или к переводчикам, распознаванию речи и голосовым помощникам — через перебор позиций слова в контексте предыдущих и последующих слов в предложении и других контекстах, включая семантические. Как уже было отмечено в «ИИ Сон разума», чем больше слоев у нейросети и чем более точен результат, тем меньше оснований называть «Искусственный Интеллект» вообще интеллектуальным.

Это не парадокс, это закономерный тупик – со всех сторон, как ни посмотри, как ни экспериментируй со слоями и обучением:
С одной стороны, нельзя считать тупой перебор вариантов (принципиально бесконечный) интеллектуальным действием. Но с другой стороны, также нельзя считать интеллектуальными алгоритмы, ограничивающие и/или упорядочивающие этот перебор. Нет в т.н. «сфере ИИ» ни крупицы интеллекта – ему просто неоткуда взяться. Следовательно, невозможно к результатам действий обученных машин относиться серьезно, с доверием. Именно поэтому данные систем распознавания лиц не принимаются в качестве доказательств в американских судах. А фронтмэн Яндекса Григорий Бакунов посоветовал недовольным непроходимой неадекватностью голосового ассистента Алисы расслабиться, не воспринимать разговоры с «искусственным интеллектом» всерьез. Иными словами: не берите в голову, это просто прикольная игрушка!

Если есть у машинного обучения какое-то будущее, то оно скорее пугает, чем вдохновляет – как пугает любое использование полезной на своем месте вещи не по назначению. Всему свое место: игрушки – они для игр, компьютерных, интеллектуальных. Или для генералов, для войны, потому что война все спишет, любые ошибки и жертвы.
Если доверить игрушке жизнь и здоровье человека, то результаты будут печальные и плачевные. Если происходит авария робомобиля, то робот-водитель не может ничего рассказать, а его разработчики ничего не могут объяснить (это «черный ящик»!), а вот человек, пассажиры, пешеходы, свидетели аварии все подробно рассказывают: что произошло, что они делали и чувствовали. Задайте себе вопрос: над кем проводится этот эксперимент? Ответ очевиден: это не опыты по внедрению робомобилей на дорогах – нет, по факту, объективно это опыты над людьми, это психологические эксперименты над потребителями с целью успешного внедрения новой технологии.
То же самое происходит, когда банковский робот замораживает ваш счет – это эксперимент банков над вами!
Игра в кредитный рейтинг или в социальный рейтинг может увлечь участников эксперимента и даже показаться полезной – до тех пор, пока не случится «авария». Вам заблокируют счет, не выдадут кредит, не продадут билет в самолет, лишат имущества – при этом вы не сможете доказать свою правоту и ошибку ИИ! Спросить с робота, исправить ошибку невозможно – это «черный ящик». Но зато можно спросить с вас! Проверить вашу реакцию: как долго вы будете терпеть опыты над собой, над своим здоровьем, своими деньгами и собственностью, как быстро махнете рукой и подчинитесь правилам новой игры «Бог из машины». Бог, который не обязан отчитываться перед людьми за свои поступки!
«Искусственный Интеллект» как «Бог из спичечного коробка» может назначить нового властелина мира. Может сделать население покорным властелину – поставив всех в очередь на цифровое прощение, поощрение или наказание. Или как минимум, может помочь в пропаганде, став телеведущим. Если завтра вся страна услышит: «Искусственный Интеллект, проанализировав колоссальные объемы баз данных о политических событиях, пришел к выводу, что Джордж Вашингтон и его обком – чмо», разве не веселее и легче станет жизнь на телевидении и в коридорах власти?!

Андрей Лебедев

Добавить комментарий

Ваш e-mail не будет опубликован. Обязательные поля помечены *

6 + 4 =