Игры ИИ

Почему человек универсален и безграничен в развитии, а универсальный ИИ безграничен в ошибках

Роботы с ИИ играют в футбол

Победы нейросетей в шахматы, покер, го и другие игры до сих пор подаются публике как великие достижения искусственного интеллекта (ИИ). Но на самом деле, когда ОДИН робот играет с ОДНИМ человеком в ОДНУ игру с несменяемыми правилами — это очень маленький шажок.

Человек всегда будет медленней, чем нейросеть, перебирать варианты, когда захочет поиграть в шахматы или будет вынужден проходить тесты, сдавать ЕГЭ. Но это говорит не о силе ИИ, а слабости наших знаний о человеке, слабом использовании творческих способностей нашего мозга, о несовершенстве современного образования, которое делает из школьников не взрослых самостоятельных людей, а биороботов. Поэтому еще надо будет посмотреть, что случится быстрее — так называемый слабый ИИ станет сильным или сильный Естественный Интеллект человека деградирует до слабого.

Забавно наблюдать, как два робота Бостон Дайнемикс пытаются взаимодействовать друг с другом. Это та же ОДНА «игра» (помещение, обстановка и окружение не меняются) и тот же перебор вариантов: роботы совершают тысячи случайных, бестолковых движений, а затем публике демонстрируются самые эффектные кадры.
Когда группа роботов играет, например, в футбол, то это пусть коллективная, но также ОДНА игра с известными всему миру правилами игры в футбол. У человека все не так, все сильно сложнее.

Человек играет сразу во МНОГО «игр» с МНОГИМИ «игроками», его мозг принимает решения, используя информацию сразу из нескольких «игр» — профессиональных, личных, социальных. Следующий ход (например, выбор места работы: в Яндексе или Google?) делается не просто в результате перебора вариантов, а под влиянием своих собственных «ходов» (мыслей, решений, действий, эмоций) из нескольких игр (семья, профессиональное сообщество, группа в Фейсбуке), а также «ходов» других игроков (друзей, родственников, коллег).
Для примера незамысловатое наблюдение из повседневной жизни. Действие происходило в конце лета во дворе между домами на хоккейной коробке, ставшей футбольным полем. Участники – двое взрослых мужчин и до двух десятков подростков, школьников младших и средних классов, среди них одна девушка.

Это коллективное действие можно было лишь условно назвать игрой в футбол: правила часто произвольно менялись. Сначала взрослые стояли на воротах, но им быстро стало скучно, и они решили активизироваться, сделать невнятную детскую суету похожей на футбол. Но реальность заставляла придумывать новые правила, далекие от официальных. Например, так как место в воротах заняли малыши, то забивать одиннадцатиметровый такому вратарю для взрослого мужика было совершенно неинтересно. И возникло новое правило «если вратарь маленький, то пенальти бьет самый маленький игрок чужой команды»! Случился и более концептуальный эксперимент – в какой-то момент на поле оказался еще один мяч, и все увлеченно перешли на новую игру – футбол в два мяча, что вызвало много смеха и еще больше путаницы. Но изобретать новые правила для игры в два мяча не стали – сложно, слишком многое пришлось бы менять, лишний мяч удалили с поля.

Один из подростков проявлял явный интерес к девочке: старался при случае отдать пас ей и одновременно играл на повышение цены своих джентльменских жестов — стремился показать себя настоящим форвардом, трудился на поле наравне со взрослыми… Еще одна сложная ролевая игра начиналась, когда мяч улетал за пределы площадки, и надо было решать, кому за ним бежать. Старшим не хотелось выполнять эту мелкую функцию, а малыши при всем желании не могли перелезть через ограждение. Придумали правило: «от чьей ноги мяч улетел, тот за ним и бежит».

Когда взрослые по какой-то причине покидали площадку, дети с великой радостью забывали про футбол, то есть при первой же возможности переключались на новые забавы! Заехал на поле кто-то на велосипеде, внеся в игру элементы «велосипедного поло» – все начинали бегать за ним; заходил кто-то с моделью самолета, все бросали мяч и начинали крутить и запускать эту модель – и так далее. Чем неожиданней оказывалась новая «игра», тем охотней и веселей все переключались!

Зачем человеку это нужно — играть одновременно в несколько игр в нескольких группах по интересам, почему природа наградила нашего предка многозадачностью, почему эволюция этот дар подхватила, сберегла и развила? Животное согласно генам играет в ОДНУ игру в знакомой среде, которая мало меняется, повторяется из года в год. Человек же быстро (наплевав на гены), в течение одного поколения может перейти на незнакомую территорию, освоить полную опасностей новую среду обитания, новые виды охоты и еще много чего нового. И в итоге самый универсальный и мультизадачный биологический вид захватил планету и вышел в космос – пока остальные животные оставались в своих нишах во власти старых безусловных и условных рефлексов.

Наверняка многие наблюдали столь печальное зрелище как собака, потерявшая хозяина. Пес самого грозного вида абсолютно беспомощен, находится в полной депривации, беспорядочно бегает туда-сюда, беспомощно тычется всюду носом, жалобно заглядывает в глаза прохожих своими (такими умными!) глазами. Пес не способен самостоятельно даже найти дорогу домой – ведь хозяин его этому не учил, не играл в эту игру! Но зато была другая игра – «Апорт!», «принести палку». Я видел, как такой несчастный потерянный пес бросался в пруд, а затем радостно выскакивал на берег – в надежде, что хозяин как всегда ждет его на берегу. Но хозяина не было – только тень академика Павлова, открывателя условных рефлексов.

Представим, что в нашей околофутбольной дворовой истории вместо естественно-разумных игроков выступают роботы с современным ИИ, нейросетью глубокого обучения. В этом случае роботов, немного поигравших в традиционный футбол, надо было бы вывести с поля, отформатировать и обучить новым правилам, учитывающим возраст или пол игроков. А потом сдать всех на металлолом, а на поле выпустить роботов, которые обучены одновременно ездить на велосипедах и пинать мяч, и так далее… Цель этого мультизадачного мысленного эксперимента — показать, насколько экономически абсурден супердорогой и при этом узкоспециализированный (по сути одноразовый!) ИИ в нынешнем его исполнении (нейросеть, экспертная система, генетический алгоритм).

Еще одна показательная история. Лидер DeepMind и Brain Team (Google) Грег Коррадо представил универсальный и мультизадачный ИИ. Продукт DeepMind — архитектура глубинного обучения MultiModel — объединяет в себе 8 (!) нейросетей, выполняющих после обучения 8 разных задач. По словам Грега «всего три инженера в мире могут это делать: прикручивать одну нейросеть к другой». Это достижение, казалось бы, эпохальное, переломное – ведь как раз гармоничное слияние многих узких ИИ в один общий, универсальный ИИ, general AI, считается самым верным средством создания сильного ИИ, сравнимого с человеческим разумом.

Выглядит многообещающе. Но беда в том, что событие это произошло полтора года назад — очень давно по нынешним меркам, когда так быстро развиваются технологии, а быстрее всех технологии ИИ! Что-то явно пошло не так – вместо победных реляций все больше панических предсказаний новой «зимы ИИ», кризиса, подобного «кризису доткомов».
Ведь и сам Грег Коррадо, не успев представить general AI от Google, заговорил о том, что «general AI, возможно, и не нужен — лучше дробить-дробить задачи и создавать как можно больше максимально эффeктивных решений машинного обучения».

Если это прогресс, то в обратную сторону, во вчерашний день. А если это уже бегство – то, ВОЗМОЖНО (!) пока не паническое и не массовое – передовую оставил всего лишь DeepMind – общепризнанный суперлидер, создатель алгоритмов, победивших человека в шахматы и го.

Может быть, важнее не развилка ОДНА — МНОГО игр, не «однозадачность-многозадачность», а ОДИН — МНОГО игроков — о чем я написал год назад в книге «Невидимая рука эволюции и Образ будущего». К сделанному мной в книге определению человеческого сознания как «ничем не ограниченному многообразию групповых предвидений» сегодня наиболее близка созданная для компьютерной игры Dota 2 команда ботов. Но говорить серьезно об этом достижении пока рано: несмотря на множество открытых и скрытых преференций, поблажек со стороны организаторов состязаний боты пока проигрывают профессиональным командам киберспортсменов.

Возвращаясь к Google, считаю уместным предложить еще одну возможную причину неудачи. Одну нейросеть на хорошо структурированной базе данных можно обучить до максимума точности в 90% (то есть 10% решений — ошибочные). Но если в многозадачном продукте DeepMind представить пять работающих в связке нейросетей, то ошибки суммируются – считая очень грубо 10х5= 50% брака в окончательном решении. Например, после распознавания кошки, описания картинки и перевода описания на другой язык может получиться ахинея типа «Кот в бутылке ест автобус». Ахинея вполне объяснимая – если 10% описания картинки ошибочно, то последующий перевод этого «уродца» на другой язык может родить текст непредсказуемо многократно более уродливый. Таким образом, при росте универсальности и многозадачности суммарная эффективность ИИ падает – с чем и столкнулся, как я предполагаю, DeepMind. Если ввести контроль при каждом шаге, если человек будет исправлять ошибки каждой отдельной нейросети (и обучать по новой), то это будет уже не мультизадачный универсальный ИИ, а просто однозадачная система, разбитая на несколько подзадач.
Эта история неслучившегося успеха лишь подтверждает давно уже выявленную закономерность: чем больше слоев и глубже обучение, тем заметней падает точность, тем больше ошибок в работе нейросети.

У человека, напротив, объединение нескольких «игр» и усилий нескольких «игроков» не просто исправляет отдельные ошибки, (по аналогии с исправлением генетических ошибок в двуполом размножении), но позволяет на стыке разных «игр», наук, видов деятельности творить инновации, совершать технологические прорывы, создавать новые товары, услуги и целые отрасли в экономике.
Причин того, что возможности ИИ, вопреки надеждам, не растут, можно перечислить несколько, но скорее всего ошибка алгоритмическая. Как вариант, проблема в алгоритмах обработки информации, в параметрах формального соотношения объектов и символов — таким образом узкая специализация и монозадачность заложена в так называемом «слабом ИИ»  изначально.

В этом случае говорить «все правильно, мы идем верной дорогой, все получится, как только выйдем на новый уровень вычислительных мощностей» — означает не видеть выхода, обрекать отрасль ИИ на долгий застой, «зиму» и кризис.

В тему:

Искусственный интеллект Google: как устроены технологии будущего. Грег Коррадо

Грег Коррадо Google Brain Team: В работе с машинным обучением нужно оставаться «ремесленником»