ИИ Застой

«Цифровой застой» или Хроника Первой технологической контрреволюции

Герои те же – т.н. ИИ, AI или искусственный интеллект, ветеран машинного обучения (МО, ML) почти столетнего возраста с интеллектом ученой крысы. А также жертвы машобуча, верящие в свою дремучую технологию — искренне или из временной целесообразности — но постоянно повторяющие свои символы веры.
О том, что современный мейнстримный путь развития «слабого ИИ», машинного обучения НИКОГДА не приведет к настоящему искусственному разуму, называемому «сильным ИИ», AGI, пишут и говорят уже многие: Дмитрий Мацкевич в интервью, Сергей Карелов в «Технологический прогресс идет не тем курсом» и «Основанный на глубоком обучении современный мейнстримный ИИ не способен решить задачу создания сильного ИИ». Но это лишь полправды, на самом деле современный «ИИ-хайп» вообще не подразумевает никакой технологической революции, не ускоряет, а тормозит научно-технический прогресс. Реальность в том, что технология машинного обучения (при всех немногочисленных достижениях, включая рост вычислительных мощностей) угрожает технологическим застоем, лишает будущего не только «отрасль ИИ», но и те отрасли, в которых технология будет применяться. При этом новой, уже глобальной «зимы ИИ» мы можем и не заметить, так как в глубокий застой будем сползать медленно и постепенно вместе с обученными машинами, их разработчиками и евангелистами, искренне считающими себя пионерами прогресса. Поэтому важно не просто понять системную ошибку, но понять ее вовремя.

«Ахиллесова пята» машинного обучения – не в «черном ящике ИИ», не в узости-ограниченности применения и даже не в не-исправляемости ошибок, она в главном, с чего МО начинается – в базах данных. Может быть, не все заметили, но столь распространенное еще вчера слово «бигдата» во-первых, стало применяться значительно реже, во-вторых, незаметно поменяло свое содержание. Раньше мы говорили о «больших данных», важных для человека, сейчас это слово стало еще одним синонимом датасетов, важных для машин, процесса их обучения и переобучения. Накопленные ранее человечеством базы данных пополнились (и продолжают быстро пополняться) новыми большими данными – но уже от обученных машин! Например, фотоархивами лиц реальных и гипотетических, или записями дорожных ситуаций с лидаров робомобилей – и все это требует новых мощностей и затрат. Неизбежно встает вопрос: а какой смысл? Завтра массивы новых данных опять вырастут – а польза и прибыль все никак не приблизятся! Шкурка неубитого медведя к удивлению охотников оказалась размером со средний палец…
Напомню, что жалобы ученых и специалистов на проблему «бигдаты» звучали так: даже в узкой сфере знаний накапливается столько новой информации, а каждый день выходит столько научных публикаций, что просто прочитать все физически невозможно. Но такие жалобы могли быть не просто симптомами проблемы, но и признаком некой исследовательской «беременности» — то есть готовности данной сферы знаний породить новые открытия, изобретения. Не было ли более разумным удовлетворить эту потребность прогресса в ускорении, направив инвестиции в науку, а не в ИИ-хайп и гонку вычислительных вооружений? Это же естественно: если ученые не успевают читать научные журналы, осваивать растущие объемы знаний, то должно быть больше ученых, а не малограмотных кодеров. Случись так, мы не удивлялись бы сегодня тому, что вот уже столько лет цыфровизуем-цыфровизуем, суем нейросети во все щели, а на выходе ни одного фундаментального открытия или стоящей инновации!

Но может быть, пропагандисты ИИ-революции когда-нибудь все же окажутся правы: именно обученные машины помогут нам разгрести Авгиевы конюшни «больших данных», разрубят все Гордиевы узлы в теории и практике науки, ставшей запредельно сложной и запутанной для человека? Откуда уверенность, что подобные надежды и прогнозы никогда не сбудутся, в чем системная ошибка?
Давно уже замечено, что прогресс делает революционные прорывы чаще всего на стыке научных дисциплин или технологических отраслей. Но междисциплинарный подход сразу становится невозможным, как только мы доверяем обработку информации безнадежно узким нейросетям. Какую роль в брежневском застое сыграла отраслевая узость, министерская разобщенность, невозможность межотраслевых проектов и решений? Не первую роль, конечно (расходы на гонку вооружений были вне конкуренции), но и не последнюю. Аналогия напрашивается: т.н. ИИ сегодня такой же «узкий», какими были интересы советских учреждений накануне брежневского застоя. Сегодня слабый и узкий «ИИ» обучается на размеченных людьми данных. Завтра он будет обучаться на им же «сгенерированных» базах, еще более узких и специализированных — и становиться еще слабее и бесполезней, но при этом зачем-то быстрее и мощнее! Проблема количества данных пополнится проблемой их качества — качества информации, управляющей миром, если кто-то забыл!

О пагубности использования т.н. ИИ в бизнесе, в медицине и безопасности на примере конкретных применений будет сказано ниже, пока же не забудем сказать об еще одном важном моменте, с которого и возникла тема «цифрового застоя». Человек и машина работают с разными исходными данными, и работают по-разному. Так как мы говорим сейчас об ускорении или о торможении прогресса, то в этом контексте важно, что человек умеет работать с информацией о будущих, ожидаемых событиях, а машина может обучаться только на данных о событиях, уже произошедших. Следовательно, несмотря на все свое быстродействие, обученная машина всегда будет отставать от человека, и с каждым днем отставать все больше. Человек будет заглядывать все дальше за горизонты уже познанного мира, предвидеть все более долгосрочно, а т.н. «ИИ» в это время будет шустро, с поразительной скоростью ковыряться в груде старых вещей, выискивая что-то полезное. В этом смысле рост вычислительных мощностей – это просто рост количества комнат и кладовок, которые можно набить все более «новым» старьем.
Признаки «цифрового застоя» уже видны в решениях конкретных узких задач. При этом разработчики, специалисты ИИ-отрасли все еще убеждены в своей миссии генераторов инноваций и двигателей прогресса. И на все критические сомнения искренне возмущаются «Но ведь работает! Дает реальные результаты!» Да, работает – на первый взгляд…

Банковский робот, принимая решение о выдаче кредитов путем анализа кредитных историй, будет делать это быстрее человека. Но он точно не увидит новых возможностей клиента банка в новой ситуации на рынке, не увидит перспектив бизнес-проекта, не оценит энтузиазма и уверенности в будущем успехе предпринимателя и его команды. Это недоступные опции для нашего «искусственного менеджера». Не говоря уже о том, что наличие в кредитной истории негатива и даже банкротства может являться не минусом, а плюсом, преимуществом претендента на кредитную линию. Способность учиться на ошибках, бизнес-опыт, в том числе опыт прошлых кризисов — это ресурс, также недоступный формальной оценке.
Конкурентное преимущество обученной машины – опираясь на простейшие формальные параметры, быстро рассматривать заявки. Но это преимущество временное — ровно до тех пор, пока все банки не обзаведутся немудреными устройствами. И количество заемщиков с идеальной кредитной историей быстро закончится – они и сейчас уже в великом дефиците. Неизбежно вырастет цена кредитных управляющих, так поспешно уволенных.

Красиво стартовать т.н. ИИ способен в таких бизнес-процессах, как логистика – но также на короткую дистанцию, до первой серьезной инновации. Он не сможет, например, учесть нового тренда в сфере складской недвижимости или новый вид транспорта, и будет настойчиво предлагать старые варианты хранения и перевозок – просто потому, что инновации еще никак не отражены в базах данных. И конкуренты, сохранившие на этих позициях людей, вырвутся вперед.

Робомобиль будет обучаться на записях уже случившихся аварий, а человек способен их предвидеть – руководствуясь интуицией, подсознательным анализом самых разнородных изменений на дороге, незаметных, но важных «мелочей». Человек на любые, даже совершенно новые сигналы отреагирует более осознанно и успешно. Обученная машина незнакомых сигналов или не «заметит», или неправильно интерпретирует, или будет реагировать на любой необычный сигнал как на угрозу – в любом случае вероятность аварии будет выше, чем у человека-водителя. Остается надеяться, что здравый смысл возобладает, робомобили будут продолжать развлекать журналистов на закрытых территориях и никогда не появятся на дорогах общего пользования, движение по которым полно неожиданностей.

Трудно усомниться в справедливости правила: «Кто владеет информацией – тот владеет миром» (я бы уточнил «владеет будущим»). Но преобразование в «Кто владеет ИИ…» уже заставляет задуматься. ИИ-футурологи утверждают, что скоро мир разделится на страны с высокой безработицей (по причине внедрения роботов) и на страны, процветающие на производстве роботов и обучении искусственных «мозгов» – поэтому всем надо поторопиться, чтобы не отстать в «ИИ-гонке».
И тут два варианта: либо это правда о реальном будущем, либо это рекламный лозунг некой новой финансовой пирамиды, в которой первые инвесторы заработают за счет массы лохов, включивших свою фантазию и жадность последними. И по большому счету выбор между этими двумя вариантами зависит от реальности создания настоящего «сильного, общего ИИ» в результате развития «слабого, узкого ИИ». Если это возможно, тогда все честно и перспективно, если невозможно, тогда все закончится крахом «пирамиды ИИ». Таким образом, мы возвращаемся к главному, с чего начали…
Мое мнение известно: линия «слабого ИИ» никак и никогда не перейдет в линию настоящего «сильного ИИ». Эти эволюционные линии — «слабого ИИ» и «сильного ИИ» — никогда не пересекутся, так как разнонаправлены. И мне лично не кажется спорным такой тезис: настоящие луддиты сегодня не те, кто критикуют ИИ-хайп, а те, кто цепляются за устаревшую технологию, забракованную еще в прошлом веке. Нельзя переписать историю, но если бы мы не увлеклись ИИ-хайпом, а шли к главной цели, то сейчас как минимум знали, как сделать настоящий ИИ, и что для этого не хватает — как в ситуации с термоядерным синтезом. А может быть, уже праздновали великую победу человечества!

Но может быть, имеет перспективы в будущем такой вариант: обученная машина не будет сама принимать решений, останется экспертом? Искусственный помощник будет помогать в работе — делать первичный анализ, а решение будет принимать человек, первоклассный ответственный специалист. Человек будет работать быстрее и эффективней, у него появится много новых возможностей, освободится время для более творческой работы! Это несомненный прогресс, но возможен он при одном условии – мы честно говорим правду. Во-первых, отказываемся от маркетингового бренда «ИИ», штрафуем за его применение, и, во-вторых, вводим запрет обученным машинам принимать решения (за исключением компьютерных игр, прикольного машинного «творчества» и прочих невинных развлечений). То есть проводим «разбожествление» экспертных систем, голосовых ассистентов, шахматистов, переводчиков, систем распознавания лиц — всех наших искусственных помощников на базе машинного обучения.
Если этого не произойдет и вера в «Бога из машины» останется на уровне принятия решений, то застой неизбежен. У чиновников, у плохих управленцев, банкиров, бездарных врачей, юристов, у плохих полицейских и т.д. у всех самых плохих специалистов появится возможность свои ошибочные и преступные решения списывать на «искусственного эксперта». «Ведь в нем же используется технология «искусственного интеллекта» — будут они говорить чиновникам проверяющих органов или судьям, — а по статистике ошибок она надежней человека, как можно не доверять такому экспертному мнению!». При этом лучшим специалистам, честным ученым, предпринимателям, управленцам, врачам в подобной ситуации придется очень плохо – настоящие профессионалы ценят любое экспертное мнение, но привыкли брать риск и ответственность за свое решение на себя, ни на кого не перекладывая. И поэтому ответят по полной!
В любой сфере нашей жизни все решает человек, судьбу каждой отрасли и любой экономики определяет человек, мастер своего дела. Самая естественная и самая сложная обязанность человека – это уверенно смотреть в завтрашний день, принимать долгосрочные решения. Если у самых некомпетентных и безответственных представителей рода человеческого будет благодаря слепой вере в интеллектуальное могущество искусственного «божества» системное преимущество перед ответственными и профессиональными людьми, то нас ждет серое, безрадостное, скучное и нищее Завтра. Нас ждет будущее без прогресса, открытий и инноваций. Застой и разруха — в головах!

Говоря о «любой сфере» и «каждой отрасли», я имею в виду в том числе (и в первую очередь!) профессионалов т.н. «ИИ-отрасли». С кем вы, мастера машинного дое… извиняюсь, обучения?!

Выводы краткие, предварительные: МО не ускоряет, а тормозит прогресс, не решает, а лишь усугубляет проблемы, с которыми человек столкнулся на рубеже 21 века – и вызвано это рядом видимых причин:

  1. МО предельно упрощает информацию, что дает рост количества ошибок. Исправить ошибку при этом не может ни машина, ни человек, ее разработчик – потому что сам принцип работы предполагает ошибки, предвидеть и предупредить которые невозможно. Можно обучить машину по-новому, то есть по-иному упростить входные данные и надеяться (в смысле молиться!) что новые ошибки будут менее трагичны (все это более подробно описано в предыдущих статьях и постах),
  2. обученная машина работает с одним узким набором данных, в одном узко специализированном практическом применении. Но реальный мир постоянно меняется и выходит за границы шаблонов, поэтому «узкий ИИ» по факту, автоматически обречен еще больше сужаться, абстрагироваться от реальности,
  3. машина обучена работать с информацией, уже устаревшей к моменту начала работы, предвидеть будущее даже краткосрочно она неспособна. Если попытаться научить машину имитировать т.н. «искусственную интуицию», то устаревшими к началу работы будут эти имитации. Отсюда конкретный результат применения МО — после короткого рывка на хайпе завышенных ожиданий этот «искусственный гость из прошлого» будет вечным часовым на страже технологического отставания, экономического застоя.

Ссылка в тему – Как работает прогресс, долгосрочное предвидение, проекты с дальним горизонтом планирования – «Невидимая рука эволюции и Образ будущего»