Неестественный интеллект

— Помните, как произошла ваша первая встреча с компьютером?

— Это был 1985 где-то год. Все это случилось при большом содействии известного уральского академика Красовского (Николай Николаевич Красовский — российский ученый, математик, основатель научной школы по теории оптимального управления и дифференциальных игр, Герой Социалистического Труда. — Ред.). Он очень рано осознал, что компьютеры — это будущее, и способствовал тому, чтобы были закуплены гэдээровские компьютеры Robotron. В Свердловске появился тогда межшкольный компьютерный центр, в него можно было ходить как на кружок. И вот мы ездили туда по вечерам на трамвае целой компанией. Это было обучение языку бэйсик, мы делали всякие программы, и это был настоящий большой прогресс, немыслимый скачок по сравнению с калькулятором, который до этого был у меня дома. Нынешним детям сложно объяснить, почему черно-белый экран и зеленые буковки на нем производили такое огромное впечатление.

Из этой нашей компании многие так и остались в профессии. Сам я пошел учиться в университет на специальность «Вычислительные машины, комплексы, системы и сети».

— Зачем?

— Ну это было очень, что называется, sexy. Новое, необычное, перспективное. Я же не то чтобы такой прямо программист-программист. Computer science, информационный поиск, обработка естественного языка, то есть обработка компьютером текстов и звучащей речи, — вот то, чем я занимаюсь. Это такой хороший сплав точности и гуманитарности, мне очень это нравится.

— В такой вот среде, в таких компаниях и появилась идея создания искусственного интеллекта?

— Я на самом деле очень скептичен, когда слышу разговоры о том, что искусственный интеллект и правда существует. Лет, наверное, шесть-семь назад начался вокруг этой идеи такой хайп. А я очень далек от убеждения, что машины действительно мыслят. И не думаю, что в этой области произойдет какой-то огромный прорыв. 

— Но сравнение неизбежно.

— Неизбежно. Но если мы занимаемся строгими вещами, мы должны понимать, что метафора действительно помогает, но ничего собой не замещает.

— Ок, пусть тогда пока помогает. Когда вообще появилось само по себе понятие «искусственный интеллект»?

— Термин появился еще в сороковых или пятидесятых годах прошлого века. Уже тогда были гипотезы о том, что машины будут мыслить. А к семидесятым, кажется, годам началась уже так называемая «зима искусственного интеллекта», Ai-winter. Это естественно. Такие исследования обычно зависят от больших государственных денег. И вот был сделан доклад американского агентства ALPAC (Automatic Language Processing Advisory Committee) о том, что надежды на искусственный интеллект неоправданны, давайте перекроем финансирование. Когда я учился в университете и даже заканчивал его, термин «искусственный интеллект» все еще оставался ругательным, скомпрометированным. Российская ассоциация искусственного интеллекта была какой-то маргинальной организацией. Впрочем, она и сейчас такая, никого не хочу, конечно, тут обидеть.

— Почему тогда человечество снова вернулось к идее ИИ?

— Многое сошлось, я думаю. Нейронные сети стали универсальным механизмом. Их стали использовать для решения большого спектра задач в разных областях: обработка языка, изображения, звука. Оказалось, что для всего этого можно использовать, по сути, сходную архитектуру, один инструмент. И этот инструмент делает то, что традиционно принято считать «человеческим» — мы же говорим, слушаем, умеем распознавать картинки. Так вот, обо всем этом теперь накопилось довольно много размеченных данных, появились новые, более дешевые вычислительные мощности и новые методы обработки информации. Ну то есть они относительно, конечно, новые — скажем, сверточная нейронная сеть, предназначенная для распознавания образов, была придумана знаменитым французом Яном Лекуном еще в 1988 году. Но методы эти выстрелили только недавно, когда теоретическую задачу стало возможно решить технически.

— Ну то есть вместе с вашим скепсисом относительно будущего искусственного интеллекта вы признаете, что сейчас активно идет перенос базовых человеческих навыков в компьютерные экосистемы?

— Навыков человека как вида, да. Но не индивидуальных навыков.

— Так лиха беда начало. К машине же уже обращаются как к индивидууму. Вы же, насколько я понимаю, специалист по поиску. Так вот, эти вопросы экзистенциальные типа «почему я шампунь» и «отчего мне не спится» — разве это, по сути, не обращение к чему-то одухотворенному, наделенному сходным с тобой интеллектом? Мы же не спрашиваем это у столба или канарейки.

— Мы спрашиваем это у устройства, которое может оперировать векторами, инвертированными индексами и быстро обрабатывать миллиарды документов. Никакой человеческий интеллект на это не способен. Вот все эти вопросы… Я как-то пытался даже находить их в логе поиска. Мне кажется, это что-то типа медитации или гадания на картах. Ты кидаешь монету или открываешь книжку на случайной странице. К искусственному интеллекту это вообще не имеет никакого отношения. Вот я разложил карты и сам же интерпретирую результат. Машинный и человеческий поиск — просто разные процессы. Например, человек ищет картинки, но на самом деле он их не ищет. Ему надо просто их листать, переключать взгляд. Это и есть самосознание. У компьютера самосознания нет.

Для меня сама по себе мысль о самосознании компьютера — это слишком высоко. Я, кстати говоря, знаю, что большие люди в Америке, занятые в области искусственного интеллекта, они во многом вдохновляются в своей работе фантастикой. Вот они в детстве ее начитались, и для них это — мотивация, идеал. А я читал в детстве другую фантастику. У Стругацких, например, нет никакого искусственного интеллекта. К тому же я не смотрел «Стартрек».

Вот тот же Лекун говорит: чтобы машина самообучалась, мы должны снабдить ее методами самообучения, но не должны снабжать ее какими-то prior… Как это по-русски? Собственными заключениями и предположениями, сделанными из прошлого опыта. Компьютерная среда должна быть пуста, она просто обучается и получает фидбэк, все. При этом оппоненты Лекуна предполагают, что если мы все же внедрим в среду какие-то минимальные компоненты человеческого опыта, она будет более эффективной. Есть, например, интересные эксперименты, когда сравнивают способности к обучению ребенка и искусственного интеллекта. Ну вот, грубо говоря: сколько слов должен услышать ребенок, чтобы начать говорить, и сколько надо компьютеру, чтобы он сделал то же самое. Так вот, на каком-то примитивном пока еще уровне, но такие совпадения с детской когнитивной психологией находятся.

Тем не менее в разговоры о том, что искусственный интеллект будет обучаться и мы получим нечто сравнимое с интеллектом человека, я в эти разговоры не очень верю. Есть простые примеры. Скажем, на то, чтобы решить задачу по распознаванию кошечек и собачек и научиться отличать их, человеку надо съесть всего несколько бананов. А компьютеру надо несколько киловатт электроэнергии. Мышление компьютера просто неэффективно по энергозатратам.

— А если будет найден альтернативный источник дешевой энергии?

— Это что-то термоядерное, что ли? Да нет, я думаю, что проблема не в объеме и стоимости энергии. Кажется, что это в принципе неадекватный объем энергии для решения такого уровня задач.

— Ну вот вы же, например, насколько я знаю, решали задачу по сравнению восприятия литературного текста человеком и компьютером. Это не кошечки и собачки, а гораздо сложнее. Значит, был все же какой-то в этом толк?

— Вы имеете в виду видео, которое я назвал немного попсово «Как читают компьютеры и как читают люди»? Это была задача, которая опять же не имела никакого отношения к искусственному интеллекту. Логика была очень простая. У меня были два дипломника, и была идея компьютерного анализа литературных произведений, это прикольно. С одним студентом мы взяли русский литературный канон. То есть примерно шестьсот произведений. Взяли сначала классические списки литературы — 100 книг из образовательного проекта «Полка», а потом расширили этот список за счет произведений тех же авторов, ну и немного добавили от себя. Потом мы взяли тексты с интернет-платформы Ridero для публикации самодеятельных авторов, ну то есть фактически графоманов. И вопрос стоял так: сможем ли мы в этой… Ок, на этом ресурсе найти тексты, стилистически и тематически похожие на канон. В итоге мы нашли близкие по метрикам тексты, но степень их близости научно не оценили и не описали. Проблема оказалась в том, как именно оценивать результат. Только субъективно, а субъективный результат нельзя масштабировать.

Вторая задача была такая: у меня были очень интересные, но, правда, довольно «шумные» данные. Лог онлайн-чтения на bookmate. По сути дела, это были просто данные о том, как пользователь перелистывает страницы. И мы играли с этими данными и взяли лог самой популярной книжки 2015 года, то есть «50 оттенков серого». Взяли порог скорости и посчитали, как люди просматривали этот текст. Есть ведь такая гипотеза, что неинтересные места люди пролистывают быстрее. Так вот, мы разметили всю книжку — эротические фрагменты и эмоционально сопоставимые с ними просто интересные места. Постановка задачи была такая: можем ли мы с помощью этих данных предсказать поведение читателя, ничего не зная о нем. Получилось все не суперхорошо, но зато была видна модель поведения женщин и мужчин при чтении одинаковых фрагментов. У мужчин было меньше заинтересованности в эротике.

— Любопытно было бы узнать как раз не о поведении людей во время чтения эротики. Вы не замеряли, может быть, в экстатические моменты у машин резко росло энергопотребление?

— Нет.

— Ну просто новости на эту тему начинают немного настораживать. Вы читали, что какие-то турецкие боевые дроны самообучились и самостоятельно приняли решение об уничтожении цели, не спросясь человека?

— А это правда? Не думаю. Ну то есть уничтожить цель умные дроны могли бы, но я не думаю, что военные такие тупые, чтобы не контролировать этот процесс. Мне кажется, это просто какая-то страшилка. 

Меньше жертв автомобильных аварий. Может быть, в России это не слишком ощущается, но если смотреть на мир в целом, то это так.

— В этом месте можно я перейду на такие общефилософские псевдомудрствования? Вот эти вот идеи безопасности, гуманизма и прочего человеческого совершенства, это ведь изначально идеи убийства Бога, идеи отказа от сверхъестественного и непредсказуемого в пользу рассудочного и необходимого. Вам не кажется, что с помощью машин сверхъестественное берет сейчас своеобразный реванш? Оно туда буквально переезжает, заселяется. Грубо говоря, можно оцифровать все государство с его институтами, Госдумой, судами, музеями и ФСБ, а потом заселить туда цифровую модель Путина, назвать ее как-нибудь более тревожно и непонятно, например Владимир V. И мало того, что Владимир Владимирович наконец-то будет вечным покровителем Госуслуг, мы сами будем умолять его об этом и считать свой аккаунт на Госуслугах наивысшим проявлением гуманизма. Не понадобится даже тюрем — отключение от Госуслуг будет равнозначно казни.

— Я не очень понимаю этот ход мыслей. Может быть, потому что я человек нерелигиозный. Мне кажется, это такая вот научная фантастика. Не понимаю, откуда могут браться такие идеи. В любом случае у нас остается сенсорность, сенсорная система, которая сформирована всей эволюцией человека. Переход сенсорной системы в виртуальную? Ну я не знаю пока примеров, кроме экстремальных, таких как, например, виртуальный секс. Я думаю, у нас довольно большой надежный якорь здесь, в реальном мире. А виртуальный от нас — далеко, и я не знаю, кому он на самом деле нужен.

Ведь не только сенсорные, но и этические навыки держат нас тут. Вы же знаете, например, о проекте Replica? Есть такая Евгения Куйда, в свое время у нее погиб друг, его сбила машина в Москве. Она попробовала сделать его виртуальную личность. Потом она сделала стартап, цель которого — создание голосового ассистента, собеседника. Они его выводят на рынок как ассистента — друга подростка, который постепенно подстраивается под человека и начинает понимать, что тому нравится, а что нет. И когда мне об этом рассказывали, я думал, что такой тип ассистента подойдет одиноким старикам. Но нет! Основные клиенты — подростки. Причем в построении диалога разработчики ориентируются на психотерапевтические рекомендации. И вот это, конечно, мне кажется ужасным.

При этом я не думаю, что эти мои эмоции — повод что-то запрещать. Мне точно также не нравится, что люди проводят так много времени в TikTok. Но это не значит, что TikTok уничтожит человечество. Просто у каждого поколения свои особенности. Кто-то ведь когда-то читал и книжки запоем. А в книжках что только не написано. Но мир как-то до сих пор еще существует.