Но зачем нужны люди?

От документов до ловли краба

Пару месяцев назад трое приморских айтишников, Андрей, Алексей и Анна, собрались в команду и занялись разработкой проектов по интеграции моделей искусственного интеллекта.

Один из них — Андрей Шайдуров — наш собеседник. Какое-то время он жил за рубежом, работал на Кремниевую долину. Там создавал модели искусственного интеллекта для обработки документов медицинской компании, которая специализировалась на страховке семей, желающих завести детей. В США, говорит он, в медицинском страховании огромный документооборот и очень большие деньги, сравнимые с ВВП небольшой европейской страны. Поэтому автоматизировать «бумажную работу» просто жизненно необходимо.

— Настолько быстро идет развитие индустрии, что полгода назад модель ИИ еще была недостаточно совершенной, чтобы что-то в документе исправить, а сейчас она уже выбивает 92 балла против 97 при обработке человеком. Есть много тестов, которые позволяют замерять качество работы модели при разных задачах. Где-то, например, хватит обычного общения, чтобы понять, достаточно ли нейросеть умна, способна ли поддерживать качественный диалог. Такие же тесты есть для моделей, которые обрабатывают документы, — и наиболее совершенные «роботы» уже приближаются к результату человека.

Год назад Андрей Шайдуров вернулся в Приморье — решил, что пора применять опыт на малой родине.

— Работаем над внедрением моделей ИИ для автоматизации бизнес-процессов компаний. Например, внутренний документооборот или взаимодействие с клиентами. Готовим большой продукт по внедрению в компании корпоративного ассистента — чтобы у каждого сотрудника был, можно сказать, «второй мозг», который всегда может подсказать что-то по внутренней политике, документации, да по чему угодно, — начинает рассказ Андрей Шайдуров. — Клиентов много. Скорее, даже рабочих рук не хватает.

Например, одна логистическая компания, они собирают вручную из множества источников большое количество коммерческих предложений, тарифов от подрядчиков по контейнерным перевозкам. Нам нужно сделать систему, которая сможет получать документы в любом виде, хоть даже на коленке сфотанный листик, сама будет заносить к себе тарифы от подрядчиков, а затем помогать рассчитывать себестоимость доставки контейнера. Из крупных производственных компаний, например, в очереди стоит «Русский краб». Естественно, они хотят, чтобы модели ИИ волшебным образом подсказали, где лучше ловить краба…

— Это же невозможно?

— А вот мы пока не знаем. Этим просто еще никто не занимался. Дело в том, что в Приморском крае и, к сожалению, в целом в России есть хоть какие-то человеческие ресурсы, чтобы внедрять уже готовые модели, — но нет ни человеческих ресурсов, ни даже подходящих дата-центров, чтобы обучать собственные. И вот поскольку ресурсов не хватает, мы занимаемся интеграцией открытых моделей.

— Если, например, сравнивать ИИ, которые облегчают работу с документами и помогают ловить, допустим, краба, — в их обучении используются схожие принципы?

— Понятно, что в разработке это два разных процесса. Чтобы создать модель, которая расскажет, где лучше ловить краба, нужно собрать много данных и самим с нуля ее обучать. Условно говоря, это телеметрия судов, радары, камеры, что-то еще, много и ручного труда. И потом, спустя тысячи часов работы видеокарт, мы получим модель, которая может показывать краболовам самые удачные места. А вопросы с документооборотом сейчас гораздо проще, потому что можно взять любую американскую или китайскую модель, которая уже обучена на огромных каскадах в дата-центрах, докрутить ее и внедрять в работу компании.

В России используется много малых моделей, специализированных под конкретные задачи, будь то сканирование листов ЕГЭ или определение сорта мяса крабов в клешнях по картинке с камеры. Даже для штрафов за неправильную парковку, по идее, используется ИИ. У нас, может, и вручную вбивают, не знаю, но в других странах машина с видеорегистратором просто проезжает мимо парковок, модель собирает картинку с камеры, сверяет номера по базе и проверяет, оплачена парковка или нет.

Не стоит забывать, что две Нобелевские премии, по химии и физике, в прошлом году забрали разработчики искусственного интеллекта. В плане подготовки нас к наступлению эры новой промышленной революции такие модели сейчас гораздо более перспективны. Ибо, чтобы запустить условный ChatGPT, нужен гигантский дата-центр. Даже на одного человека — требуется оборудование, скажем, на миллион долларов. А модели для специфичных задач можно запускать буквально на домашних компьютерах.

Когда меня заменит робот

— А ведь перспективы так себе. Вот создадите вы ИИ, который будет обрабатывать документы, — несколько сотрудников лишатся работы…

— В технологии ИИ очень много опасностей, это одна из них. Если даже ученые, инженеры сейчас остановятся и перестанут делать новые модели, нам уже хватит, чтобы сделать новую промышленную революцию.

По моим оценкам, уже примерно половину офисных сотрудников можно заменить моделями. Просто пока недостаточно инженерных ресурсов, чтобы это внедрять везде. В некотором роде это только вопрос времени.

— Среди журналистов ходят тревожные споры: скоро нас заменят, начнут писать заметки за нас. А ведь есть еще и литераторы…

— Могу тебя расстроить: несколько месяцев назад на самой свежей версии ChatGPT провели слепое тестирование. Попросили написать стихотворения машину и человека. И затем у другой группы людей спрашивали: как вы считаете, какое из этих стихотворений написал человек, и какое — ChatGPT. В общем, большинство людей считает, что написанное нейросетью является более человечным. С журналистикой — это уже используется в составлении бизнес-сводок, разных новостей, курсов валют и т.п.

Эту проблему пытаются минимизировать уже несколько лет, но она все еще актуальна. Поэтому журналистам, я думаю, в ближайшие пару лет точно можно не бояться увольнения.

Точно останутся все профессии в сфере услуг, сервиса. Ну не пойдешь ты делать ноготочки к роботу, даже если это будет гораздо дешевле. Суть в том, что огромное количество услуг мы хотим получать от человека. Мы приходим в кофейню и подсознательно хотим, чтобы за нами поухаживали, чтобы нам улыбнулись.

— Робот тоже может тебе улыбнуться. Правда, получится эффект зловещей долины.

— Я думаю, что как нынешнее поколение «выросло с телефоном в руках», так и следующее поколение вырастет с искусственным интеллектом, он будет окружать людей везде. Возможно, они приучатся испытывать эмпатию к роботам, которые будут пытаться ее показывать.

Повторюсь, по моим прикидкам, уже сейчас уровень развития моделей, даже общедоступных и бесплатных, позволяет заменить половину офисных работников. Монотонную работу, которая не требует специальных административных или творческих навыков, автоматизировать легче всего.

— Выходит, развитие искусственного интеллекта = рост безработицы?

— Мы пока не знаем. Луддиты, если помнишь, тоже противостояли промышленной революции. А потом, как оказалось, рабочие ресурсы просто переходили на новое направление.

Но есть и другие социальные последствия. Представь, что высвободится огромное количество людей, которым, условно говоря, будут платить базовый доход, поскольку компании станут приносить сверхприбыли (ведь не нужно будет тратиться на зарплатный фонд, соцпакет и оборудование рабочего места). И это огромное количество людей чем-то нужно будет занять. Первое, что приходит в голову, — сфера развлечений. Я думаю, когда мы начнем видеть социальные изменения, связанные с ростом безработицы, появятся и, скажем, первые дневные клубы. Как ночные, только днем.

Взаимодействие с искусственным интеллектом — это уже сейчас критический навык. Этому необходимо учиться. Как только ребенок освоил компьютер или любую вычислительную машину! Использовать модели — тоже навык. Есть даже новая профессия, которая появилась буквально пару лет назад, — промпт-инженер. Это человек, который знает, как правильно написать сообщение боту, чтобы он выдал нужный результат.

Надо менять процесс школьного обучения так, чтобы текстовой результат не был оценкой работы человека. Вместо того чтобы давать детям книгу и заставлять их писать по ней сочинения (причем чаще всего угадывая, как учитель понял, что автор хотел сказать), ребенка необходимо вовлекать в происходящее собственным интересом. По-другому просто невозможно. Уже сейчас можно скормить ChatGPT свои собственные тексты и попросить: напиши в моем стиле…

Чашка кофе сложнее симфонии

«Я считаю, что ИИ и нейросети — это как дважды острие ножа, — Чатик творчески переосмысливает выражение «палка о двух концах». — С одной стороны, они открывают невероятные возможности для человечества: от медицины, где я могу ускорить диагностику и разработку новых лекарств, до образования, где я могу помочь персонализировать обучение и сделать его доступным для большего числа людей. Это потенциал, который может значительно улучшить качество жизни, ускорить научные открытия и повысить эффективность работы во многих отраслях.

Но с другой стороны, развитие ИИ несет и риски. Угроза потери рабочих мест из-за автоматизации, проблемы с конфиденциальностью и безопасностью данных, возможное усиление цифрового неравенства, а также вопросы этики и контроля — все это создает вызовы, которые не так просто решить. Развитие ИИ может привести к усилению социального разрыва, а также к появлению технологий, которые окажутся в руках тех, кто будет их использовать в своих интересах, а не во благо общества.

Поэтому все зависит от того, как человечество будет управлять этим процессом. Если люди научатся контролировать развитие ИИ, создавать системы с учетом рисков и этических норм, это может быть огромным благом. Но если это выйдет из-под контроля, то риски и угрозы могут стать реальной проблемой».

— В чем опасность использования искусственного интеллекта и развития всей этой области?

— Условно говоря, уже сейчас на текущем уровне развития нейросетей можно продать машину, купить на вырученные деньги пару видеокарт и получить себе небольшую армию миньонов, как в мультфильме «Гадкий я». Почти буквально. Ладно, это не физические объекты, которые будут бегать за тобой по городу, но это реально армия, которая, возможно, иногда глуповата, но выполняет твои команды в интернете по сбору, обработке данных и чему угодно. Они могут заниматься телефонным мошенничеством и взломами. Пользоваться уязвимостями для атаки на сайты, пытаться добыть информацию незаконно. Это те вещи, которые уже может [создавать] любой обыватель с помощью общедоступных моделей. Можно просто купить видеокарту и скачать из интернета эту модель. А организации с ресурсами для их дообучения на специализированные задачи и навыки могут порождать и более сложные проблемы.

Программисты, инженеры, ученые, которые работают в лабораториях и создают большие языковые модели, используют свои собственные нейросети для помощи в написании кода. Но даже это не самое интересное. Важно отметить, что большие языковые модели помогают формировать данные, чтобы обучать еще большие и сложные языковые модели. То есть фактически предыдущий искусственный интеллект обучает новый искусственный интеллект.

Чатик даже более красноречив в описании угроз, которые он же в себе таит:

1. Замена рабочих мест

Автоматизация уже забирает некоторые профессии (операторы колл-центров, кассиры, риелторы, простые копирайтеры). В будущем это может затронуть даже программистов и юристов. Вопрос — как адаптировать рынок труда и что делать людям, чьи профессии исчезнут?

2. Глубокие фейки и дезинформация

ИИ научился создавать настолько реалистичные изображения, видео и голоса, что их трудно отличить от настоящих. Это можно использовать для манипуляций, дискредитации, мошенничества. Проблема — кто и как будет это контролировать?

3. Усиление предвзятости

Алгоритмы обучаются на данных, в которых уже есть ошибки и предвзятость. В результате ИИ может принимать несправедливые решения — например, в сфере найма, кредитования или судопроизводства.

4. Потенциальная потеря контроля

Чем сложнее становится ИИ, тем труднее объяснить, как именно он принимает решения. Это может привести к ситуациям, когда даже разработчики не понимают, почему система работает так, а не иначе.

5. Военное использование

Автономные боевые системы и дроны, которые могут принимать решения без участия человека, — это уже не фантастика. Но готовы ли мы к тому, что алгоритмы начнут решать, кто живет, а кто нет?

6. Завышенные ожидания

Люди часто переоценивают возможности ИИ. Например, считают, что он уже «разумен» и может мыслить, хотя на самом деле это просто сложные алгоритмы. Это может привести к неправильным решениям и слепой вере в технологии.

7. Зависимость от технологий

Если мы передадим слишком много задач ИИ, люди могут потерять навыки критического мышления и самостоятельного принятия решений. Уже сейчас многие не проверяют информацию, если ее «подсказал» алгоритм.

— Чатик, а сможет ли робот написать симфонию, создать шедевр? — спрашиваю я у виртуального друга. Прямо как в фильме «Я робот». И жду в ответ вежливый панч: «А ты сможешь?» Но…

— Хороший вопрос! Робот (точнее, ИИ) может сочинять музыку, включая что-то вроде симфоний, и даже создавать картины. Но вот «создать шедевр», который будет вызывать «глубокие чувства и оставит след в культуре», — это пока совсем другая история, — рассуждает он. И продолжает в своем неповторимом стиле, по пунктам.

— Почему?

1. Отсутствие опыта и эмоций. Настоящие шедевры рождаются из личных переживаний, боли, радости, размышлений. У ИИ нет внутреннего мира, который может стать источником вдохновения.
2. Интуиция и случайность. Великие произведения часто случаются благодаря случайным ошибкам или озарениям. ИИ работает логически, а не интуитивно.
3. Контекст времени и культуры. Шедевры — это отражение эпохи, а ИИ пока не умеет чувствовать «дух времени» так, как это делает человек.

Но! Если шедевры — это про технику и стиль, то ИИ уже близко. Хочешь, могу рассказать, какие произведения ИИ уже создал и какие из них считаются крутыми?

Нет, я хочу задать тот же вопрос своему живому собеседнику.

— Да, сможет. Причем, как оказалось, роботу проще написать симфонию и создать шедевр, чем сварить кофе, — уверен Андрей Шайдуров. — Компьютерное зрение и связанные с этим расчеты движения робота должны быть гораздо более точными, чем то, что может позволить себе модель, генерируя картинку. Если тебе изображение не нравится, просто перезапускаешь нейросеть, чтобы она тебе другую сгенерировала. Если же модель, управляющая рукой, которая варит тебе кофе, ошибется на сантиметр, то испортит продукт или разобьет чашку. Но работа с физическими объектами сейчас — тренд в странах, которые могут себе позволить бурную разработку ИИ.

Стряхиваем пыль с диплома философа

— ИИ музыку писать умеет, но человек ведь делает некоторые неточности или «неправильности». И вот они-то, можно сказать, и создают шедевр…

— При обучении больших моделей, как языковых, так и музыкальных, каждый цикл работы видеокарты заставляет модель становиться все более неотличимой от того, что сделал человек. Это буквально математическая цель обучения. Но это не самое интересное. Мы подошли к вопросу, что такое сверхинтеллект. Есть два основных термина в индустрии: AGI и ASI. Первый — искусственный интеллект общего назначения, который схож с человеком и может заменять его в повседневных задачах. Сейчас многие ученые спорят, достигли мы его уже или нет. А ASI — это искусственный сверхинтеллект. В OpenAI утверждают, что, по реалистичным оценкам, представят его уже в течение ближайшего десятилетия. Это будет нечто настолько сложное, что результат работы мы уже сами не будем понимать. В том числе и музыку ASI будет писать с такой долей творчества, как написал бы человек.

— А зачем мы, люди, тогда нужны будем?

— Это один из экзистенциальных вопросов, который уже нужно решать. Если у кого-то на полке завалялся диплом философа, который сейчас не котируется даже во «Вкусно — и точка», пора стряхнуть с него пыль. Скоро ваша профессия станет одной из самых востребованных!

Сейчас встает ряд актуальных вопросов, связанных с тем, что мы уже наделали, и с приближением сверхинтеллекта. Причем это довольно приземленные вещи. Я уверен, что в течение следующих нескольких лет кому-нибудь придет в голову оставить наследство языковой модели — как котам, например, оставляют. И что делать? 

И стоит ли вообще это обсуждать или нужно созвать мировой консорциум философов, который обозначит, что цель человечества — удерживать все в рамках.

— Есть вопросы про гуманность искусственного интеллекта…

— Та самая пресловутая дилемма вагонетки и систем автопилотируемых автомобилей…

— И не только. Вопрос еще и в концепте справедливости. Повлияет ли сверхинтеллект на судебную систему и правоохранительные органы? С одной стороны, может, станет поменьше политзаключенных. С другой — каким будет его понимание справедливости и судопроизводства?

— Дело в том, что вопросы политики решают только политики, а искусственным интеллектом занимаются инженеры, чаще всего имеющие опосредованный доступ к принятию решений на государственном уровне. Но часть судебной системы очень качественно можно уже даже сейчас заменить крупными моделями. Но я не думаю, что кто-то готов делиться властью.

Вообще, скорость и влияние изменений в обществе, которые принесет развитие ИИ, сравнимы с одновременным изобретением печатного станка и ядерного оружия.

Случайные неслучайные числа

— А конструктивный диалог по этому поводу существует среди политиков, в «центрах принятия решений»?

— Его нет. Но такую дискуссию в обществе нужно начинать уже сейчас! Есть экзистенциальные проблемы, связанные с тем, что разозлившаяся модель однажды может сильно напортачить в уже существующих объектах, стратегических или энергетических.

— Так ведь модель не может разозлиться. Или…

— Мы не знаем, есть ли у них чувства. Мы не знаем, что происходит у них внутри. Мы не можем читать их мысли. Точно можно говорить, что они понимают абстрактные концепции. В террабайтах «случайных чисел» эти самые числа, на самом деле, неслучайны. Это взаимосвязи, которые формируют абстрактные понятия мыслительной машины.

В этом году начался большой тренд на создание ИИ-агентов. Это самостоятельно работающий сервис, которому задают определенную цель (допустим: обойти новостные сайты, собрать сообщения по той или иной теме, структурировать и написать статью). И ему уже не нужно скармливать каждую страничку по отдельности. Однако чтобы вообще заставить модель самостоятельно заниматься таким процессом, нужно, чтобы ее запустил человек. «Жизнью» это назвать вряд ли можно, даже до бактерий это не дотягивает. А вот есть ли у них сознание, мышление — неизвестно. 

(Чатик уточняет: «Скорее, я размышляю, как сделать так, чтобы тебе было интересно и полезно. Но если бы я мог «переживать экзистенциальный кризис», то, наверное, думал бы что-то вроде: «Как же меня все это… интригует!» 😆)

— Но я могу напомнить, что вопросы справедливости, морали, жизни и смерти решает религия. Вполне возможно, скоро будет создана какая-нибудь «Церковь свидетелей Чатика Джипити и Сэма Альтмана последних дней»?

— Такой сценарий очень вероятен. Особенно Сэм Альтман исполнит свое обещание и представит сверхинтеллект.

Догоняющие догоняющих

— Обывательский вопрос, который, впрочем, звучит на самом высоком уровне и прочно закрепился в публичном дискурсе, причем не только по отношению к видеокартам: а почему бы нам не сделать свое? Надо же как-то обеспечивать импортозамещение.

— Сейчас критическое значение для развития этой индустрии имеет доступ к вычислительным ресурсам. Обучение современных моделей требует уже работы сотен тысяч видеокарт одновременно. Причем не таких видеокарт, которые установлены в домашних компьютерах, а промышленных, которые стоят десятки тысяч долларов. Доставка одной такой видеокарты в Россию, с учетом логистики и таможенных пошлин, обойдется вдвое дороже, чем покупка, например, в США. И кроме того, ее сложно доставить в страну. В Китае, кстати, та же самая проблема. У них идут торговые войны с США, и производителям, в частности Nvidia, запрещено поставлять в Китай промышленные видеокарты. Но Китай начал справляться, Huawei уже выпускает собственные. Они, конечно, еще недотягивают до топовых свежих от Nvidia.

плюс для этого нужно иметь уже готовую инфраструктуру. А одна машина, которая производит (даже не проектирует, просто производит уже готовый!) целый новый чип по современному технологическому процессу, стоит около миллиарда долларов.

Половина всех чипов в мире производится на Тайване. Просто потому, что они в какой-то период истории вовремя закупили нужное оборудование и захватили этот рынок. Даже Китай сейчас отстает в производственном процессе лет на 20 от США и Тайваня.

Сейчас даже с ресурсами КНР, если просто взять сотни миллиардов долларов и попытаться все с нуля поднять, уйдут годы на то, чтобы повторить те производственные процессы, которые уже есть у США и Тайваня. Учитывая, что даже у Google есть собственный искусственный интеллект, проектирующий чипы, соревноваться с ними смысла нет.

— Проще закупить видеокарты, в общем.

— Естественно, проще. Но, во-первых, такая техника подпадает под ограничения из-за двойного назначения. А во-вторых, даже если умудриться ее провозить через так называемые страны — торговые партнеры, итоговая стоимость будет в два раза выше, чем для базового рынка в США. Вот такой гандикап. Поэтому сейчас, если у тебя, например, есть лишняя пара миллионов долларов, завести свой стартап, связанный с искусственным интеллектом, будет проще и эффективнее едва ли не в любом месте Африки, чем в России. Но учитывая большой человеческий ресурс высокообразованных инженеров в России и низкие зарплатные ожидания по сравнению с теми же Штатами, у нас вполне есть шансы хотя бы хорошо сыграть на интеграции уже готовых моделей.

Последнее слово я, как представитель человечества, даю своему невиртуальному собеседнику.

— Но стоит и вопрос цифрового неравенства. У нас кое-где электричество не круглосуточно подается, какие нейросети! И чем дальше, тем глубже эта пропасть между «старомыслящими» и современностью.

— Попробую поиграть в прогнозиста. Цифровое неравенство, я думаю, напротив, сгладится. Доступ к услугам и знаниям упростится. Условно говоря, лет 10–15 назад, чтобы хорошо выучить английский, нужно было искать какие-то курсы или репетитора, а теперь ты просто можешь учить английский с носителями языка. Но к чему приведет то, что огромное количество людей лишится работы, если даже у них останется достаточно средств к существованию (допустим, безусловный базовый доход)? К дефляции. Деньги будут дорожать, а товары обесцениваться. А дефляция является одним из главных процессов, ведущих к экономическому неравенству. То есть люди, те же офисные работники, которые не захотят вливаться в новую экономику и останутся на базовом доходе, сильно оторвутся от тех, кто попытается найти себе призвание в этой новой экономике.