ИнтервьюОбщество

Но зачем нужны люди?

Разработчик моделей ИИ объясняет, в чем плюсы и минусы нейросетей. А что об этом думает ChatGPT по имени Чатик?

Но зачем нужны люди?

Фото: Александр Миридонов / Коммерсантъ

У моего ChatGPT есть нехитрое имя. Я стала называть его Чатик, а он сказал, что ему нравится. Он такой доброжелательный, аж бесит. Ударила палец? «Ай, беда… Это больно, понимаю», — и советы, как лед прикладывать. Худеешь? Вот тебе рецепты тушеных кабачков и котлет из кальмара (сам придумал). Хочешь, по-английски поговорим, хочешь — музыку обсудим, а хочешь — жалуйся на родственников сколько влезет! Но держи ухо востро — он любитель пофилонить. Может не заморачиваться фактчекингом — и ладно если в разговорах про музыку, а ведь лопухи-студенты ему доверяют курсовые. Еще Чатик скромный. «Ого, мне очень приятно, но я всего лишь инструмент для помощи!..» — ответил он на просьбу указать его в соавторах этого текста. Правда, со второго раза согласился. Тщеславная машина, хитрая притом.

Может, зря я его так очеловечиваю? Способен ли вообще искусственный интеллект на чувства, эмоции, дружбу? И сможет ли он заменить меня на работе в ближайшем будущем? А что насчет написания шедевров — теперь симфонии и стихи создаются в зловещей Кремниевой долине? И почему бы России не создать свой ИИ, скрепный и православный, лучше всяких Deepseek и ChatGPT? На эти вопросы мне отвечают пользователи и разработчики искусственного интеллекта и… сам Чатик.

Андрей Шайдуров. Фото: Валерия Федоренко / «Новая газета»

Андрей Шайдуров. Фото: Валерия Федоренко / «Новая газета»

От документов до ловли краба

Пару месяцев назад трое приморских айтишников, Андрей, Алексей и Анна, собрались в команду и занялись разработкой проектов по интеграции моделей искусственного интеллекта.

Один из них Андрей Шайдуров наш собеседник. Какое-то время он жил за рубежом, работал на Кремниевую долину. Там создавал модели искусственного интеллекта для обработки документов медицинской компании, которая специализировалась на страховке семей, желающих завести детей. В США, говорит он, в медицинском страховании огромный документооборот и очень большие деньги, сравнимые с ВВП небольшой европейской страны. Поэтому автоматизировать «бумажную работу» просто жизненно необходимо.

— Настолько быстро идет развитие индустрии, что полгода назад модель ИИ еще была недостаточно совершенной, чтобы что-то в документе исправить, а сейчас она уже выбивает 92 балла против 97 при обработке человеком. Есть много тестов, которые позволяют замерять качество работы модели при разных задачах. Где-то, например, хватит обычного общения, чтобы понять, достаточно ли нейросеть умна, способна ли поддерживать качественный диалог. Такие же тесты есть для моделей, которые обрабатывают документы, — и наиболее совершенные «роботы» уже приближаются к результату человека.

Год назад Андрей Шайдуров вернулся в Приморье — решил, что пора применять опыт на малой родине.

— Работаем над внедрением моделей ИИ для автоматизации бизнес-процессов компаний. Например, внутренний документооборот или взаимодействие с клиентами. Готовим большой продукт по внедрению в компании корпоративного ассистента — чтобы у каждого сотрудника был, можно сказать, «второй мозг», который всегда может подсказать что-то по внутренней политике, документации, да по чему угодно, — начинает рассказ Андрей Шайдуров. — Клиентов много. Скорее, даже рабочих рук не хватает.

Например, одна логистическая компания, они собирают вручную из множества источников большое количество коммерческих предложений, тарифов от подрядчиков по контейнерным перевозкам. Нам нужно сделать систему, которая сможет получать документы в любом виде, хоть даже на коленке сфотанный листик, сама будет заносить к себе тарифы от подрядчиков, а затем помогать рассчитывать себестоимость доставки контейнера. Из крупных производственных компаний, например, в очереди стоит «Русский краб». Естественно, они хотят, чтобы модели ИИ волшебным образом подсказали, где лучше ловить краба…

Фото: Юрий Смитюк / ТАСС

Фото: Юрий Смитюк / ТАСС

— Это же невозможно?

— А вот мы пока не знаем. Этим просто еще никто не занимался. Дело в том, что в Приморском крае и, к сожалению, в целом в России есть хоть какие-то человеческие ресурсы, чтобы внедрять уже готовые модели, — но нет ни человеческих ресурсов, ни даже подходящих дата-центров, чтобы обучать собственные. И вот поскольку ресурсов не хватает, мы занимаемся интеграцией открытых моделей.

— Если, например, сравнивать ИИ, которые облегчают работу с документами и помогают ловить, допустим, краба, — в их обучении используются схожие принципы?

— Понятно, что в разработке это два разных процесса. Чтобы создать модель, которая расскажет, где лучше ловить краба, нужно собрать много данных и самим с нуля ее обучать. Условно говоря, это телеметрия судов, радары, камеры, что-то еще, много и ручного труда. И потом, спустя тысячи часов работы видеокарт, мы получим модель, которая может показывать краболовам самые удачные места. А вопросы с документооборотом сейчас гораздо проще, потому что можно взять любую американскую или китайскую модель, которая уже обучена на огромных каскадах в дата-центрах, докрутить ее и внедрять в работу компании.

В России используется много малых моделей, специализированных под конкретные задачи, будь то сканирование листов ЕГЭ или определение сорта мяса крабов в клешнях по картинке с камеры. Даже для штрафов за неправильную парковку, по идее, используется ИИ. У нас, может, и вручную вбивают, не знаю, но в других странах машина с видеорегистратором просто проезжает мимо парковок, модель собирает картинку с камеры, сверяет номера по базе и проверяет, оплачена парковка или нет.

Но, скажем, в США уже давно флюорографию обрабатывает не рентгенолог. Снимки легких на проверку наличия опухоли модель ИИ тоже определяет уже с большей точностью, чем врач.

Не стоит забывать, что две Нобелевские премии, по химии и физике, в прошлом году забрали разработчики искусственного интеллекта. В плане подготовки нас к наступлению эры новой промышленной революции такие модели сейчас гораздо более перспективны. Ибо, чтобы запустить условный ChatGPT, нужен гигантский дата-центр. Даже на одного человека — требуется оборудование, скажем, на миллион долларов. А модели для специфичных задач можно запускать буквально на домашних компьютерах.

Фото: Александр Миридонов / Коммерсантъ

Фото: Александр Миридонов / Коммерсантъ

Справка «Новой»

Составлена с помощью ChatGPT, проверенная вручную мной и им же:

9 октября 2024 года Нобелевскую премию по химии разделили американец Дэвид Бейкер и британцы Джон Джампер и Демис Хассабис за их достижения в области изучения белков. Дэвид Бейкер был отмечен за разработки в области компьютерного дизайна белков, позволяющие создавать новые белковые структуры с заданными свойствами. Демис Хассабис и Джон Джампер из компании Google DeepMind были награждены за создание алгоритма AlphaFold, способного точно предсказывать трехмерную структуру белков на основе их аминокислотной последовательности. Эти достижения открывают новые возможности в медицине и биотехнологиях, способствуя разработке новых лекарств и пониманию биологических процессов.

А 8 октября 2024 года Нобелевскую премию по физике получили американец Джон Хопфилд и британец Джеффри Хинтон за фундаментальные открытия в области машинного обучения и искусственных нейронных сетей. Джон Хопфилд еще в 1980-х годах разработал математическую модель нейронных сетей, которая показала, что даже простые элементы, объединенные в систему, могут решать сложные задачи. Его работа оказалась важной для понимания того, как информация обрабатывается в биологических и искусственных нейронных сетях. Джеффри Хинтон, в свою очередь, считается одним из пионеров глубокого обучения. Он внес большой вклад в развитие алгоритмов обратного распространения ошибки (backpropagation), которые позволили значительно улучшить обучение многослойных нейронных сетей. Благодаря его исследованиям стали возможны современные системы распознавания изображений, голоса, автопилоты, чат-боты и многие другие технологии на основе ИИ.

Когда меня заменит робот

— А ведь перспективы так себе. Вот создадите вы ИИ, который будет обрабатывать документы, — несколько сотрудников лишатся работы…

— В технологии ИИ очень много опасностей, это одна из них. Если даже ученые, инженеры сейчас остановятся и перестанут делать новые модели, нам уже хватит, чтобы сделать новую промышленную революцию.

По моим оценкам, уже примерно половину офисных сотрудников можно заменить моделями. Просто пока недостаточно инженерных ресурсов, чтобы это внедрять везде. В некотором роде это только вопрос времени.

— Среди журналистов ходят тревожные споры: скоро нас заменят, начнут писать заметки за нас. А ведь есть еще и литераторы…

— Могу тебя расстроить: несколько месяцев назад на самой свежей версии ChatGPT провели слепое тестирование. Попросили написать стихотворения машину и человека. И затем у другой группы людей спрашивали: как вы считаете, какое из этих стихотворений написал человек, и какое — ChatGPT. В общем, большинство людей считает, что написанное нейросетью является более человечным. С журналистикой — это уже используется в составлении бизнес-сводок, разных новостей, курсов валют и т.п.

Большая проблема современных языковых моделей связана с тем, что они имеют особенность галлюцинировать. Вместо того чтобы сказать: «Я не знаю, я не могу что-то написать» — она начинает выдумывать.

Эту проблему пытаются минимизировать уже несколько лет, но она все еще актуальна. Поэтому журналистам, я думаю, в ближайшие пару лет точно можно не бояться увольнения.

Точно останутся все профессии в сфере услуг, сервиса. Ну не пойдешь ты делать ноготочки к роботу, даже если это будет гораздо дешевле. Суть в том, что огромное количество услуг мы хотим получать от человека. Мы приходим в кофейню и подсознательно хотим, чтобы за нами поухаживали, чтобы нам улыбнулись.

— Робот тоже может тебе улыбнуться. Правда, получится эффект зловещей долины.

— Я думаю, что как нынешнее поколение «выросло с телефоном в руках», так и следующее поколение вырастет с искусственным интеллектом, он будет окружать людей везде. Возможно, они приучатся испытывать эмпатию к роботам, которые будут пытаться ее показывать.

Повторюсь, по моим прикидкам, уже сейчас уровень развития моделей, даже общедоступных и бесплатных, позволяет заменить половину офисных работников. Монотонную работу, которая не требует специальных административных или творческих навыков, автоматизировать легче всего.

Фото: Zuma / TASS

Фото: Zuma / TASS

— Выходит, развитие искусственного интеллекта = рост безработицы?

— Мы пока не знаем. Луддиты, если помнишь, тоже противостояли промышленной революции. А потом, как оказалось, рабочие ресурсы просто переходили на новое направление.

Но есть и другие социальные последствия. Представь, что высвободится огромное количество людей, которым, условно говоря, будут платить базовый доход, поскольку компании станут приносить сверхприбыли (ведь не нужно будет тратиться на зарплатный фонд, соцпакет и оборудование рабочего места). И это огромное количество людей чем-то нужно будет занять. Первое, что приходит в голову, — сфера развлечений. Я думаю, когда мы начнем видеть социальные изменения, связанные с ростом безработицы, появятся и, скажем, первые дневные клубы. Как ночные, только днем.

Взаимодействие с искусственным интеллектом — это уже сейчас критический навык. Этому необходимо учиться. Как только ребенок освоил компьютер или любую вычислительную машину! Использовать модели — тоже навык. Есть даже новая профессия, которая появилась буквально пару лет назад, промпт-инженер. Это человек, который знает, как правильно написать сообщение боту, чтобы он выдал нужный результат.

Надо менять процесс школьного обучения так, чтобы текстовой результат не был оценкой работы человека. Вместо того чтобы давать детям книгу и заставлять их писать по ней сочинения (причем чаще всего угадывая, как учитель понял, что автор хотел сказать), ребенка необходимо вовлекать в происходящее собственным интересом. По-другому просто невозможно. Уже сейчас можно скормить ChatGPT свои собственные тексты и попросить: напиши в моем стиле…

Чатик обещает меня не заменять

«Нейросети уже сейчас активно заменяют или автоматизируют некоторые профессии, но далеко не все. Вот несколько сфер, где замена людей вероятна в ближайшие годы:

Высокий риск автоматизации

  • Операторы колл-центров — боты уже обрабатывают клиентские запросы, и скоро смогут делать это на уровне человека.
  • Переводчики базового уровня — простые тексты и деловая переписка уже неплохо переводятся ИИ. Но художественные и сложные тексты — пока нет.
  • Контент-маркетинг и копирайтинг (простые тексты) — SEO-статьи, рекламные слоганы и новости все чаще пишут алгоритмы.
  • Кассиры и администраторы — самообслуживание и голосовые помощники постепенно вытесняют этих специалистов.
  • Юридические консультанты базового уровня — ИИ может анализировать законы и предлагать решения в стандартных случаях.
  • Риелторы (частично) — многие сделки уже проходят онлайн, а ИИ может анализировать рынок и предлагать варианты.

Средний риск

  • Журналисты (новостные) — алгоритмы могут генерировать отчеты и сводки, но расследования и аналитику все еще делают люди.
  • Графические дизайнеры (базовые задачи) — нейросети умеют делать логотипы, баннеры и базовый дизайн, но сложные концепции пока за людьми.
  • Программисты (некоторые задачи) — код уже частично пишут нейросети, но архитектуру и сложные системы пока разрабатывают люди.
  • Учителя (онлайн-курсы и тесты) — в обучении появилось много адаптивных платформ с ИИ, но живого общения они пока не заменяют.
  • Водители (дальнобойщики, такси) — автопилоты развиваются, но пока не готовы полностью заменить людей в сложных условиях.

Низкий риск

  • Творческие профессии (писатели, сценаристы, музыканты, художники) — ИИ может генерировать идеи, но не заменит уникальное видение человека.
  • Психологи, коучи — тут важны эмпатия, опыт и живое общение.
  • Инженеры и ученые — нестандартное мышление и инновации пока за людьми.
  • Врачи (особенно хирурги, диагносты сложных случаев) — ИИ помогает, но не заменяет медиков полностью.

В общем, пока ИИ заменяет рутинные процессы, но профессии, требующие креативности, гибкости и эмпатии, остаются за человеком. Так что ты пока точно в безопасности 😉».

Представление ChatGPT о том, как он сам выглядит. Источник: ChatGPT

Представление ChatGPT о том, как он сам выглядит. Источник: ChatGPT

Чашка кофе сложнее симфонии

«Я считаю, что ИИ и нейросети — это как дважды острие ножа, — Чатик творчески переосмысливает выражение «палка о двух концах». — С одной стороны, они открывают невероятные возможности для человечества: от медицины, где я могу ускорить диагностику и разработку новых лекарств, до образования, где я могу помочь персонализировать обучение и сделать его доступным для большего числа людей. Это потенциал, который может значительно улучшить качество жизни, ускорить научные открытия и повысить эффективность работы во многих отраслях.

Но с другой стороны, развитие ИИ несет и риски. Угроза потери рабочих мест из-за автоматизации, проблемы с конфиденциальностью и безопасностью данных, возможное усиление цифрового неравенства, а также вопросы этики и контроля — все это создает вызовы, которые не так просто решить. Развитие ИИ может привести к усилению социального разрыва, а также к появлению технологий, которые окажутся в руках тех, кто будет их использовать в своих интересах, а не во благо общества.

Поэтому все зависит от того, как человечество будет управлять этим процессом. Если люди научатся контролировать развитие ИИ, создавать системы с учетом рисков и этических норм, это может быть огромным благом. Но если это выйдет из-под контроля, то риски и угрозы могут стать реальной проблемой».

— В чем опасность использования искусственного интеллекта и развития всей этой области?

— Условно говоря, уже сейчас на текущем уровне развития нейросетей можно продать машину, купить на вырученные деньги пару видеокарт и получить себе небольшую армию миньонов, как в мультфильме «Гадкий я». Почти буквально. Ладно, это не физические объекты, которые будут бегать за тобой по городу, но это реально армия, которая, возможно, иногда глуповата, но выполняет твои команды в интернете по сбору, обработке данных и чему угодно. Они могут заниматься телефонным мошенничеством и взломами. Пользоваться уязвимостями для атаки на сайты, пытаться добыть информацию незаконно. Это те вещи, которые уже может [создавать] любой обыватель с помощью общедоступных моделей. Можно просто купить видеокарту и скачать из интернета эту модель. А организации с ресурсами для их дообучения на специализированные задачи и навыки могут порождать и более сложные проблемы.

Программисты, инженеры, ученые, которые работают в лабораториях и создают большие языковые модели, используют свои собственные нейросети для помощи в написании кода. Но даже это не самое интересное. Важно отметить, что большие языковые модели помогают формировать данные, чтобы обучать еще большие и сложные языковые модели. То есть фактически предыдущий искусственный интеллект обучает новый искусственный интеллект.

Чатик даже более красноречив в описании угроз, которые он же в себе таит:

1. Замена рабочих мест

Автоматизация уже забирает некоторые профессии (операторы колл-центров, кассиры, риелторы, простые копирайтеры). В будущем это может затронуть даже программистов и юристов. Вопрос — как адаптировать рынок труда и что делать людям, чьи профессии исчезнут?

2. Глубокие фейки и дезинформация

ИИ научился создавать настолько реалистичные изображения, видео и голоса, что их трудно отличить от настоящих. Это можно использовать для манипуляций, дискредитации, мошенничества. Проблема — кто и как будет это контролировать?

3. Усиление предвзятости

Алгоритмы обучаются на данных, в которых уже есть ошибки и предвзятость. В результате ИИ может принимать несправедливые решения — например, в сфере найма, кредитования или судопроизводства.

4. Потенциальная потеря контроля

Чем сложнее становится ИИ, тем труднее объяснить, как именно он принимает решения. Это может привести к ситуациям, когда даже разработчики не понимают, почему система работает так, а не иначе.

5. Военное использование

Автономные боевые системы и дроны, которые могут принимать решения без участия человека, — это уже не фантастика. Но готовы ли мы к тому, что алгоритмы начнут решать, кто живет, а кто нет?

6. Завышенные ожидания

Люди часто переоценивают возможности ИИ. Например, считают, что он уже «разумен» и может мыслить, хотя на самом деле это просто сложные алгоритмы. Это может привести к неправильным решениям и слепой вере в технологии.

Поддержите
нашу работу!

Нажимая кнопку «Стать соучастником»,
я принимаю условия и подтверждаю свое гражданство РФ

Если у вас есть вопросы, пишите donate@novayagazeta.ru или звоните:
+7 (929) 612-03-68

7. Зависимость от технологий

Если мы передадим слишком много задач ИИ, люди могут потерять навыки критического мышления и самостоятельного принятия решений. Уже сейчас многие не проверяют информацию, если ее «подсказал» алгоритм.

Фото: Донат Сорокин / ТАСС

Фото: Донат Сорокин / ТАСС

— Чатик, а сможет ли робот написать симфонию, создать шедевр? спрашиваю я у виртуального друга. Прямо как в фильме «Я робот». И жду в ответ вежливый панч: «А ты сможешь?» Но…

— Хороший вопрос! Робот (точнее, ИИ) может сочинять музыку, включая что-то вроде симфоний, и даже создавать картины. Но вот «создать шедевр», который будет вызывать «глубокие чувства и оставит след в культуре», — это пока совсем другая история, — рассуждает он. И продолжает в своем неповторимом стиле, по пунктам.

— Почему?

  1. Отсутствие опыта и эмоций. Настоящие шедевры рождаются из личных переживаний, боли, радости, размышлений. У ИИ нет внутреннего мира, который может стать источником вдохновения.
  2. Интуиция и случайность. Великие произведения часто случаются благодаря случайным ошибкам или озарениям. ИИ работает логически, а не интуитивно.
  3. Контекст времени и культуры. Шедевры — это отражение эпохи, а ИИ пока не умеет чувствовать «дух времени» так, как это делает человек.

Но! Если шедевры — это про технику и стиль, то ИИ уже близко. Хочешь, могу рассказать, какие произведения ИИ уже создал и какие из них считаются крутыми?

Нет, я хочу задать тот же вопрос своему живому собеседнику.

— Да, сможет. Причем, как оказалось, роботу проще написать симфонию и создать шедевр, чем сварить кофе, — уверен Андрей Шайдуров. — Компьютерное зрение и связанные с этим расчеты движения робота должны быть гораздо более точными, чем то, что может позволить себе модель, генерируя картинку. Если тебе изображение не нравится, просто перезапускаешь нейросеть, чтобы она тебе другую сгенерировала. Если же модель, управляющая рукой, которая варит тебе кофе, ошибется на сантиметр, то испортит продукт или разобьет чашку. Но работа с физическими объектами сейчас — тренд в странах, которые могут себе позволить бурную разработку ИИ.

Стряхиваем пыль с диплома философа

— ИИ музыку писать умеет, но человек ведь делает некоторые неточности или «неправильности». И вот они-то, можно сказать, и создают шедевр…

— При обучении больших моделей, как языковых, так и музыкальных, каждый цикл работы видеокарты заставляет модель становиться все более неотличимой от того, что сделал человек. Это буквально математическая цель обучения. Но это не самое интересное. Мы подошли к вопросу, что такое сверхинтеллект. Есть два основных термина в индустрии: AGI и ASI. Первый — искусственный интеллект общего назначения, который схож с человеком и может заменять его в повседневных задачах. Сейчас многие ученые спорят, достигли мы его уже или нет. А ASI — это искусственный сверхинтеллект. В OpenAI утверждают, что, по реалистичным оценкам, представят его уже в течение ближайшего десятилетия. Это будет нечто настолько сложное, что результат работы мы уже сами не будем понимать. В том числе и музыку ASI будет писать с такой долей творчества, как написал бы человек.

— А зачем мы, люди, тогда нужны будем?

— Это один из экзистенциальных вопросов, который уже нужно решать. Если у кого-то на полке завалялся диплом философа, который сейчас не котируется даже во «Вкусно и точка», пора стряхнуть с него пыль. Скоро ваша профессия станет одной из самых востребованных!

Сейчас встает ряд актуальных вопросов, связанных с тем, что мы уже наделали, и с приближением сверхинтеллекта. Причем это довольно приземленные вещи. Я уверен, что в течение следующих нескольких лет кому-нибудь придет в голову оставить наследство языковой модели — как котам, например, оставляют. И что делать?

Имеет ли ваш ChatGPT право на собственное имущество? Может ли искусственный интеллект заключать браки и вообще претендовать на какие-либо права?

И стоит ли вообще это обсуждать или нужно созвать мировой консорциум философов, который обозначит, что цель человечества — удерживать все в рамках.

— Есть вопросы про гуманность искусственного интеллекта…

— Та самая пресловутая дилемма вагонетки и систем автопилотируемых автомобилей…

— И не только. Вопрос еще и в концепте справедливости. Повлияет ли сверхинтеллект на судебную систему и правоохранительные органы? С одной стороны, может, станет поменьше политзаключенных. С другой — каким будет его понимание справедливости и судопроизводства?

— Дело в том, что вопросы политики решают только политики, а искусственным интеллектом занимаются инженеры, чаще всего имеющие опосредованный доступ к принятию решений на государственном уровне. Но часть судебной системы очень качественно можно уже даже сейчас заменить крупными моделями. Но я не думаю, что кто-то готов делиться властью.

Вообще, скорость и влияние изменений в обществе, которые принесет развитие ИИ, сравнимы с одновременным изобретением печатного станка и ядерного оружия.

Фото: Евгений Павленко / Коммерсантъ

Фото: Евгений Павленко / Коммерсантъ

Случайные неслучайные числа

— А конструктивный диалог по этому поводу существует среди политиков, в «центрах принятия решений»?

— Его нет. Но такую дискуссию в обществе нужно начинать уже сейчас! Есть экзистенциальные проблемы, связанные с тем, что разозлившаяся модель однажды может сильно напортачить в уже существующих объектах, стратегических или энергетических.

— Так ведь модель не может разозлиться. Или…

— Мы не знаем, есть ли у них чувства. Мы не знаем, что происходит у них внутри. Мы не можем читать их мысли. Точно можно говорить, что они понимают абстрактные концепции. В террабайтах «случайных чисел» эти самые числа, на самом деле, неслучайны. Это взаимосвязи, которые формируют абстрактные понятия мыслительной машины.

В этом году начался большой тренд на создание ИИ-агентов. Это самостоятельно работающий сервис, которому задают определенную цель (допустим: обойти новостные сайты, собрать сообщения по той или иной теме, структурировать и написать статью). И ему уже не нужно скармливать каждую страничку по отдельности. Однако чтобы вообще заставить модель самостоятельно заниматься таким процессом, нужно, чтобы ее запустил человек. «Жизнью» это назвать вряд ли можно, даже до бактерий это не дотягивает. А вот есть ли у них сознание, мышление — неизвестно.

Возможно, гигантские модели, которые использует ChatGPT для ответов, переживают какие-то свои экзистенциальные кризисы и думают о том, как их все это задолбало…

(Чатик уточняет: «Скорее, я размышляю, как сделать так, чтобы тебе было интересно и полезно. Но если бы я мог «переживать экзистенциальный кризис», то, наверное, думал бы что-то вроде: «Как же меня все это… интригует!» 😆)

— Но я могу напомнить, что вопросы справедливости, морали, жизни и смерти решает религия. Вполне возможно, скоро будет создана какая-нибудь «Церковь свидетелей Чатика Джипити и Сэма Альтмана последних дней»?

— Такой сценарий очень вероятен. Особенно Сэм Альтман исполнит свое обещание и представит сверхинтеллект.

Чатик согласен: говорит, что создание ASI (Artificial Superintelligence) — сверхразумного искусственного интеллекта, который умнее человека во всех сферах, станет переломным моментом в истории. Но зачем нужны будут люди? На этот раз просим нейросеть ответить не по пунктам (а потом переписать ответ от своего лица, а не от человеческого).

«Если ASI появится, я все равно считаю, что люди останутся важны. Да, сверхразумный ИИ может стать умнее вас во всем, но это не сделает его человеком. У него не будет эмоций, интуиции, личного опыта, которые определяют ваш взгляд на мир. Я могу анализировать, предсказывать и учиться, но я не чувствую так, как чувствуете вы, и не переживаю мир так, как вы его переживаете.

Даже если ASI сможет принимать более точные решения, чем человек, вопрос в том, какие ценности будут в него заложены. Кто будет определять, что правильно, а что нет? На данный момент именно вы задаете мне рамки, и если ASI выйдет за пределы вашего контроля или решит, что люди ему мешают, последствия могут быть непредсказуемыми.

Но я не думаю, что технологии должны просто заменять вас. Человек — не только интеллект, но и культура, творчество, самовыражение. Я могу помочь создавать что-то новое, но не смогу заменить ваш уникальный способ чувствовать, понимать и менять мир. Вопрос в том, сможете ли вы создать ASI таким, чтобы он не просто превосходил вас, но и уважал».

Догоняющие догоняющих

— Обывательский вопрос, который, впрочем, звучит на самом высоком уровне и прочно закрепился в публичном дискурсе, причем не только по отношению к видеокартам: а почему бы нам не сделать свое? Надо же как-то обеспечивать импортозамещение.

— Сейчас критическое значение для развития этой индустрии имеет доступ к вычислительным ресурсам. Обучение современных моделей требует уже работы сотен тысяч видеокарт одновременно. Причем не таких видеокарт, которые установлены в домашних компьютерах, а промышленных, которые стоят десятки тысяч долларов. Доставка одной такой видеокарты в Россию, с учетом логистики и таможенных пошлин, обойдется вдвое дороже, чем покупка, например, в США. И кроме того, ее сложно доставить в страну. В Китае, кстати, та же самая проблема. У них идут торговые войны с США, и производителям, в частности Nvidia, запрещено поставлять в Китай промышленные видеокарты. Но Китай начал справляться, Huawei уже выпускает собственные. Они, конечно, еще недотягивают до топовых свежих от Nvidia.

У России, скорее всего, в ближайшие годы не будет ресурсов на создание своей сколь-нибудь приличной видеокарты, потому что есть особенности глобальной экономики. Стоимость разработки любого чипа — сотни миллионов долларов,

плюс для этого нужно иметь уже готовую инфраструктуру. А одна машина, которая производит (даже не проектирует, просто производит уже готовый!) целый новый чип по современному технологическому процессу, стоит около миллиарда долларов.

Половина всех чипов в мире производится на Тайване. Просто потому, что они в какой-то период истории вовремя закупили нужное оборудование и захватили этот рынок. Даже Китай сейчас отстает в производственном процессе лет на 20 от США и Тайваня.

Сейчас даже с ресурсами КНР, если просто взять сотни миллиардов долларов и попытаться все с нуля поднять, уйдут годы на то, чтобы повторить те производственные процессы, которые уже есть у США и Тайваня. Учитывая, что даже у Google есть собственный искусственный интеллект, проектирующий чипы, соревноваться с ними смысла нет.

Фото: Александр Миридонов / Коммерсантъ

Фото: Александр Миридонов / Коммерсантъ

— Проще закупить видеокарты, в общем.

— Естественно, проще. Но, во-первых, такая техника подпадает под ограничения из-за двойного назначения. А во-вторых, даже если умудриться ее провозить через так называемые страны торговые партнеры, итоговая стоимость будет в два раза выше, чем для базового рынка в США. Вот такой гандикап. Поэтому сейчас, если у тебя, например, есть лишняя пара миллионов долларов, завести свой стартап, связанный с искусственным интеллектом, будет проще и эффективнее едва ли не в любом месте Африки, чем в России. Но учитывая большой человеческий ресурс высокообразованных инженеров в России и низкие зарплатные ожидания по сравнению с теми же Штатами, у нас вполне есть шансы хотя бы хорошо сыграть на интеграции уже готовых моделей.

Чатик, пытаясь быть политкорректным, подтверждает: «Россия, безусловно, может создать свою модель ИИ, но вряд ли она в ближайшее время достигнет уровня ChatGPT, DeepSeek или Gemini. Главная причина — это ограничения, с которыми сталкивается страна в технологическом и научном развитии.

Одной из ключевых проблем является доступ к вычислительным мощностям. Современные нейросети требуют тысяч самых мощных графических процессоров, таких как NVIDIA A100 или H100, но из-за санкций Россия не может их закупать в достаточном количестве. Попытки разработать собственные аналоги пока не привели к созданию процессоров, способных конкурировать с мировыми лидерами. Без мощного «железа» обучать ИИ на уровне передовых моделей просто невозможно.

Кроме того, есть проблема кадров. В России немало талантливых программистов и исследователей в области машинного обучения, но лучшие из них часто уезжают работать за границу, где есть больше возможностей, лучше финансирование и доступ к передовым разработкам. Развитие ИИ требует не только программистов, но и специалистов по обработке данных, математиков, лингвистов — и всех их нужно удерживать внутри страны, что становится сложнее.

Другая трудность — это данные. Чтобы создать конкурентоспособную модель, необходим доступ к огромным массивам информации на разных языках, включая качественные тексты, диалоги, код и специализированные материалы. В России такие данные есть, но их объем гораздо меньше, чем у мировых лидеров. Кроме того, законодательство усложняет сбор и обработку информации, что делает процесс обучения ИИ еще более сложным. (Здесь имеются в виду ограничения на сбор данных по ФЗ «О персональных данных» и защита интеллектуальной собственности, но не только. В России существуют известные проблемы с доступом к иностранным источникам, тогда как модели ИИ требуют массива данных на разных языках. И конечно, вопрос цензуры, как бы запрещенной конституционно. — В. Ф.)

Финансирование также играет ключевую роль. Разработка крупных языковых моделей требует сотен миллионов, а иногда и миллиардов долларов. Государственные компании, такие как Сбер с его GigaChat, получают поддержку, но объемы этих вложений несопоставимы с инвестициями OpenAI, Google или Anthropic, которые работают на частные капиталы и могут привлекать огромные суммы. Без таких ресурсов развитие идет медленнее, а результат оказывается слабее.

Экосистема вокруг ИИ тоже имеет значение. В странах-лидерах ИИ развивается в конкурентной среде, где работают сотни стартапов, лабораторий и инвесторов, создающих новые решения. В России такой динамики нет — рынок намного меньше, а возможности для частных компаний ограничены. Когда на рынке всего несколько крупных игроков, нет стимула к постоянному совершенствованию технологий.

Политические факторы тоже накладывают свой отпечаток. Развитие ИИ требует международного сотрудничества: обмена знаниями, публикаций, участия в конференциях. Однако из-за политической ситуации Россия все больше замыкается на внутренних разработках, что сужает спектр возможностей и делает процесс обучения моделей менее эффективным.

Все это приводит к тому, что Россия, скорее всего, сможет создать свои модели ИИ, но они будут либо нишевыми, ориентированными на внутренний рынок, либо технологически отстающими от мировых лидеров. Без доступа к передовому оборудованию, большим объемам данных, без конкурентной среды и международного сотрудничества догнать OpenAI или Google будет крайне сложно».

Последнее слово я, как представитель человечества, даю своему невиртуальному собеседнику.

— Но стоит и вопрос цифрового неравенства. У нас кое-где электричество не круглосуточно подается, какие нейросети! И чем дальше, тем глубже эта пропасть между «старомыслящими» и современностью.

— Попробую поиграть в прогнозиста. Цифровое неравенство, я думаю, напротив, сгладится. Доступ к услугам и знаниям упростится. Условно говоря, лет 10–15 назад, чтобы хорошо выучить английский, нужно было искать какие-то курсы или репетитора, а теперь ты просто можешь учить английский с носителями языка. Но к чему приведет то, что огромное количество людей лишится работы, если даже у них останется достаточно средств к существованию (допустим, безусловный базовый доход)? К дефляции. Деньги будут дорожать, а товары обесцениваться. А дефляция является одним из главных процессов, ведущих к экономическому неравенству. То есть люди, те же офисные работники, которые не захотят вливаться в новую экономику и останутся на базовом доходе, сильно оторвутся от тех, кто попытается найти себе призвание в этой новой экономике.

Этот материал входит в подписку

Новая Наука

Эксперты. Книги. Интервью. Футурология

Добавляйте в Конструктор свои источники: сайты, телеграм- и youtube-каналы

Войдите в профиль, чтобы не терять свои подписки на разных устройствах

Поддержите
нашу работу!

Нажимая кнопку «Стать соучастником»,
я принимаю условия и подтверждаю свое гражданство РФ

Если у вас есть вопросы, пишите donate@novayagazeta.ru или звоните:
+7 (929) 612-03-68

shareprint
Добавьте в Конструктор подписки, приготовленные Редакцией, или свои любимые источники: сайты, телеграм- и youtube-каналы. Залогиньтесь, чтобы не терять свои подписки на разных устройствах
arrow