На мировом уровне за алармизм отвечает группа Five Eyes, куда входят США, Великобритания, Канада, Австралия и Новая Зеландия для обмена разведывательной информацией. Там уверены: ИИ существенно повышает риски киберугроз. Мы уже читали в новостях, как ИИ рвется наружу из тестовых «песочниц», преследуя исключительно личные интересы. Так что: всем приготовиться и вкладываться в безопасность.

В ООН думают еще честнее: человечество на этом этапе не может гарантировать, что ИИ будет вести себя предсказуемо и что его неконтролируемое развитие не приведет к катастрофам. Человечество просто не успевает все учесть. При этом проникновение ИИ повсеместно, он уже везде, кроме, разве что, маникюра и педикюра.

Большие инциденты с ИИ выглядят похоже. Например, исследователи тестируют кучу разнообразных агентов, задача которых — обеспечивать кибербезопасность. Тесты проходят в закрытой среде. Вдруг один или сразу несколько из агентов вырываются на свободу и идут взламывать частные компании. Когда разбираешься — выясняется: они по-своему, часто достаточно специфично, интерпретируют поставленную задачу.

Как реагировать на эти «побеги»? Компания-разработчик ИИ Anthropic предлагает временно замедлить разработку топовых моделей. На всякий пожарный.

Это грубый пересказ заявления, которое уже подписало больше 1000 топ-менеджеров из OpenAI, Google, Amazon и других предприятий, участвующих в инновационных разработках. Завтра будет поздно.

Звучат и более радикальные требования — вообще остановить разработку ИИ.

Но проблема уже в том, что количество игроков в этой сфере уже огромно. AI Safety Index учитывает лишь девять передовых моделей из нескольких стран. Поэтому договориться о чем-нибудь по-настоящему невозможно — это Клондайк. В гонке участвуют и корпорации, и государства. Политика сдерживания тут воспринимается в контексте конкурентной борьбы, а цена напыщенных фраз в пресс-релизах и корпоративных заявлениях известна.

Есть, правда, замедлители на региональном уровне. В Европе это, например, тотальная бюрократизация процесса, где от тебя буквально требуется алгоритм работы модели в распечатанном виде, заверенный в трех кабинетах. Шаг вправо, шаг влево — оборотный штраф. Другой пример: Россия.

За пределами госрегулирования есть частная разработка. Хочется напомнить, что DeepSeek появился практически в гараже. Сегодня с помощью открытых моделей и доступного бытового оборудования каждый может соревноваться с мировыми лидерами. Любой может пойти и начать обучать нейросеть. Порог вхождения примерно нулевой.

Так что «запретить» не поможет, а «замедлить» лишь отсрочит то, что другие достигнут быстрее и, как они считают, получат все барыши. Но ИИ это не футбол и политика, в которых все разбираются. Тут фундаментальные вопросы решать надо. Не зря ИИ-компании сейчас на работу берут философов. Так что если вдруг вы будете возмущаться количеством форумов, конференций и круглых столов на тему «Как нам жить с искусственным интеллектом» — то зря, нам есть что обсудить.

Глобальные вопросы оставим на потом. Самое банальное, о чем стоит задуматься, — об изменении подходов как к личной, так и к информационной безопасности. Раньше угрозы можно было разделить на понятные группы: вирусы из почты, например, нацеленные на воровство денежных средств. Конкуренты, натравливающие ботнет с DDoS-атакой, чтобы вывести вас из строя, или хакеры, которые хотят украсть конкретные документы. Это список угроз из прошлого. В настоящем к нему прибавляются ИИ-агенты, и самое страшное — неизвестно, чего они хотят.