Николина Сталь, Рочестер: ИИ уже многое ухудшил в жизни

Не так давно искусственный интеллект — ИИ, как его теперь по-домашнему называют, — был не более чем пугало из научно-фантастических триллеров, создававшим такой образ будущего, в котором восставшие машины порабощают своих создателей. Начиная с суперкомпьютера HAL 9000 из «Космической Одиссеи» Кубрика и заканчивая Терминатором, в котором нет ничего человеческого, кроме внешнего вида, — образ ИИ всегда показывали как угрозу для всего населения Земли.

ИИ давно не уходит из арт-дискуссий, особенно из дискуссий писательских. Одна из моих любимых книг на эту тему — «У меня нет рта, а я должен кричать» Харлана Эллисона, потому что это книга, как говорится, очень опередившая свое время. Речь в ней о том, что разумный суперкомпьютер по имени «АМ» решил захватить мир, чтобы подвергнуть людей страшным пыткам. Манипулируя окружающей средой и издеваясь физически, ИИ пытает оставшееся в живых человечество, пока люди не начинают убивать друг друга сами. Последний выживший, Тед, обречен на вечное одинокое и мучительное существование. Обо всей этой жестокости АМ приходится читать на протяжении всего текста — но в конце книги искусственный интеллект становится жаль. Потому что становится понятно: этот компьютер создавался самими людьми исключительно ради убийства других людей, и выбора, возможности избежать такой жестокой и жалкой судьбы, у него просто не было. Единственное, на что он был запрограммирован, — это убивать, и он несет на себе бремя человечности, человеческого сознания — в самом худшем и самом полном смысле этого слова: сознания, в котором полностью отсутствуют эмпатия и беспокойство о последствиях. Он, оказывается, тоже человек — но без всего того лучшего в человеке, что делает жизнь стоящей того, чтобы ее жить.

Конечно, реальному ИИ до осознанной жестокости и всемогущества литературного АМ еще очень далеко, но думать о том, что книга может стать реальностью, люди, мне кажется, обязаны — особенно здесь, в США, где законодательство заметно отстает от развития технологий. Сейчас ситуация с законодательством в сфере ИИ у нас больше похожа на Дикий Запад. Это понятно: сложно пытаться регулировать то, чего сами законодатели не понимают и с трудом принимают, даже если все «баги» и «фичи» от ситуации разложить перед ними по полочкам. За последние пять лет они стали свидетелями стремительного развития инструментов и моделей обучения ИИ, для освоения которых у них, как у любого обычного человека, не хватает ни образования, ни базовых знаний.

А если говорить конкретнее — про использование ИИ в искусстве — то в этой сфере к нему, пожалуй, еще больше вопросов: не только законодательных, но и философских. Например, самые жаркие дискуссии горят вокруг таких генераторов, как Midjourney, DeepAI и ChatGPT. Художники и аудитория задаются вопросами о том, можно ли вообще считать изображение, сгенерированное машиной, «искусством». Художники ревниво утверждают, что ИИ-изображения могут провоцировать размышления, но в самих них никаких мыслей не заложено. Говорят: да, оно похоже на рукотворное произведение, да, оно может даже неплохо выглядеть, но в них не учитывается и полностью отсутствует та самая человечность, о которой я уже говорила. Та, благодаря которой жизнь стоит проживания.

А если все-таки вернуться к теме законодательства, то

Именно поэтому все до сих пор созданное ИИ в искусстве — это подражание, воспроизведение усвоенных шаблонов. Иногда это воспроизведение легально, разрешено и юридически, и этически. Но чаще всего работы художников используются вообще без их согласия или даже ведома. Так что некоторые особенно трепетно относящиеся к своему творчеству художники даже сочли необходимым прибегнуть к методам «заражения данных», таким как программа Glaze Чикагского университета — это программа, которая накладывает на цифровое искусство инструменты маскировки, не позволяющие ИИ-скрейперам корректно считывать стиль.

Я слышала о том, что в России ИИ в сфере искусства используется в последнее время в основном как инструмент цензуры. В США такое явление, конечно, тоже есть, хотя пока я лично не вижу примеров того, что ИИ может использоваться в прямой цензуре эффективно. Зато очень эффективен он оказывается во всем, что касается распространения дезинформации, — тут его возможности беспрецедентны. Сгенерированные изображения, аудио и видео ежедневно заставляют миллионы пользователей социальных сетей думать, что некоторые политики сделали заявления или совершили действия, которых на самом деле не заявляли и не совершали. Не нужно быть пророком или политологом, чтобы понять, что потенциальные последствия этого для нашей страны и мира в целом катастрофичны — особенно в условиях напряженнейшего и жестокого международного конфликта.

Вообще-то, регулировать ИИ — хоть юридически, хоть технически, хоть морально — нужно было начинать еще «вчера». «Сегодня» мы уже во многом опоздали: он уже многое ухудшил в жизни воспринимающих информацию людей и уже изменил их восприятие мира. Для нас стало нормой то, что каждое видео в интернете приходится внимательно просматривать и пересматривать в поисках следов применения ИИ, прежде чем поверить тому, что видишь. И с каждой новой его моделью и версией становится все тяжелее отделить правду от генерации, и по личному опыту могу сказать, что очень многие американцы уже не в состоянии это сделать. Кажется, эта проблема все-таки наконец попала на экраны радаров политиков, но просто следить за ситуацией давно недостаточно. И рискну сказать, что если в ближайшее время и у нас в США, и у вас в России не будут приняты системные меры по наведению порядка в этой сфере, ИИ может нанести необратимый урон и искусству, и сфере информации в целом — если, конечно, этот урон уже не необратим.

Виктория Артемьева, Москва: Мир к счастью оказался не готов

Ты начала с перечислений триллеров о том, как ИИ дичает и порабощает мир, а мне вот вспоминается Нолан с его «Превосходством»: гениальный айти-ученый заболевает раком, выясняется, что стадия последняя, и он, умирая, разрешает поставить над собой эксперимент: перекачать свое сознание в модель искусственного интеллекта. Дальше интеллект начинает жить вместо носителя и постепенно создавать сначала новые алгоритмы, после — исцелять людей, подключаясь к их сознанию, потом он уже целиком регенерирует и физическое, и умственное состояние живых организмов, в конце концов воскресает во плоти сам ученый. В процессе всего этого жена ученого и его бывшие коллеги, наблюдающие за процессом, начинают все больше настораживаться: естественно, возникает подозрение, что ИИ создает собственную армию, чтобы как обычно захватить мир. А в конце — спойлер! — выясняется, что это был никакой не коварный план убить всех, а действительно сознание и душа ученого, превратившиеся в двоичный код и мечтавшие вернуться к жизни, чтобы быть рядом с любимой женой. И еще — счастье даром для всего мира. Но мир его не понял и к счастью оказался не готов. Иначе говоря, ИИ-мелодрама вместо привычного ИИ-апокалипсиса, непонятый и отверженный бог вместо угрозы и завоевателя мира.

Хотя угрозы ждать от ИИ пока действительно проще, чем блага, особенно если посмотреть, как и для чего он сейчас применяется практически. В России массово о нем заговорили совсем недавно — до сих пор рассуждения на эту тему прочно были закреплены за вами, американцами. У нас философия формулировалась примерно как «вы сначала отапливаемые туалеты во всех домах поставьте, а потом мы, может быть, подумаем про ИИ». То есть тема была какой-то абсолютно далекой, фантастичной и богемной (за исключением, может, разговоров на кухне с умной колонкой Алисой или такой же умной Марусей). Но вот уже года полтора от ИИ в разных его проявлениях невозможно скрыться нигде — и теперь, даже если звонишь в глубокую провинцию возрастным родителям, а они вовремя взять трубку не успевают, с тобой ехидно начинает разговаривать безымянная нейросеть (как будто звонишь в коммуналку, и вместо тех, кому звонишь, трубку взяла соседка, с которой ты вообще не собирался общаться).

Может быть, следящие за развитием технологий специалисты со мной бы не согласились, но мне кажется, что день, когда страна впервые почувствовала себя внутри ИИ-триллера, наступил два года назад — с предновогодней истории о том, как нашему с тобой учителю Дмитрию Быкову* и Борису Акунину* позвонили Зеленский и Ермак, которые оказались совсем не Зеленским и совсем не Ермаком. Разговоры о разного рода мошенничестве тогда уже ходили, но никто, и тем более сами пострадавшие от пранка, не мог еще представить, что нейросети способны воспроизвести чужую внешность и жесты в прямом эфире. А когда представить такое пришлось, думаю, и без того неустойчивая вера в человечество у многих расшаталась окончательно: кому и чему теперь вообще можно доверять, если не можешь доверять собственным глазам и ушам? Этот же нейросеточный пранк стал первым ярким примером применения ИИ в сфере культуры — и сразу по тому назначению, по которому его теперь в России массово применяют: для отмены культуры. Только что ставший популярным ИИ не помог написать великую книгу или создать шедевр кино — он помог суду признать двух писателей виновными в том, в чем никакой их вины нет. Короче говоря, ИИ плохо начал.

Хотя точности ради надо сказать, что и книги в соавторстве с ИИ в России тоже писать пытаются: еще в 2022 году в издательстве Individuum вышел роман «Пытаясь проснуться» — сотворчество Пепперштейна с ruGPT-3, первая, как утверждается, такая книга в мире. И конечно, в использовании труда нейросетевых литературных рабов давно подозревают ежеосеннего Пелевина — что он не подтверждает, но и не опровергает. И все-таки пока что ИИ в русскую литературу никакого по-настоящему заметного вклада не внес.

Зато в цензурирование этой литературы, судя по всему, уже внес неоценимый. В сентябре этого года по русскоязычным СМИ разошлась новость о том, что крупнейший российский книжный холдинг «Эксмо-АСТ», оказывается, использует ИИ для проверки рукописей на соответствие законодательству. В рассылке фонда борьбы с цензурой StraightForward говорилось о том, что китайская нейросеть ищет в текстах «пропаганду ЛГБТ**, смены пола, наркотиков и чайлдфри», «жестокости и насилия», «педофилии, склонения к суициду» и еще материалы порнографического и экстремистского характера». А еще раньше создание программы ИИ, через которую можно было бы погонять тексты и подвергать их нейросетевой цензуре, анонсировал директор департамента господдержки периодической печати и книжной индустрии Минцифры Владимир Григорьев. Пообещав, правда, что искать будут исключительно пропаганду наркотиков, — но слова эти вызывают примерно столько же доверия, сколько звонок по зуму от Ермака.

Впрочем, повышенный интерес АСТ к передовым технологиям замечен давно: например, еще не остыли следы скандала вокруг обложки новой части «Ведьмака» Анджея Сапковского. Фанаты заподозрили тогда, что обложку нарисовал не художник, а ИИ, и это их страшно возмутило.

А буквально несколько недель назад вокруг АСТ плескалась новая волна читательского негодования: на этот раз заподозрили, что выпущенная холдингом серия книг об истории городов, начиная с Рима, написана ChatGPT — книги оказались плохо написанными, со множеством ошибок, при этом без иностранных оригиналов, без имен переводчиков и вообще без выходных данных.

В обоих этих случаях интересна ответная реакция читателей: они чувствуют себя униженными и оскорбленными не только когда купленный текст написан с ошибками, как в «городах», но и просто сгенерирован нейросетью без предупреждения, как на обложке «Ведьмака».

Хотя пока еще вред для здоровья сгенерированных нейросетью картинок, насколько я знаю, не доказан.

Словом, приход высоких технологий в нашу страну наблюдать пока печально. Хотя это, конечно, не триллер, в котором ИИ порабощает мирное население и уничтожает реальное искусство, — но вреда от его присутствия сейчас, очевидно, больше, чем пользы. И эта ситуация очень созвучна той книге Эллисона, которую ты вспомнила: дело не столько в способностях и склонностях самого ИИ, сколько в том, кто и как его использует. А используют пока абсолютно бездарно.

Искусственному интеллекту в России как-то изначально не повезло: он пришел сюда во время, когда талантливо его использовать почти невозможно. Он пришел во время усиления диктатуры, цензуры, пропаганды — и понятно, что то, другое и третье моментально его способности национализировали. Сложно сказать с уверенностью о том, стал ли он в России таким раскрученным сейчас именно потому, что оказался в неправильное время в неправильном месте, или потому, что его присутствие просто очень нужно властям — чтобы расписать роботов под хохлому и этим показать, что и они «умеют в модерн». Но так или иначе, придя сюда, выбирать свою судьбу он явно не мог — как не мог выбирать, на что будут тратиться его способности.

Но может быть, когда-нибудь таланты этого несчастного существа все-таки найдут себе лучшее применение. А то пока непонятно, зачем было искусственно создавать интеллект для таких неинтеллектуальных занятий.

* Минюст РФ внес в список «иноагентов».

** «Движение» в России признано экстремистским и запрещено.