Кто выиграет «гонку вооружений» в соцсетях

Алгоритмы, как радиация, — незаметно меняют состав нашего «информационного» организма. Это только один из выводов исследования соцсети X, которое провела вместе с коллегами профессор Парижской экономической школы Екатерина Журавская*.

В интервью нашему дружественному журналу Urbi et Orbi она рассказала о том, как алгоритмическая лента сдвигает политические взгляды вправо — и почему этот сдвиг практически необратим; о структурном вытеснении профессиональной журналистики агрессивным треш-контентом; о «гонке вооружений» между ИИ-дезинформацией и ИИ-фактчекингом; и о том, можно ли вообще регулировать платформы, которые стали сопоставимы по влиянию с государствами. «Новая» публикует сокращённый вариант интервью.

Сначала — два слова о механике исследования, проведенного Журавской и коллегами (см. сноску 1) и опубликованного в феврале в журнале Nature. В соцсети X существуют два режима ленты. Хронологическая (Following) — показывает только посты аккаунтов, на которые вы подписаны, в порядке их публикации. Алгоритмическая (For You) — формируется алгоритмом платформы: он перемешивает порядок постов и добавляет публикации от аккаунтов, на которые вы не подписаны, «исходя» из ваших «интересов» и активности.

В 2023 году команда исследователей набрала примерно 5 тысяч американских пользователей X, разбила их на группы и предписала им семь недель оставаться на назначенной ленте (алгоритмической или хронологической). До и после — опросы. Параллельно — автоматический сбор данных о содержимом лент и подписках.

Исследование Журавской — это не единственный, но самый качественный «рентген», который показал, как именно это работает.

Выяснилось:

1. Алгоритм сдвигает взгляды: переведенные на алгоритмическую ленту с хронологической начинали менять позицию по иммиграции, инфляции, войнам — в более «консервативную» сторону. Алгоритм менял состав того, что они видели, — и этого оказалось достаточно.

2. «Эффект храповика»: сдвиг взглядов остается устойчивым даже после отключения алгоритма. Когда людей переводили обратно на хронологическую ленту, взгляды «не возвращались назад». Даже за семь недель алгоритм успевал изменить экосистему подписок: люди подписывались на правых активистов, которых им подбрасывал алгоритм.

3. Традиционные СМИ вытесняются. Алгоритм системно понижал позиции профессиональных изданий и повышал посты разного рода активистов, блогеров и проч.

— Один из главных выводов вашего с коллегами исследования — асимметрия: включение алгоритма сдвигает взгляды вправо, а отключение почти не возвращает их назад. Есть ли «антидот» от «эффекта храповика»? Что может сделать сам пользователь, чтобы перезагрузить свою информационную среду?

— Наш эксперимент показал, что простого переключения на хронологическую ленту недостаточно, потому что пользователи продолжают следить за аккаунтами, на которые они подписались под влиянием алгоритма. Логический вывод из наших данных: чтобы действительно «перезагрузить» свою информационную среду, пользователю нужно не только переключить ленту, но и пересмотреть свои подписки, отписаться от аккаунтов, которые были подсказаны алгоритмом.

Но это, конечно, требует осознанного усилия и понимания того, как алгоритм повлиял на ваш список подписок. Большинство пользователей даже не задумываются об этом. Именно поэтому регулирование и прозрачность алгоритмов важнее, чем советы индивидуальным пользователям. Ответственность не должна лежать исключительно на пользователях — это проблема дизайна платформы.

— Ваш эксперимент показал, что сторонники демократов практически не меняли своих взглядов, несмотря на рост экспозиции к консервативному контенту. Говорит ли это о том, что рекомендательные алгоритмы эффективнее в укреплении уже существующих взглядов, чем в переубеждении?

— Именно. Алгоритм X продвигал больше консервативного, чем либерального контента для всех — и для демократов, и для республиканцев. Но сдвиг во взглядах мы наблюдали преимущественно у республиканцев и «независимых» пользователей, то есть у тех, кто более восприимчив к консервативным посланиям.

Важно отметить также, что партийная идентичность и аффективная поляризация не менялись значимо за семь недель. Менялись взгляды на конкретные политические вопросы — приоритеты политики, оценка расследований против Трампа, отношение к *** в Украине — но это важные и осязаемые показатели.

— Алгоритм заметно снижал долю традиционных СМИ в «раздаче». Считаете ли вы, что эта замена источников — от качественной журналистики фактов к «эмоционально заряженным» активистам — является ключевым механизмом сдвига?

— Наши данные показывают, что алгоритм одновременно делает две вещи: продвигает посты политических активистов (особенно правых) и понижает посты традиционных СМИ (и правых, и левых). Это создает механизм, который вы описываете: замена профессиональной журналистики контентом активистов, который, как правило, более эмоционально заряжен и менее ограничен редакционными стандартами.

Этот наш эксперимент не позволяет полностью разделить разные «рычаги» влияния — какой именно тип изменения контента вызывает сдвиг.

Однако мы провели еще один эксперимент, в котором оценивали меры, направленные на сокращение распространения ложных новостей в соцсетях при одновременном сохранении вовлеченности и распространения достоверной информации, — в контексте президентских выборов в США 2024 года.

Если в их ленте присутствуют такие надежные новости, люди склонны обращаться именно к ним — особенно когда испытывают неопределенность относительно более провокационного и сенсационного контента. Напротив, когда бесспорно достоверные новости не распространяются в соцсетях, единственный эффективный способ снизить распространение ложной информации — это снизить вовлеченность пользователей.

Именно поэтому платформы сворачивают программы фактчекинга и настраивают алгоритмы таким образом, чтобы скрывать публикации традиционных СМИ — хотя именно такие материалы с наибольшей вероятностью являются бесспорно достоверными.

— Можно ли констатировать, что профессиональная журналистика проигрывает эту гонку структурно — и исчезает из поля зрения граждан без какой-либо законодательной цензуры? И что можно сделать, чтобы переломить эту тенденцию?

— Наши данные подтверждают это прочтение для X: алгоритм снижает видимость постов традиционных СМИ на 58% по сравнению с хронологической лентой. Это действительно форма структурного вытеснения журналистики — не путем цензуры, а путем алгоритмического понижения.

Что можно делать? Во-первых, регулирующие органы могут требовать (речь о странах с демократией. — Ю. С.) от платформ прозрачности в отношении того, как алгоритмы ранжируют разные типы контента. Во-вторых, можно обсуждать требования о минимальной видимости контента профессиональных СМИ — примерно как существуют требования к телеканалам. В-третьих, независимые аудиты алгоритмов должны оценивать не только содержание, которое продвигается, но и то, чей контент систематически подавляется. Наконец, государственная поддержка качественной журналистики и медиаграмотности становится еще более важной.

— Является ли это продвижение «треш-контента» с большим количеством фейков сознательным решением владельцев, или неизбежным побочным эффектом погони за удержанием внимания — который невозможно устранить, не сломав бизнес-модель платформы?

— Важно отметить, что еще в 2022 году было опубликовано исследование Huszár et al. (2021), которое показало, что когда Twitter впервые ввел алгоритм в 2016 году, он уже тогда продвигал правый контент. Наш эксперимент проводился летом 2023-го, после приобретения Маском, но примерно за год до его публичной поддержки Трампа. Это позволяет предполагать, что как минимум часть наблюдаемого эффекта связана с самой логикой алгоритма, нацеленного на максимизацию вовлеченности: провокационный, эмоциональный контент, производимый консервативными активистами, оказывается более втягивающим в дискуссию, получает больше лайков, репостов и комментариев, а именно это алгоритм вознаграждает.

Однако это не означает, что выбор владельцев и менеджеров платформы не имеет значения. Платформы принимают решения о том, что именно оптимизирует алгоритм, каковы правила модерации, какие аккаунты блокировать или восстанавливать. По всей видимости, истина посередине: базовая логика максимизации вовлеченности создает структурную предрасположенность к продвижению эмоционального и провокационного контента, который чаще всего оказывается правым, а решения менеджмента платформы могут усиливать или корректировать этот эффект.

— Алгоритмы X делают платформу структурно уязвимой к кремлевской дезинформации? Ведь российские операции влияния традиционно рассчитаны именно на эмоциональный резонанс, а не на фактическую аргументацию…

— Наши данные напрямую не позволяют отделить эффект органического консервативного контента от целенаправленных кампаний дезинформации. Но логика вашего вопроса верна: если алгоритм продвигает контент, вызывающий максимальную эмоциональную реакцию, это создает структурную уязвимость к дезинформации, которая специально конструируется для эмоционального резонанса. Российские операции влияния исторически строились именно на этом принципе — создании эмоционально заряженного контента, который усиливает существующие разломы.

Можно ли с этим что-то поделать? Безусловно. Но решения лежат на уровне дизайна платформ и регулирования. Алгоритмические аудиты, фактчекинг, обнаружение координированных кампаний, требования прозрачности, — всё это инструменты, которые могут снизить уязвимость. Проблема в том, что сами платформы далеко не всегда заинтересованы в их применении, поскольку, как мы уже говорили, эмоциональный контент, включая дезинформацию, повышает вовлеченность.

Наша другая статья в Econometrica, о которой я упоминала, показывает, что даже очень дешевый и нейтральный по содержанию поведенческий «нудж» (см. сноску 2) — сообщение, которое время от времени напоминает пользователям о том, что в социальных сетях много ложных новостей, — может существенно сократить распространение fake news, так как пользователи перестают «шерить» такой контент.

— Как по-вашему: действия Маска — свертывание модерации, упразднение программ фактчекинга, восстановление заблокированных аккаунтов, связанных с российскими операциями влияния, — являются намеренным или непреднамеренным усилением возможностей Кремля в информационном пространстве?

— Я исследователь и не могу судить о намерениях Маска. Но могу сказать, что совокупность этих действий объективно создает среду, более благоприятную для операций по влиянию, в том числе кремлевских. Наше исследование показывает, что алгоритм X и без этих дополнительных мер уже продвигал прокремлевские нарративы. Ослабление модерации может только усиливать эту тенденцию.

— Что сегодня известно о роли генеративного искусственного интеллекта — языковых моделей, дипфейков, синтетических аккаунтов — в политическом влиянии через соцсети?

— Это быстро развивающаяся область. Генеративный ИИ радикально снижает стоимость создания убедительного контента — текста, изображений, видео. Это означает, что

Синтетические аккаунты, созданные с помощью ИИ, труднее обнаружить, потому что они могут производить более разнообразный и «человечный» контент.

Алгоритм X может быть особенно уязвим, потому что он оптимизирует вовлеченность: контент, идеально подстроенный ИИ под параметры виральности, будет продвигаться эффективнее. Пока строгих эмпирических исследований масштабов этого явления недостаточно — это одна из приоритетных областей для исследования.

— Может ли ИИ также стать и «антидотом» — помогать пользователям распознавать манипуляции, маркировать синтетический контент, выявлять координированные кампании?

— Безусловно, ИИ может быть инструментом как для создания, так и для обнаружения дезинформации. Методы на основе ИИ уже используются для выявления скоординированных кампаний, обнаружения ботов и маркировки синтетического контента. Проблема, однако, в том, что это — «гонка вооружений»: те же технологии, которые позволяют обнаруживать синтетический контент, помогают его создателям делать его более убедительным.

— Павел Дуров называет DSA (Digital Services Act, Закон ЕС о цифровых услугах) «инструментом цензуры» и обвиняет президента Франции Макрона в том, что тот подталкивает Евросоюз к построению «цифрового ГУЛАГа». Маск и Трамп говорят об ограничении свободы слова. Чем требование прозрачности алгоритмов отличается от цензуры?

— Отличие принципиальное. Цензура — это когда государство запрещает определенный контент или высказывания. Условие о прозрачности алгоритмов — это требование объяснить, по каким правилам платформа выбирает, какой контент показывать каждому пользователю.

Аналогия: требование к пищевым компаниям указывать состав продуктов на упаковке — это не цензура, а потребительская прозрачность. Риторика о «цензуре» в данном контексте — это, как правило, инструмент сопротивления регулированию со стороны тех, кто извлекает выгоду из непрозрачности.

— Следите ли вы за расследованием французской юстиции против X? Что думаете о его правомочности и беспристрастности?

— Я слежу за этим процессом, хотя, конечно, как исследователь, а не как юрист. Могу сказать, что расследование в рамках DSA — это вполне законная процедура, предусмотренная европейским законодательством. Вопрос беспристрастности важен, но его следует оценивать по конкретным действиям и доказательствам, а не на основании политической риторики о «преследовании». <…>

* Внесена властями РФ в реестр «иноагентов»