Колумнисты

Товарищ нейромайор

Как искусственный интеллект очищает социальную сеть «ВКонтакте» от нежелательного контента

Этот материал вышел в № 91 от 24 августа 2020
ЧитатьЧитать номер
Общество9 036

Сергей Голубицкийжурналист, автор проектов minoa.biz и vcollege.biz

9 0363
 
Иллюстрация: Петр Саруханов / «Новая»

Общество истосковалось по оптимизму. Не мудрено: негатив, изливаемый СМИ с 90-х годов нон-стоп, вселяет в обывателя чувство глубокой уверенности в собственной беспомощности и беззащитности. 
И вот, когда становится совсем невмоготу, те же самые СМИ извлекают на свет божий что-нибудь светлое и чистое, позволяя населению не только комплексовать, но и радоваться. 

20 августа из недр ТАСС полилась теплая струя оптимизма, подхваченная «КП», «НЬЮСру», «Телеспутником», «МК», «Вестями» и даже самой «Правдой»: «ВКонтакте» тестирует решение автоматического распознавания материалов с враждебными высказываниями (так называемый хейтспич) на основе искусственного интеллекта, говорится в сообщении компании.

В соцсети рассказали, что нейросеть позволит быстрее находить материалы с враждебными высказываниями, а также публикации, которые провоцируют аудиторию проявлять агрессию.

«Нейросеть учится определять самые разные категории оскорблений и угроз. Среди них проявления ксенофобии, расизма, гомофобии, сексизма и других предрассудков, а также оскорбления на почве религиозной принадлежности, возраста, внешности или наличия заболеваний».

Общественность, видимо под тяжестью непонятных слов, принялась млеть. «Нейросеть», которая «учится», «ксенофобия», которая «гомофобия» — это можно пустить по боку, главное, что в любимой социальной сети не будет больше ненависти! Ну а «так называемый хейтспич» пусть возвращается туда, откуда пришел — к нашим евро-американским антипятам.

Задача моей реплики сегодня: объяснить читателям, что, если «ВКонтакте» доверит AI и нейросетям выявлять «враждебные высказывания», 1984 год покажется нам царствием божьим на земле. И вот почему.

В данном сюжете у нас два неизвестных: какой-то непонятный хейтспич, который всем мешает жить, и какие-то нейросети, которые собираются с этим хейтспичем бороться. Разберем их по порядку. 

Начнем с хейтспича. Журналист ТАСС не случайно назвал его «так называемым». Для него, как и для большинства жителей нашей страны, это понятие наносное и инородное. Не удивительно, что и определение в публикациях ему дали ошибочное: «материалы с враждебными высказываниями». Ясности не добавляет даже последующее перечисление «оскорблений и угроз»: «ксенофобии, расизма, гомофобии, сексизма и других предрассудков».

Эти «другие предрассудки» тоже говорят сами за себя: в голове пишущего человека (не сомневаюсь, что и в голове его читателей) перечисленные «измы» и «фобии» именно что предрассудками и являются. 

«Предрассудок» по определению — это «суждение, усвоенное некритически, без размышления». Главные формы предрассудка — суеверия и предубеждения. Получается, что «ксенофобия, расизм, гомофобия, сексизм — продолжаю раскрытие словарного значения понятий — основаны на неточном или искаженном знании, чаще всего принимаемом на веру со слов других людей».

Подобные коннотации — глупость несусветная. Это равносильно предположению, что вера обывателя в то, что «понаехавшие чурки» мешают ему жить, основана на «неточном искаженном знании». Кто-то ему в ухо вдул, а он, несмышленыш, поверил на слово и теперь толкает хейтспич.

Не меньшая чушь выходит и с гомофобией/сексизмом: люди, типа, некритично усвоили информацию, без должного размышления, иначе бы никогда не позволили себе высказывания типа того, что бабам дома нужно сидеть и пеленки стирать, а голубые пусть засунут свои цветные парады в хорошо знакомое им место.

Можно, конечно, предположить, что неадекватная интерпретация термина «hatespeech» — это продукт невежества пишущей братии. Если бы!

Желание доверить выявление «материалов с враждебными высказываниями» искусственному интеллекту свидетельствует о том, что и сами разработчики «ВКонтакте», замутившие катавасию с нейросетями, воспринимают этот ключевой термин неправильно. 

Для начала необходимо понять, что «hatespeech» не имеет никакого отношения ни к некритичным суждениям (т.е. предрассудкам), ни к суждениям вообще. Hatespeech — это продукт психологии масс, а не рационального осмысления реальности индивидом.

Люди демонстрируют «ксенофобию, расизм, гомофобию и сексизм» не потому, что кто-то что-то им нашептал, а они «некритически усвоили», а потому, что подобное их отношение отражает глубинный, накопленный веками жизненный опыт нации. Данный опыт сформировал определенную социальную психологию, которая, в свою очередь, диктует проявление неприязни или пренебрежения к той или иной нации, расе, полу, возрасту или сексуальной ориентации. 

Если бы hatespeech был проявлением рационального начала (пусть даже в форме некритичного суждения), нам бы пришлось столкнуться с нелепым конфузом. Представьте на мгновение, что «ВКонтакте» успешно завершил эксперимент, обучил нейросеть и натравил ее на публикации своих пользователей для выявления того, что нам анонсировали журналисты ТАСС. 

Знаете, кто бы первым оказался в списке хейтспичеров? Пользователь, опубликовавший у себя в ленте статус с цитатами из новой Конституции РФ! Теми самыми, где говорится про «защиту института брака как союза мужчины и женщины» и «сохранение традиционных семейных ценностей» (статьи 72 и 114). 

Почему? Потому что оба этих положения являются косвенным проявлением гомофобии и сексизма.

«Защита института брака как союза мужчины и женщины» без экивоков подразумевает защиту от однополых браков, а это и есть гомофобия. Что касается «традиционных семейных ценностей», то в нашем обществе они неразрывно связаны не только с сексизмом, но и с дискриминацией по возрастному признаку. Всех сомневающихся приглашаю перечитать «библию» семейного традиционализма под названием «Домострой» с его «полезными сведениями, поучениями и наставлениями всякому христианину — мужу, и жене, и детям». 

Нелепый конфуз с Конституцией у нас случился потому, что нам подсунули ложную интерпретацию hatespeech как рационального (хоть и ошибочного) суждения. Тогда как в реальности «ксенофобия, расизм, гомофобия и сексизм» — это элементы социальной психологии нации. 

Теперь самое забавное: борьба с hatespeech не имеет отношения ни к рациональному, ни к психологическому.

Борьба с hatespeech — это эксклюзивный элемент политической культуры западноевропейской цивилизации! И больше ничего. 

Дважды прав журналист ТАСС, который, почуяв подвох, ввернул фрейдистскую оговорку про «так называемый» хейтспич. «Так называемый» потому, что в наших реалиях это явление смотрится чуждо и неуместно. 

Привожу определение «риторики вражды» (так правильно переводится на русский язык термин «hatespeech»), данное Комитетом министров Совета Европы:

«Все формы самовыражения, которые включают распространение, провоцирование, стимулирование или оправдание расовой ненависти, ксенофобии, антисемитизма или других видов ненависти на основе нетерпимости, включая нетерпимость в виде агрессивного национализма или этноцентризма, дискриминации или враждебности в отношении меньшинств, мигрантов и лиц с мигрантскими корнями».

Иными словами, речь идет не о попытке дать рациональное или психологическое объяснение расовой ненависти, ксенофобии, антисемитизма, а о законодательном запрете публичного проявления любой нетерпимости по отношению к любой инаковости. 

Слово «любой» в европейской политике ключевое. Совершенно не важно, по какому признаку определяется инаковость: по расе, по национальной или гражданской принадлежности, по возрасту, по полу, по сексуальной ориентации. Идея и задача для реализации политической воли: законодательно запретить нетерпимость к инаковости как таковую.

Совершенно не важно, что ты думаешь о геях, женщинах, детях и инородцах, и почему ты так думаешь. Важно, что ты не имеешь права в современном европейском обществе экстериоризировать (то есть выносить на публику) свои взгляды, если они не только ущемляют в правах, тем более — призывают к насильственным действиям, но даже просто оскорбляют чувства любого человека, отличного от большинства и того, что это большинство считает «традиционными ценностями».

Полагаю, читатель уже догадался, что европейская концепция борьбы с «риторикой вражды» — это политическая и правовая доктрина, которая глубоко антагонистична любому обществу, строящемуся на «традиционных ценностях». И не важно, идет ли речь о Российской Федерации или о любой другой стране, в основе государственного устройства которой лежит религиозная доктрина.

Важно, что европейская концепция борьбы с «риторикой ненависти» в подобных цивилизациях и государственных образованиях неприемлема, ибо все «традиционные ценности» в мире исходят из идеи собственной исключительности: мы хорошие — они плохие, мы правильные — они неправильные, мы знаем, как надо, — они не знают и т.д.

Ученые головы «ВКонтакте», конечно же, не дураки и все прекрасно понимают. У меня лично нет сомнений, что то, что подается общественности как «решение автоматического распознавания материалов с враждебными высказываниями», ни к какому «так называемому хейтспичу» отношения не имеет. 

А к чему имеет? Как-то неудобно даже озвучивать за прозрачностью намерения: к банальной цензуре.

Старой доброй цензуре. Ну и — тотальной слежке, в дополнение к той, что ведется сегодня с помощью видеокамер, понатыканных повсеместно в больших городах. 

К такому же выводу подводит нас и анализ инструмента, выбранного для ведения борьбы с «враждебными высказываниями», — нейросетей.

Нейросеть, вопреки пугающей фонетике, — удивительно незамысловатая штука. На входе нейросети располагается множество входных узлов, на которые мы подаем любую информацию. Например, статусы социальной сети, отобранные по заданным фильтрам («черно**пый», «пи*ор», «ж**яра» и т.п.). 

Далее с помощью нехитрой процедуры последовательного взвешивания каждого входного узла, суммирования и сверки с определенным пороговым значением сеть обучается на специальной подборке с заранее известными результатами выявлять нужные признаки: если суммированный сигнал превышает значение заданного порога, он пропускается, если не превышает — отсеивается. 

После того как сеть достигает высоких показателей «натренированности», ее можно использовать в реальном времени на новом, ранее не анализированном материале для выявления — в нашей истории — мыслепреступлений. В мирной жизни нейросети используются еще шире: для предсказаний биржевых котировок, разведки морского дна в поисках залежей нефти, сканирования багажа в аэропорту на предмет выявления подозрительных предметов и т.д.

Как видите, техника незамысловатая, однако весьма эффективная для переработки больших информационных массивов, например, социальных сетей, с целью выявления лингвистических триггеров самой разнообразной природы.

Самой нейросети по барабану, что искать: можно хейтспич, а можно — и политическую неблагонадежность или проявления нелояльности к власти.

В результате мы опять приходим к выводам, сделанным при анализе термина «hatespeech»: если борьба с нетерпимостью к любому инакомыслию, лежащая в фундаменте политической культуры Евросоюза, неуместна в нашем отечестве, допустимо предположить, что искать будут выпады не против гомофобии и сексизма, а против чего-нибудь более житейского. Например, критики конкретных чиновников, неприятия политики партии и правительства или, не приведи господи, призывов к смуте в белорусском стиле.

Ну и как прикажете с такими выводами радоваться триумфу науки и техники, затеянному «ВКонтакте»? Очередной выверт цензуры, только и всего.

Мнение редакции может не совпадать с мнением автора

Делаем честную журналистику
вместе с вами

Каждый день мы рассказываем вам о происходящем в России и мире. Наши журналисты не боятся добывать правду, чтобы показывать ее вам.

В стране, где власти постоянно хотят что-то запретить, в том числе - запретить говорить правду, должны быть издания, которые продолжают заниматься настоящей журналистикой.

Ваша поддержка поможет нам, «Новой газете», и дальше быть таким изданием. Сделайте свой вклад в независимость журналистики в России прямо сейчас.

Топ 6

Яндекс.Метрика
Вы можете просто закрыть это окно и вернуться к чтению статьи. А можете — поддержать газету небольшим пожертвованием, чтобы мы и дальше могли писать о том, о чем другие боятся и подумать. Выбор за вами!
Стать соучастником

К сожалению, браузер, которым вы пользуйтесь, устарел и не позволяет корректно отображать сайт. Пожалуйста, установите любой из современных браузеров, например:

Google Chrome Firefox Opera