Колонка · Культура

Кукловоды против объективного зла

Прежде чем заставлять искусственный интеллект читать школьные сочинения, нужно выяснить: это вообще может сработать? Или все это нужно вовсе не для сохранения жизней?

Этот материал вышел в № 108 от 27 сентября 2021
Читать номер
Этот материал вышел
в № 108 от 27 сентября 2021
14:20, 25 сентября 2021Кирилл Фокин, специально для «Новой»
views

7066

14:20, 25 сентября 2021Кирилл Фокин, специально для «Новой»
views

7066

Петр Саруханов / «Новая газета»

Новаторская идея выделить 1,6 млрд рублей на разработку ПО, способного выявлять среди школьников склонность к социально опасному поведению на основе анализа их письменных работ, вполне укладывается в логику цифрового огораживания общественного пространства. Я не специалист в данном вопросе и не знаю, возможно ли такое ПО; но я могу предположить, что

раз в России 16 миллионов школьников, а инцидентов со школьными террористами в худшем случае несколько десятков, то получается, что ПО должно будет из 1 600 000 сочинений вычислить одно-два.

С учетом высочайших способностей к обману и к имитации, которые демонстрируют психопатические личности (от «Колумбайна» до Перми, когда и родители, и друзья до конца оставались в неведении, хотя «подготовка» шла буквально у них под носом), на уровне концепта эта идея звучит так себе. Существует еще и вероятность ошибки, да и не станет ли система отлавливать всех тех, кто в принципе демонстрирует отклонения от «стандартов», — что, в общем, исходное условие любого творчества?

Но я не эксперт, и я могу ошибаться. Все что требуется от авторов предложения — это хотя бы данные (объективные, независимые, фиксируемые, проверяемые), на основании которых делается предположение, что такое ПО:

а) возможно;

б) эффективно.

Опыт других стран, аналогичных систем, тесты, эксперименты — что угодно, кроме мнений, надежд и точек зрения.

И представлять доказательства нужно до, а не после того, как программа запущена. Дело ведь не только в деньгах. У нас есть ограниченное количество времени до новой трагедии — и есть вопрос, как их предотвратить? На вопрос надо найти ответ. Если в поисках мы будем опираться на объективные данные, на базу с доказанной эффективностью, то шансов найти ответ у нас больше. Но если это время мы потратим на эксперименты, продиктованные лишь интуицией или нашей верой в якобы безграничную силу алгоритмов, то в случае провала мы потеряем не только деньги, но и жизни людей.

С учетом, что стрельбу в Перми уже пытаются использовать как предлог для дальнейшей зачистки интернета, оснований для скепсиса более чем достаточно. В пакете со скринингом сочинений идут и другие рецепты высокого начальства: патриотическое воспитание, ограждение «молодежи» от «негативного влияния» в интернете, в соцсетях, в кино, видеоиграх и на ТВ. Так и хочется спросить, сколько десятилетий назад идеологи «воспитания» сами общались с молодежью.

Патернализм наших правителей зашел так далеко, что даже очевидному психопату они отказывают в праве совершить преступление по злому умыслу. Они переусердствовали в поглощении современной поп-культуры, где дурным вкусом считается выписывать чистых карикатурных злодеев, а нужно придумать сложных, с детскими травмами, хитрыми мотивациями и «переживаниями». В искусстве трагедия — «это когда обе стороны правы»; в реальной жизни, увы, иначе. Тут встречается объективное зло, которое стоит изучать, но вовсе не обязательно давать ему мотивации, помимо психического расстройства.

Авторы мема о «негативном влиянии виртуального насилия», сами будучи кукловодами, мир измеряют по себе. Для них человек — «чистый лист», на котором внешние манипуляторы, мастера НЛП и лимбических сил, способны писать что угодно. Поэтому за «мозги молодежи», в их представлении, идет война. Наверное, они искренне убеждены, что «колумбайны» можно предотвратить возвратом к студотрядам, пионерам, комсомольцам, агитаторам и пропагандистам. А где пять раз прозвучит «видеоигры воспитывают убийц», на шестой раз точно вырвется кое-что о «плане Даллеса».

Читайте также

Читайте также

«Отбросы» и «боги»

Что общего между пермским и казанским стрелками, совершившими массовые убийства. Можно ли было их остановить. Мнение специалистов

Обойдемся без рассуждений о «природе власти» и том, как она искажает сознание, о поколенческом и возрастном. В чем главная ошибка этого тезиса? В его антинаучности.

Ровно так же, как лжемедицине противостоит доказательная медицина (разница — в фиксируемых доказательствах эффективности), в госуправлении сражаются «старая» политика — субъективная, где решения принимаются из представлений лидеров об эффективности, и доказательной политикой, опирающейся на объективные, фиксируемые, проверяемые данные.

И от медицины, и от политики зависят жизни огромного количества людей, вообще нас всех. Но доказательность в медицине определить проще, чем в политике. Там нет спора о цели — все более-менее понимают, что целью лечения является выздоровление/качество жизни пациента. В политике такого консенсуса нет. Одни считают, что цель — благосостояние граждан, но другие возразят — первично государство, т.к. оно хранит наши «ценности», а чтобы оно было сильным, нужен режим личной власти. В этом плане доказательная политика нам не поможет: за целеполагание отвечает идеология. Но если вы хотите достичь цели, эффективность применяемых стратегий должна быть доказана.

Читайте также

Читайте также

Берсерки

Массовые расстрелы стали возможны потому, что Америка вооружает убийц идеальным для их целей оружием

Грустный пример: скажем, в вопросе удержания власти наше руководство действует доказательно. Их эффективность велика, потому что они действуют исходя не из своих ощущений и представлений, а из объективной оценки ситуации. И если цель — ликвидировать интернет как угрозу, то национализация рунета — пример доказательной политики.

Но если цель — это предотвращение «колумбайнов», то никаких доказательств их связи с виртуальным насилием, интернетом, соцсетями не существует. То, что на «подвальных записях» убийцы Харрис и Клиболд обсуждали, будет ли снимать их «историю» Спилберг или Тарантино, не доказывает ничего, кроме того, что убийцы знали фамилии режиссеров.

Тот факт, что убийца играл в видеоигры, еще не доказывает, что видеоигры были причиной его поступка.

Для эффективной политики нужны доказательства, соответствующие научным критериям. Корреляция, т.е. совпадение, связь — вовсе не означает причинность. Иными словами: гипотеза, что виртуальное насилия связано с шутингами, возможна; ровно также предположение, что скрининг сочинений выявит потенциальных убийц на ранней стадии, вполне легитимно. Но перед тем как переходить к конкретным действиям — запрещать ли игры, или тратить миллиарды на разработку беспрецедентных систем с недоказанной эффективностью, — эту гипотезу и это предположение нужно сперва либо подтвердить, либо опровергнуть.

А когда решения принимаются не на основе проверяемых данных, а исходя из любых других соображений, то интернет, конечно, можно заблокировать, сочинения загрузить в суперкомпьютеры, а на классные часы привести политруков, но цель — избежание новых трагедий — решена не будет. За непонимание принципа доказательности, увы, есть печальная цена.

Делаем честную журналистику вместе с вами

Каждый день мы рассказываем вам о происходящем в России и мире. Наши журналисты не боятся добывать правду, чтобы показывать ее вам.

В стране, где власти постоянно хотят что-то запретить, в том числе - запретить говорить правду, должны быть издания, которые продолжают заниматься настоящей журналистикой.

Ваша поддержка поможет нам, «Новой газете», и дальше быть таким изданием. Сделайте свой вклад в независимость журналистики в России прямо сейчас.
#шутинг #массовое убийство #школы #вузы #психология #трагедия
aloe-tibet.ruрекламарекламаУзнать большеУзнать больше

важно

3 часа назад

Социал-демократы и «блок Меркель» предварительно набирают по 25% голосов на выборах в Германии

важно

час назад

Что произошло за день 26 сентября — коротко

Slide 1 of 6

выпуск

№ 108 от 27 сентября 2021

Slide 1 of 6
  • № 108 от 27 сентября 2021

Топ 6

1.
Колонка

Гробовые деньги не пахнут Как зампред Центробанка проговорился о том, что «пенсионерам помогать уже поздно»

views

407579

2.
Интервью

«Власти России не смогут помешать всему миру узнать правду» ЕСПЧ признал, что за отравлением Александра Литвиненко стояло российское государство. Марина Литвиненко, вдова убитого, комментирует решение

views

181018

3.
Онлайн

Выборы прошли. Оппозиция потеряла голоса, у «Единой России» около 50%. Онлайн КПРФ проводит митинг на Пушкинской в Москве, после добавления протоколов ДЭГ в Москве победили провластные кандидаты

views

153568

4.
Колонка

Соболезнования Кремлю в связи с блистательной победой О сменяемости власти как гарантии от повторения маразма

views

136583

5.
Интервью

Майоритарная система выборов Программист Илья Сухоруков наблюдал за электронным голосованием. Он рассказал Юлии Латыниной о подделках блокчейна, вахтерах, майорах и сертификатах ФСБ

views

135435

6.
Колонка

Надавили на газ Европа публично обвинила «Газпром» в шантаже. Эпоха больших «потоков» подходит к концу

views

106807

Вы можете просто закрыть это окно и вернуться к чтению статьи. А можете — поддержать газету небольшим пожертвованием, чтобы мы и дальше могли писать о том, о чем другие боятся и подумать. Выбор за вами!
close

К сожалению, браузер, которым вы пользуетесь, устарел и не позволяет корректно отображать сайт. Пожалуйста, установите любой из современных браузеров, например:

Google Chrome Firefox Opera