В сентябре 2017 года во время телемоста с российскими школьниками Владимир Путин выступил с громким прогнозом: «Искусственный интеллект — это будущее не только России, это будущее всего человечества. <…> Тот, кто станет лидером в этой сфере, будет властелином мира». Полгода спустя президент в красках описал, что будет со странами, которые не смогут перестроиться на цифровые рельсы: новая технологическая волна их «просто захлестнет, утопит». В послании Федеральному собранию Путин анонсировал «масштабную программу национального уровня», посвященную развитию искусственного интеллекта в России. В течение 2019 года правительство должно представить набор стратегических документов, которые позволят России избежать участи технологического аутсайдера. «Новая» разбиралась, с какими стартовыми позициями наша страна включается в новую «гонку вооружений».
Новый «Манхэттен»
25 февраля истекает срок, к которому правительству поручено подготовить варианты «дорожной карты» развития искусственного интеллекта в России. В конкурсе на разработку национальной стратегии в области ИИ могут принять участие Сбербанк, Ростех, Ростелеком, «Яндекс», Mail.Ru Group, Rambler Group и МТС.
Центральную роль в этом процессе отводят Сбербанку, который в последние годы дрейфует от банковского бизнеса в сторону универсальной «цифровой экосистемы». «Сбер» собрал под своим крылом ведущих специалистов в отрасли, включая сотрудников «Физтеха» — одного из основных центров научных компетенций в сфере машинного обучения в России. При банке действует лаборатория исследований искусственного интеллекта, конкурировать с которой среди российских компаний может, пожалуй, только «Яндекс».
Ориентированный на гражданские технологии Сбербанк уравновешивает госкорпорация Ростех, специализирующаяся на безопасности. При Ростехе с осени прошлого года действует собственный Центр искусственного интеллекта, однако из-за непубличного характера большинства разработок оценить их уровень сложно. Во всяком случае, российские военные активно тестируют «умные ракеты», беспилотные дроны и прочие интеллектуальные системы вооружения, что вызывает немалое беспокойство у лидеров западных стран.
Впрочем, ИИ сегодня — это в первую очередь гражданская сфера. «Во всем мире время, когда новые технологии появлялись из войны, прошло несколько десятков лет назад. Сейчас все происходит ровно наоборот. К сожалению, в России мы этого не заметили, и ведем себя так, будто на дворе сейчас 1960 год», — говорит заведующий лабораторией изучения цифровой трансформации государства и общества РАНХиГС Василий Буров.
Летальное оружие с интеллектуальной компонентой испытывают все крупные страны, но даже военные делают акцент на «мирных» разработках. К примеру, министерство обороны США под технологиями ИИ подразумевает не автономных роботов-убийц, а системы предотвращения природных бедствий и автоматизацию техобслуживания военной техники.
При этом для описания глобальной технологической конкуренции не зря используется военная метафорика — риски отставания в ней действительно носят экзистенциальный характер. Тот, кто разработает самые совершенные алгоритмы, сможет обеспечить себе устойчивые преимущества на долгое время вперед. Это самая масштабная «гонка вооружений» в истории человечества: она больше, чем проект «Манхэттен» или программа «Аполлон», и реализуется сразу во всех сферах человеческой деятельности, отмечает IT-предприниматель, организатор конференции OpenTalks.AI Игорь Пивоваров.
По объему накопленных инвестиций и емкости рынка высоких технологий Россия катастрофически отстает от мировых лидеров. В 2017 году аналитический центр TAdviser и компания «Инфосистемы Джет» оценили объем российского рынка ИИ в 700 млн рублей с прогнозом роста до 28 млрд рублей к 2020 году. Для сравнения: в Китае в 2017 году в ИИ было вложено $12 млрд (780 млрд рублей), к 2020 году эта цифра вырастет до $70 млрд, а к 2030 году — до $150 млрд (это целевой показатель китайского правительства). Эксперты РАНХиГС в отчете «Государство как платформа: люди и технологии» указывают, что доля цифровой экономики в России составляет всего около 3% ВВП (в развитых странах — от 10% до 35%).
С наукой ситуация обстоит не лучше: в рейтинге стран по цитируемости статей в области машинного обучения Россия находится на 42-м месте.
Сегмент машинного обучения в России колоссально растет, но рынка как такового так и не сформировалось: технологии ИИ фактически никто не продает и не покупает, все стараются заниматься разработками собственными силами и не хотят делиться данными, говорит Пивоваров. В России очень много «общетехнологических» компаний, которые делают любые продукты, и очень мало узкопрофилированного бизнеса: например, ИИ для промышленности, финансов или юридической практики. В США ситуация ровно обратная. Именно потому, что на конкретных применениях ИИ, в отличие от общих разработок, можно хорошо заработать.
«Россия в этом смысле попала в известный парадокс: технологии есть, а с коммерциализацией большие проблемы. Это ключевой вопрос для отрасли сейчас», — объяснят эксперт.
Реальная битва за лидерство в сфере искусственного интеллекта идет между двумя ключевыми игроками — США и Китаем. Обе страны имеют свою специфику в подходе к развитию ИИ. США опираются на создание благоприятного климата для частных стартапов, Китай — на взращивание «национальных чемпионов», масштабные госинвестиции и самый большой в мире национальный рынок (1,4 млрд человек).
Исход этого противостояния непредсказуем. Америка обладает богатой культурой инноваций и развитой венчурной инфраструктурой, которая обеспечивала стране технологическое лидерство все предыдущие десятилетия. Китайский рынок молод, динамичен и гораздо быстрее «проглатывает» новинки.
Но самое важное состоит в том, что китайские нейросети обучаются на огромных массивах данных, недоступных компаниям из Силиконовой долины ни за какие деньги. В частности, потому, что китайцы гораздо менее щепетильны в этических вопросах. В то время как Facebook разгребает последствия скандала со сбором данных пользователей, а Google под давлением сотрудников отказывается от военного контракта с Пентагоном, в Китае государство держит на привязи все крупнейшие IT-компании и свободно распоряжается данными граждан. Поэтому многие аналитики ставят в этой гонке на Поднебесную.
В России есть IT-стартапы мирового уровня, множество высококлассных инженеров и программистов, но государство не прилагает необходимых усилий для создания благоприятной среды для бизнеса и науки. «Россия сейчас не на вторых и даже не на третьих ролях в сфере ИИ, а сидит в стороне, — говорит Пивоваров. — Государственные мужи годами только обсуждают, что надо было бы сделать, чтобы поучаствовать в этой гонке. Пока дальше этого дело не идет, у нас даже нет никакой стратегии в области развития ИИ». В России существует порядка 60 тысяч стратегических документов, но ни один из них не содержит перечень задач России в области ИИ, подтверждает Буров.
Недавнее выступление Путина призвано изменить это положение вещей. Тем более что стратегическое планирование в сфере ИИ становится общемировым трендом. 11 февраля указ о мерах поддержки американского лидерства в сфере искусственного интеллекта подписал Дональд Трамп, а на следующей день выжимки из собственных документов опубликовал Пентагон. В Китае национальная программа по достижению мирового лидерства в цифровых технологиях к 2030 году была принята еще в 2017 году и считается образцом стратегического планирования в этой области. Аналогичные документы есть и в ряде европейских стран.
В России мероприятия по развитию сквозных технологий, одной из которых является ИИ, должны быть реализованы в рамках нацпрограммы «Цифровая экономика». Объем финансирования проектов сквозных цифровых технологий в 2019 году составит более 20 млрд рублей.
Проблема в том, что в большинстве случаев появление государственной стратегии в России тормозит развитие той или иной области, и искусственный интеллект вполне может постигнуть та же участь, считает Василий Буров. «Предпосылки к этому есть: посмотрите на новые законы об изоляции Рунета. Хотя они сформулированы как законы, а не как стратегические документы, по сути, они выражают стратегическую позицию России», — говорит эксперт.
Пока что государственные визионеры крайне туманно высказываются о том, каким будет путь нашей державы на технологической арене. «Россия сохраняет суверенитет данных, но мы пытаемся найти образ будущего с человеческим лицом — технологический, но с понятием справедливости», — заявил в интервью «КП» спецпредставитель президента РФ по вопросам цифрового и технологического развития Дмитрий Песков.
В мировом сообществе статус России в сфере высоких технологий тоже выглядит двусмысленно: это аутсайдер, но с повышенным потенциалом развития. Налицо колоссальное отставание от США и Китая, но в то же время у России остаются сильные военные разработки и непредсказуемая внешняя политика. Готовность ввязываться в различные авантюры, чтобы создавать хаос на международной арене, проявилась в истории с предполагаемым вмешательством Кремля в американские выборы (считается, что в ней были задействованы армии ботов, использующих примитивное машинное обучение для распространения фейковых новостей). Есть риск, что Россия бросит все ресурсы на роль трикстера, ведущего подрывную информационную деятельность в других странах, но тогда о реальном технологическом лидерстве можно будет забыть окончательно.
Фото: Антон Новодережкин/ТАСС
Демократия в облаках
ИИ в госуправлении, как и в любой другой сфере, помогает автоматизировать рутинную интеллектуальную деятельность: например, подготовку и анализ документов или простые взаимодействия с населением. Концепция «государства как платформы», которая продвигалась Центром стратегических разработок Алексея Кудрина, предполагает, что данные граждан аккумулируются в едином цифровом хранилище, а простые управленческие решения вместо бюрократов принимают интеллектуальные системы.
По словам вице-премьера Максима Акимова, отвечающего в правительстве за цифровую трансформацию, государство ставит перед собой задачу в течение 1–2 лет значительно улучшить предоставление базовых госуслуг, связанных с оформлением документов и получением справок в различных госучреждениях (от оформления ДТП до проверки ЕГЭ в цифровой виде). «Десятки тысяч людей смогут не бегать с документами», — объяснил Акимов суть цифровизации в интервью РБК.
Большие массивы данных позволяют значительно повысить эффективность работы госорганов, но у оцифровки государства есть очевидная обратная сторона. Отношение российских чиновников к новым технологиям — «смесь цифровой наивности с цифровым тоталитаризмом», формулирует Буров: «Их первый порыв — внедрить ИИ для тотальной слежки за нарушителями, а второй — использовать большие данные для централизованного планирования».
Эксперты не сомневаются, что полицейские функции ИИ Россия будет использовать в полном масштабе. Технологии дают возможность установить реальный уровень преступности и заниматься профилактическим предупреждением противоправной деятельности, говорит криминолог и генерал-майор милиции в отставке Владимир Овчинский. «Россия уже внедряла элементарные формы искусственного интеллекта во время Олимпиады в Сочи и ЧМ-2018 (речь идет о камерах с технологией распознавания лиц. — А. Х.), но мы пока отстаем от западных стран по уровню интеграции информационных систем. Если не вводить социальный рейтинг, как в Китае, а использовать технологии только в целях защиты общества от правонарушений, то я не вижу никаких причин этого бояться», — говорит эксперт. В этом году технологии «умные камеры» внедряются в Москве в массовом порядке.
Предполагается, что электронный мониторинг распространят на «криминально опасные контингенты» и подозрительно ведущих себя людей, не нарушая при этом конституционные права всех остальных. Но на практике такая постановка задачи вызывает массу вопросов. Развитие логики тотальной цифровой прозрачности ведет к социальным рейтингам по китайскому образцу, когда любое действие человека (лайки в соцсетях, покупки в магазинах, кредитная история, оценки в школе) оценивается государством с точки зрения «общественной пользы». При низком рейтинге человек лишается прав на покупку определенных товаров и выезд за границу. К 2020 году Пекин рассчитывает распространить эту систему на всю страну.
Даже если применять полицейский ИИ в минимальной конфигурации, необходимо доверие общества к судебной системе, которое в России отсутствует напрочь. Отсюда специфическое по западным меркам отношение общества к автоматизации. Согласно исследованию «Евробарометра в России», с 2016 по 2018 год доверие российским судам упало на 8%. При этом число тех, кто поддерживает идею робота-судьи, выросло примерно на столько же. Главный фактор отечественного технооптимизма — радикальное недоверие к общественным институтам. На Западе люди опасаются отдавать важные общественные функции алгоритмам, а россиянам, наоборот, остается надеяться только на непредвзятых роботов.
Однако проблема создания надежных общественных институтов не решается технократическим путем: важно, кто и как управляет алгоритмами. Цифровые технологии могут повысить качество госуправления, когда они дополняют существующие демократические институты, говорит профессор Европейского университета в Санкт-Петербурге Владимир Гельман. «Когда технологии замещают их, а не дополняют, то очень высок риск манипуляций. Вам скажут, что у вас плохой рейтинг по объективным причинам, и проверить это вы никак не сможете».
Это связано с характерным для нейронных сетей эффектом «черного ящика»: принцип, по которому принимает решения самообучающаяся машина, не знает даже создавший ее программист. Под видом объективных паттернов роботы воспроизводят социальные предрассудки, запрятанные в данных: не важно, создаете вы электронного ассистента судьи или систему кредитного скоринга в банке. Поэтому технооптимизму россиян, к сожалению, сбыться не суждено: обучите робота-судью на решениях российских судов, и доля его обвинительных заключений приблизится к 99%.
Волна автоматизации лишний раз доказывает важность демократических институтов. Так, в США уже появились особые нормы, которые позволяют обжаловать автоматизированные решения. А в декабре Еврокомиссия приняла европейскую хартию этических основ использования ИИ в судебной и правоохранительной деятельности, говорит Овчинский: «Там есть несколько принципов, которые обеспечивают прозрачность судебных алгоритмов и возможность аудита алгоритма и баз данных, которые туда закладывались».
В России цифровые решения используются как суррогат демократической политики. Когда для москвичей запустилась электронная платформа для голосования «Активный гражданин», тут же обнаружилось, что это манипулятивная технология, часто применяемая для демонстрации поддержки властей, а не для учета мнения граждан при принятии важных решений, говорит Гельман. «Подозреваю, что под цифровой трансформацией власти имеют в виду такого рода механизмы, а не подотчетность, открытость и так далее».
Фото: Егор Алеев / ТАСС
Слишком человеческое
Еще одно направление государственной стратегии по цифровизации — создание актуальной законодательной базы. «Все наше законодательство нужно настроить на новую технологическую реальность», — заявил Владимир Путин.
В план мероприятий по программе «Цифровая экономика» на 2019 год внесена разработка рамочного законодательства о робототехнике и технологиях ИИ. «С большой вероятностью это законодательство появится уже в этом году, но пока мало кто понимает, что там нужно писать», — говорит советник Dentons Андрей Незнамов. Бизнес с опаской относится к попыткам государства что-то отрегулировать и предпочитает самый простой вариант, когда ответственность в случае каких-либо инцидентов с участием роботов несет страховая компания.
Ключевой вопрос в юридических спорах про новые технологии — должен ли робот обладать правосубъектностью, то есть иметь возможность приобретать товары от своего лица или выступать ответчиком в суде. Теоретически субъектом права можно признать хоть стул, но обычно необходимости в этом нет, говорит юрист Дмитрий Огородов.»Есть такая мифология, что каждая промышленная революция сильно меняет правовую систему. Но реальная практика показывает, что многие правовые конструкции сохранились со времен античности и римского права до наших времен».
К примеру, многие юристы считают, что к роботам применим античный статус раба. «Античный смарт-контракт — это когда отправил раба на рынок. Получается, что вещь заключает за тебя контракт», — рассуждает партнер «Пепеляев Групп» Роман Бевзенко. Можно не придумывать новых правовых норм для роботов, достаточно прописать возможность создавать на базе алгоритма юрлицо и наделить его каким-то имуществом (например, это актуально для роботов-трейдеров), считает юрист.
Впрочем, со времен античности все же произошел значительный прогресс в правовой мысли. Главный пример — это появление юрлиц и принятие закона об ограниченной корпоративной ответственности, которые для своего времени выглядели не менее эксцентрично, чем законы о роботах сегодня. Но в этом, на первый взгляд, техническом споре есть гораздо более важный аспект.
«Не надо думать, что мы сейчас определим какие-то фундаментальные сущности. Когда весь мир примет соответствующие законы, Россия их скопирует. Мы так делали всегда», — говорит директор Института права и развития ВШЭ–Сколково Алексей Иванов. Важно понять, как с помощью правовых инструментов влиять на технологические риски.
Технологии всегда имеют ценностное измерение. Китай использует ИИ в интересах бюрократической верхушки, которая заинтересована в политическом контроле над населением и поддержании высоких темпов экономического роста. Российская элита ориентирована на извлечение сырьевой ренты и пропаганду «духовных скреп», будь-то с помощью онлайн-платформ или старинными «аналоговыми» методами. Но даже в западных странах приверженность демократическим идеалам часто уступает логике рынка и интересам крупного бизнеса. В итоге мы приходим к тому, что в мире сверхбыстрых автоматизированных алгоритмов, способных делать все гораздо эффективнее нас, оставаться человеком не так уж просто.
Понятие человека как субъекта и носителя воли, на котором основан Гражданский кодекс, размывается под напором технологий, говорит Иванов. Алгоритмизированные системы принятия решений помогают нам быть «человеком экономическим», но нивелируют возможность принимать самостоятельные решения — даже если они неоптимальные с точки зрения экономической эффективности. «Пока что право так и не сделало фундаментальный политический выбор: мы хотим способствовать тренду дегуманизации гражданского оборота или усилить роль человеческой личности в новой экономической формации?» — считает юрист.
Дилемма «человек или машина» — это не сценарий конца света, а вопрос ценностного выбора, сделать который в будущем предстоит всем — в том числе и России.
Спасибо, теперь на почту вам будут приходить письма лично от редакторов «Новой»