Как в кино и аниме. Зачем в России хотят запустить тотальный психоанализ с помощью искусственного интеллекта

Что происходит

Власти планируют проанализировать психику россиян по их страницам в соцсетях с помощью искусственного интеллекта.

• Аналитический центр при правительстве РФ заказал исследование о возможностях ИИ с точки зрения психологической диагностики человека. Грант получил Институт системного программирования им. Иванникова.
• Предполагается, что ИИ будет анализировать аккаунты в соцсетях, где хранится информация о человеке, для прогнозирования его поведения. 
• Так власти планируют бороться с «группами смерти», вовлечением россиян в террористическую деятельность и с экстремизмом.
• Из тендерной документации следует, что исследование должно быть проведено до 1 сентября 2024 года.

Мировая практика

Ранее открытой информации о проведении анализа аккаунтов в соцсетях с помощью ИИ не было. Пока TikTok и Facebook используют такие алгоритмы для удаления запрещенного контента.

• TikTok начал пользоваться ИИ с этой целью летом 2021-го. Алгоритмы ищут и удаляют видео, где содержатся сцены секса и насилия, показаны незаконные действия или запрещенные товары.
• Компания Facebook (переименована в Meta) использует искусственный интеллект, чтобы находить запрещенный контент на основной платформе и в Instagram (соцсеть принадлежит Meta). 

Но при этом

Использование ИИ для анализа данных из соцсетей потенциально может оказаться незаконным, считают эксперты.

• Преподаватель Moscow Digital School Олег Блинов высказал опасение, что массовая психодиагностика профилей россиян в соцсетях может противоречить действующему законодательству. «В конце прошлого года были приняты поправки к Закону о персональных данных, согласно которым опубликованные гражданами данные могут использоваться для какого-либо анализа только с их согласия», — напомнил он.
• Директор по правовым инициативам Фонда развития интернет-инициатив Александра Орехович отметила, что информация, опубликованная в соцсетях, даже если она общедоступна, защищается законом о персональных данных. 
• Россияне пока не доверяют искусственному интеллекту. Хотя ИИ в России применяется во многих сферах — от банков до транспорта, сейчас, по данным опроса ВЦИОМ, большинство россиян ассоциируют такие технологии со слежкой и вооружением. Чтобы исправить ситуацию, в конце октября 2021-го власти начали кампанию по улучшению репутации искусственного интеллекта. 

Контекст

• В 2020 году при участии специалистов Лиги безопасного интернета из соцсетей были удалены 1,5 тыс. страниц с детской порнографией и 1,8 тыс. страниц, содержащих информацию о продаже наркотических средств. 
• Волонтеры организации обнаружили в соцсетях более 33 тыс. фейков, к февралю 2021-го платформы удалили только 11% такой информации.
• По данным Лиги, 43 млн россиян состоят в деструктивных сообществах в соцсетях (такие сообщества занимаются кибербуллингом, пропагандой суицида, продажей наркотиков; также есть экстремистско-террористические сообщества, группы о серийных убийцах и маньяках), около 8 млн из них — дети.
• В феврале 2020 года президент России Владимир Путин заявил, что радикальные группы, склоняющие подростков к суициду, продолжают деятельность в интернете, поэтому работа по их выявлению должна вестись постоянно. Эксперты отметили, что с началом пандемии коронавируса активность в «группах смерти» возросла.

Что посмотреть

О попытках предотвращать преступления, изучать личность по соцсетям и создавать социальный рейтинг уже фантазировали сценаристы и режиссеры.

• «Особое мнение» (2002)

Фильм с Томом Крузом в главной роли. По сюжету, в 2054 году на основе психических технологий разработали программу, с помощью которой возможно узнать о еще не совершенном убийстве и арестовать подозреваемого до того, как случится трагедия. Этим занимается особый предпреступный отдел. 

• «Психопаспорт» (2012–2019)

Аниме из трех сезонов. В Японии XXII века для предотвращения преступлений создана система, которая проверяет сознание каждого гражданина на наличие признаков преступного умысла. 

• «Черное зеркало» (2011–2019)

В первой серии третьего сезона сериала героиня изо всех сил пытается добиться повышения своего общественного рейтинга, который создается на основе соцсетей, но делает только хуже и попадает в тюрьму. 

• «Анон» (2017)

Кино о том, как в будущем каждому вживляют имплантаты, с помощью которых вся информация о человеке непрерывно сохраняется в «облаке». Вся жизнь людей проходит в онлайне, а конфиденциальность и анонимность исчезли.