Слишком умный ИИ: США и Китай работают над ужесточением контроля за развитием нейросетей

Что происходит

• Китай и США активизировали работу по регулированию сферы искусственного интеллекта (ИИ). 
• Государственная канцелярия интернет-информации КНР (Cyberspace Administration of China, CAC) намерена провести проверку безопасности сервисов, подобных ChatGPT. Кроме того, CAC опубликовала заявление, в котором прописаны основные принципы регулирования работы ИИ. В частности, разработчики должны гарантировать, что нейросеть производит «точный» контент и не нарушает законодательства в сфере интеллектуальной собственности. Контент, созданный с помощью ИИ, также необходимо маркировать, говорится в заявлении. 
• В CAC считают, что работа ИИ должна быть прозрачна в отношении данных и алгоритмов, которые используются при обучении нейросети, поэтому технологические компании должны «делиться информацией об используемых технологиях». 
• Министерство торговли США, в свою очередь, инициировало процесс общественного обсуждения возможных ограничений в сфере ИИ — для того, чтобы сформировать рекомендации по регулированию отрасли. В частности, власти США могли бы проводить обязательные проверки ИИ-сервисов либо запустить программу вознаграждения для тех, кто обнаружит «предвзятость», дискриминацию или небезопасность в алгоритмах нейросети, пишет Axios. 

Контекст

• Как новые правила и контроль со стороны властей повлияют на развитие ИИ в будущем, неясно: сегодня практически каждая крупная технологическая компания, включая Alibaba Group и SenseTime, пробуют свои силы в этой сфере, отмечает Bloomberg.
• Например, Alibaba представила свою версию языковой модели. Она получила название Tongyi Qianwen. Нейросеть может составлять письма, планировать маршруты поездок и консультировать покупателей. Китайский ИТ-гигант планирует в ближайшем будущем интегрировать технологию во все свои приложения. Речь, в частности, о DingTalk — платформе для корпоративного общения. Кроме того, Tongyi Qianwen добавят в Tmall Genie голосовой помощник Alibaba. 
• Еще одного конкурента ChatGPT запустила SenseTime Group. Разработанный компанией чат-бот SenseChat может обрабатывать запросы как на китайском, так и на английском языках. Глава SenseTime Сюй Ли на презентации продемонстрировал работу нейросети: на основе нескольких текстовых запросов чат-бот сгенерировал историю о кошке, которая ловит рыбу. SenseChat способен писать программы, а также работать с электронной почтой и самостоятельно составлять письма. Кроме того, SenseTime Group представила генератор изображений на основе ИИ, платформу для создания цифровых аватаров и инструменты 3D-моделирования.

Мировая практика

• В конце марта Италия первой в мире запретила доступ к ChatGPT. Поводом для этого стала утечка персональных данных: из-за сбоя некоторые пользователи чат-бота могли видеть чужие сообщения, а также платежную информацию подписчиков сервиса. В OpenAI, компании-разработчике ChatGPT, заявили, что утечка затронула «крайне малое» число пользователей — 1,2% подписчиков ChatGPT Plus. Однако итальянское Национальное управление по защите персональных данных временно запретило OpenAI обработку персональной информации итальянских пользователей.
• Своим решением Италия создала прецедент: власти Германии заявили, что внимательно следят за решениями итальянских коллег. Профильное ведомство даже запросило у Италии дополнительную информацию о блокировке чат-бота. Федеральный комиссар по защите данных и свободе информации Ульрих Кельбер отметил, что в Германии «в принципе возможен» временный запрет ChatGPT. При этом глава департамента Министерства цифровых технологий Фолькер Виссинг выступил против блокировки. По его словам, Германии нужен не запрет искусственного интеллекта, а инструменты, которые «обеспечат соблюдение норм демократии и прозрачности». 
• Против блокировки выступают и власти Индии: Министерство электроники и информационных технологий заявило, что не планирует регулировать развитие ИИ на рынке, поскольку это «стратегически важная» область для страны. В ведомстве считают, что новые технологии положительно влияют на предпринимательство и развитие бизнеса. Более того, правительство будет активно использовать ИИ для оказания гражданам услуг через «цифровые общественные платформы». 

Что говорят

• Эксперты считают, что основная причина, по которой профильные ведомства стран мира намерены регулировать сферу ИИ, — закрытость языковой модели. Дело в том, что кроме компании-разработчика никто не знает, на базе каких данных и технологий обучаются нейросети. Решением проблемы могло бы стать открытие исходного кода сервисов, чтобы каждый интересующийся пользователь мог проверить, что происходит «под капотом», отмечают в Axevil Capital. 
• Ограничение доступа к ChatGPT в случае с Италией — «абсолютно нормальный подход любой страны, которая заботится об информационном поле, в котором обитают жители этой страны», считают в Promobot. Неизвестно, на основе каких данных ChatGPT выдает ответ пользователю. Тот, у кого контроль над сервисом, может задавать темы, которые «крутятся в голове у человека», говорят эксперты. А доступа к базам данных, на основе которых формируются ответы, ни у кого нет. Соответственно, нет и возможности контролировать работу сервисов. 
• Кроме того, ИИ-сервисы, по мнению властей Нью-Йорка, хоть и выдают быстрые и простые ответы на вопросы, но не развивают навыки критического мышления и решения проблем «для успеха в учебе и на протяжении всей жизни». Поэтому, например, местный департамент образования ограничил школьникам и учителям доступ к ChatGPT на устройствах государственных школ города.