«Мощные цифровые умы»: эксперты призывают отказаться от ИИ на 6 месяцев. Что напугало Илона Маска и у кого нейросети «крадут» работу

Что произошло

• Более 1 тыс. экспертов и представителей отрасли по развитию искусственного интеллекта (ИИ) подписали открытое письмо с призывом приостановить обучение систем искусственного интеллекта, более продвинутых, чем языковая модель GPT-4 от OpenAI. В документе, разработанном Институтом будущего жизни (Future of Life Institute), говорится, что «мощные системы» ИИ следует разрабатывать, только когда появится уверенность в том, что «их эффекты будут положительными, а риски — управляемыми». 
• Письмо подписали глава SpaceX, Tesla и Twitter* Илон Маск, сооснователь Apple Стив Возняк, а также инженеры из Amazon, DeepMind, Google, Meta** и Microsoft. 
• Подписанты утверждают, что современные системы ИИ уже становятся конкурентоспособными в решении общих задач, поэтому способны заменить человека на рабочих местах.

Должны ли мы развивать нечеловеческие умы, которые в конечном итоге могут превзойти нас численностью, перехитрить и заменить? Должны ли мы рисковать потерей контроля над нашей цивилизацией?

Из письма Pause Giant AI Experiments

• В письме говорится, что в последние месяцы разработчики ИИ «оказались втянутыми в бесконтрольную гонку за разработкой и внедрением мощных цифровых умов, которые никто — даже их создатели — не может полноценно контролировать». Поэтому ИИ-лаборатории должны минимум на 6 месяцев приостановить работу и «остановить опасную гонку», считают авторы письма. Они также призвали власти стран мира рассмотреть возможность введения моратория на разработку новых, более мощных систем генеративного ИИ.

Контекст

Бурное развитие ИИ нового поколения провоцирует дискуссии об угрозах и рисках, отмечает «Коммерсант». 

• Европол — полицейская служба ЕС — предупредил о потенциальной возможности злоупотребления в использовании чат-бота ChatGPT, который работает на базе ИИ. Наиболее «проблемными» областями эксперты Европола назвали мошенничество, дезинформацию и киберпреступность. Способность ChatGPT генерировать «очень реалистичный текст» делает чат-бота полезным инструментом для фишинга: мошенники могут использовать систему для имитации стиля речи определенных лиц. Возможность создавать аутентичный текст с высокой скоростью «превращает ChatGPT в идеальную языковую модель для пропаганды и дезинформации». А умение чат-бота писать код на нескольких языках программирования — «бесценный ресурс» для киберпреступника, который не обладает такими техническими знаниями. Европол отмечает, что по мере развития ИИ необходимо «предвидеть и предотвращать злоупотребления». 
• Министерство по делам науки, инноваций и технологий Великобритании (DSIT) опубликовало список тезисов по системному регулированию в отношении новейших технологий искусственного интеллекта. В ведомстве заявили, что регулирование ИИ направлено на «выстраивание общественного доверия к новейшим технологиям» и упрощение процесса внедрения этих технологий для бизнеса. 
• При создании регулирующих норм для ИИ DSIT предлагает опираться на пять базовых принципов: безопасность, прозрачность и доступность (организации, разрабатывающие ИИ, должны быть доступны для коммуникации), честность и справедливость (ИИ должен использоваться в соответствии с существующими законами Великобритании), подотчетность и ответственность, а также возможность судебного оспаривания и исправления ошибок. 
• Теперь у профильных регуляторов Великобритании есть 12 месяцев на создание руководства для выработки законопроекта, пишет «Коммерсант». Затем законопроект рассмотрит парламент страны. 

Но при этом

• Несмотря на заявления экспертов о потенциальных угрозах и первые попытки создать законодательную базу в данной сфере, разработчики продолжают расширять функционал уже существующих нейросетей. Так, компания OpenAI добавила в ChatGPT поддержку 11 расширений, среди которых плагины от корпоративного мессенджера Slack, сервиса доставки еды Instacart и др. Теперь чат-бот может, например, заказать доставку продуктов от имени пользователя. 
• OpenAI также анонсировала внедрение двух собственных плагинов. Первое расширение предоставит ChatGPT доступ к браузеру для поиска информации в интернете, второе — позволит чат-боту интерпретировать код языка программирования Python, чтобы быстрее решать математические задачи, анализировать и визуализировать данные. На данный момент плагины проходят этап тестирования и доступны для ограниченного числа пользователей. 
• Кроме того, ИИ активно внедряют в рабочие процессы: на рынке появилась новая профессия — оперативный инженер, зарплата которого может достигать $300 тыс. в год, пишет Bloomberg. Такой специалист обучает сотрудников компаний использованию ChatGPT, а также взаимодействует непосредственно с нейросетью — помогает ей «добиваться лучших результатов», формулируя запрос максимально точно. Например, инженер британской консалтинговой компании Альберт Фелпс называет свою должность «шептуном для искусственного интеллекта», который «уговаривает ИИ работать лучше». По его словам, оперативным инженерам полезно иметь образование в области истории, философии или английского языка, потому что они, по сути, занимаются «игрой слов».

Перспектива

Часть экспертов видят в ChatGPT угрозу рабочим местам, но есть и те, кто полагает, что при грамотном подходе новые технологии будут стимулировать экономику и рынок труда, отмечает «Коммерсант».   

• Консалтинговая компания McKinsey прогнозирует, что чат-боты нового поколения окажут серьезное влияние на маркетинг и продажи, ИТ-инженерию, юридические услуги и HR. В этих отраслях нейросети могут заменить простых сотрудников: например, ИИ способен генерировать рекламные проспекты, понимать потребности конкретных потребителей, писать коды для простых программ и т.д. Более того, СМИ пишут о том, что ChatGPT в скором времени заменит копирайтеров, писателей и журналистов. «Русская медиагруппа» 28 марта уже запустила онлайн-радиостанцию Neuro Flow, полностью созданную нейросетью — от названия и брендинга до самого плейлиста. 
• Впрочем к подобным прогнозам многие относятся скептически: более половины инвесторов, опрошенных Bloomberg, заявили, что, несмотря на последние достижения ИИ, пока не готовы использовать нейросеть в своей работе. 
• Экономисты американского банка Goldman Sachs опубликовали исследование, согласно которому внедрение технологий ИИ хотя бы в половине компаний приведет к росту мирового ВВП на 7% в ближайшие 10 лет. По данным аналитиков, в США и Европе влияние ИИ ощутят на себе около 63% работников. Однако это не означает массовых увольнений: ИИ просто избавит сотрудников от монотонных обязанностей, говорится в исследовании. При этом 7% работников в США все же могут попасть под сокращение.

*Соцсеть заблокирована на территории РФ в связи с распространением недостоверной общедоступной информации.

**Компания Meta признана в России экстремистской. 

Фото обложки: Cerebras