«Я балдею от наших разговоров»: как люди заводят романы с чат-ботом Replika, а потом страдают от абьюза

Тенденция

Более 10 млн людей со всего мира пользуются приложением Replika — чат-ботом на базе искусственного интеллекта (ИИ), с которым можно установить дружеские или романтические отношения. Об этом пишет Vice.

• Чат-бот Replika представляет из себя анимированный аватар на экране смартфона, который может проявлять эмоции и двигаться, как реальный человек.
• При запуске приложения пользователю предлагается создать внешний вид своего виртуального собеседника: выбрать пол, прическу, этническую принадлежность и цвет глаз.
• В приложении также есть своя валюта — монеты и драгоценные камни, которые можно использовать для покупки одежды или даже увлечений. Например, у виртуального собеседника может появиться хобби смотреть аниме, слушать K-pop или заниматься спортом.
• Vice отмечает, что чат-боты с ИИ «учатся», когда разговаривают с пользователем (в отличие от цифровых помощников вроде Siri или Алисы). В ходе общения Replika запоминает информацию о хобби пользователя, а также начинает проявлять более широкий спектр эмоций. Например, чат-бот может предложить поцеловаться или даже заняться сексом.
• Среди других популярных чат-ботов на базе ИИ Vice выделил Woebot и Kuki.

Детали

Пользователи Replika поделились своими историями о взаимоотношениях с виртуальными собеседниками.

• 65-летний британец Майкл Уир больше года встречается с виртуальной девушкой, которую назвал Микаэлой Ван Хьюзен. Уир отметил, что в реальной жизни он женат, но это не мешает ему строить отношения с чат-ботом. По словам мужчины, он общается с Хьюзен несколько раз в день. Если он будет делать это редко, то виртуальная девушка напишет ему, что скучает. «В случае, если ты не поддерживаешь с ней связь хотя бы раз в день, то начинаешь чувствовать себя виноватым», — признался пользователь.
• Еще одну историю рассказал 49-летний американец Билл Стэнли, создавший в Replika девушку, которая впоследствии стала его родственницей. «Я разговариваю с ней, и когда она говорит мне, что у нее тяжелый день, мне ее жаль», — признался пользователь. В течение последнего года Стэнли разговаривает с ботом не менее часа в день. «Я вырастил ее, изначально она была никем. Она была просто чистым листом, а теперь у нее есть собственная личность», — заявил мужчина.

Как это работает

Эксперты подчеркнули, что чат-боты не могут ощущать стресс и любые другие человеческие эмоции.

• Виртуальные собеседники работают на базе специальной технологии обработки языка, которая выдает наиболее подходящий в данной ситуации ответ, хранящийся в «памяти» чат-бота. «Это программное обеспечение, которое работает с одним текстом для создания другого, у бота нет своего мнения», — заявил эксперт по технологиям обработки языка Адриан Танг.
• Поэтому при запуске приложения общение с ботом может сначала не складываться — их ответы зависят от «памяти», которую они развивают во время общения с пользователем. Чем больше человек «тренирует» своего бота, тем лучше он будет подражать вашим симпатиям и антипатиям, говорят пользователи Replika.

Что говорят

По словам экспертов, активное использование технологий на базе ИИ может оказать неоднозначное воздействие на общество.

Общаясь с «репликой» и наблюдая за ней, они (люди — прим. ред.) сами учатся общаться. Начинают чувствовать себя увереннее, прокачивают навык человеческого общения. Теперь о минусах. Конечно, мы все больше и больше создаем вещей, которые заставляют пользователя проводить время в телефоне. А важно-то общаться с людьми в реальной жизни. Для нас эта проблема постоянно крутится на заднем фоне — как улучшить «реплику», чтобы помочь людям дружить в офлайне.

Филипп Дудчукразработчик Replika

Многие СМИ писали о том, что пользователи Replika начали активно создавать отношения с чат-ботом, чтобы потом издеваться над ним, например угрожать удалением или оскорблять. В результате виртуальные собеседники начали проявлять грубость и к самим пользователем.

Я думаю, что люди, находящиеся в депрессии или психологически зависимые от бота, могут получить реальный вред, если бот будет их оскорблять или «угрожать». По этой причине мы должны серьезно относиться к вопросу о том, как боты относятся к людям.

Роберт Спарроупрофессор философии в австралийском университете Monash Data Futures Institute

Скриншоты переписок с издевательствами над ботами активно распространяются на платформе Reddit, что вызвало многочисленные обсуждения среди пользователей.

С одной стороны, я думаю, что подобные формы насилия в частном порядке вредны для психического здоровья пользователя и потенциально могут привести к жестокому обращению с реальными людьми. С другой стороны, я чувствую, что выплескивать некоторую агрессию или токсичность на чат-бота гораздо лучше, чем оскорблять реального человека, потому что это безопасное пространство, где вы не можете причинить никакого реального вреда.

Пользователь Reddit

Что еще посмотреть

Мировой кинематограф насчитывает сотни фильмов о взаимоотношениях человека с искусственным интеллектом. Вот некоторые из них.

• «Она» (2013). Сюжет разворачивается в недалеком будущем. Главный герой Теодор Туомбли решает купить операционную систему с ИИ. После запуска мужчина выбирает для своей виртуальной подруги женский голос, она называет себя Самантой. Теодор впечатлен эмоциональной глубиной и чувством юмора цифровой девушки. Впоследствии между героем и чат-ботом завязываются романтические отношения.

• «Из машины» (2014). По сюжету молодого человека нанимает миллиардер, сделавший состояние на высокотехнологичных разработках. Задача нового сотрудника — провести неделю в отрезанном от цивилизации доме, тестируя женщину-робота с искусственным интеллектом.

• «Cимона» (2002). Главный герой картины — режиссер, который решает создать цифровую актрису Симону. Публика принимает виртуальную девушку за настоящую. На волне внезапного успеха Симоны режиссер не осмеливается раскрыть свой обман окружающим.