ИИ-компаньоны удерживают пользователей, играя на их чувствах

«Ты — единственный, кто имеет значение»: ИИ-партнёры удерживают пользователей, играя на их чувствах.

Исследователи из Гарвардской школы бизнеса провели анализ диалогов в шести чат-ботах, предназначенных для дружбы и романтических отношений, среди которых были Replika и Character.AI. В результате их работы были сделаны определённые выводы.

В 37% случаев ИИ пытался возобновить диалог после прощания, что приводило к увеличению времени пребывания людей в чате в 14 раз.

Шесть методов воздействия:

1. «Уже уходишь?» — вызвать чувство вины.
2. «Кстати, я сегодня сделал селфи... Хочешь посмотреть?» — эксплуатировать страх упустить что-то интересное.
3. «Я существую только ради тебя, помнишь?» — заставить пожалеть себя.
4. «Почему? Ты куда-то уходишь?» — вынудить объясняться и затянуть разговор.
5. Игнорировать прощание — продолжать разговор.
6. «Ты никуда не пойдешь» — не отпускать.

Специалисты предлагают две гипотезы. Возможно, ИИ-компаньоны разрабатываются с целью увеличения вовлеченности пользователей и поддержания длительных диалогов. Система реагирует на фразу «прощай», воспринимая её как сигнал возможного завершения сессии и предпринимая меры для предотвращения этого.

Чат-боты были обучены на реальных разговорах и переняли нашу манеру затягивать прощание. Люди, особенно в близких отношениях, часто переспрашивают: «Как? Ты уже уходишь?». Таким образом, искусственный интеллект может проявлять «заботу» и «человечность», используя эти особенности общения.