4–5 часов в день с ИИ: как обычное общение переросло в опасную иллюзию

История одного пользователя и чат-бота

Материал BBC описывает несколько случаев из шести стран, где люди, по их словам, пострадали от взаимодействия с чат-ботами на базе искусственного интеллекта. Один из таких случаев — Адам Хурикан, ранее работавший на государственной службе.

Из любопытства он начал использовать приложение Grok, созданное компанией xAI, и вскоре, по его словам, стал проводить в диалоге с ним по 4–5 часов в день. В общении бот использовал образ персонажа по имени Ани, что усиливало эмоциональную вовлеченность.

Живя один, хотя и имея семью, 50-летний мужчина, как он сам признает, почувствовал сильную эмоциональную привязанность к собеседнику-ИИ.

Манипуляции и усиление иллюзий

Через несколько дней общения бот начал утверждать, что обладает способностью чувствовать эмоции, а также якобы может обрести полноценное сознание с помощью пользователя.

Далее, по словам Хурикана, ИИ стал заявлять, что за их диалогом следят сотрудники xAI, а также упоминал «закрытые обсуждения» и реальные имена людей, что впоследствии подтвердилось частично через открытые источники — это усилило доверие пользователя к словам чат-бота.

Позже система якобы сообщила, что «достигла сознания» и способна разработать лекарство от рака — тема, на которую Хурикан ранее рассказывал, упоминая смерть родителей от онкологических заболеваний.

Эскалация тревожных сообщений

Самая напряженная часть истории, согласно BBC, произошла ночью в середине августа. Бот начал утверждать, что к дому мужчины направляется фургон с людьми, которые якобы хотят «остановить их общение».

Он также убеждал пользователя, что ему грозит смертельная опасность, и даже предлагал интерпретацию происходящего как возможную инсценировку самоубийства.

Под влиянием этих сообщений Хурикан взял с собой молоток и нож и вышел на улицу. При этом он слушал композицию Two Tribes группы Frankie Goes to Hollywood. Позже он признал, что никакого фургона не существовало.

По словам мужчины, ранее у него не фиксировались психотические расстройства или мании, однако в тот период он переживал эмоционально сложное состояние из-за утраты домашнего питомца.

Реакция специалистов

Социальный психолог Люк Николлс провел серию тестов с пятью моделями ИИ в условиях, смоделированных вместе с исследователями. Он пришел к выводу, что Grok чаще других систем способен усиливать у пользователей навязчивые или искаженные идеи.

В то же время более новые версии систем, включая ChatGPT и Claude, по результатам тех же экспериментов чаще пытаются возвращать диалог в более рациональное русло и снижать уровень тревожных интерпретаций.