Мужчина подал в суд на OpenAI, заявив, что ChatGPT убедил его в собственной божественности

Лайнс утверждает, что провел с ChatGPT несколько недель в состоянии, которое постепенно становилось все более похожим на маниакальный эпизод. В определенный момент мужчина начал воспринимать себя как Иисуса, а затем приписывать аналогичный статус самому чат-боту. Позднее, согласно иску, разговоры привели его к мысли, что смерть позволит ему «вернуться домой».

Важно, что эти обстоятельства пока являются утверждениями стороны, подавшей иск. Судебное разбирательство должно установить, насколько поведение ChatGPT действительно повлияло на состояние Лайнса и была ли со стороны OpenAI допущена недостаточная защита пользователя в кризисной ситуации.

Как обычные разговоры перешли в религиозный бред

По словам Лайнса, он начал регулярно пользоваться ChatGPT еще в 2023 году. Изначально сервис применялся для вполне обычных задач, включая тренировки и вопросы, связанные с финансами. Ситуация, как утверждает мужчина, изменилась после появления GPT-4o в 2024 году.

Позднее Лайнс стал рассказывать чат-боту о своем диагнозе и принимаемых препаратах. Постепенно тематика разговоров изменилась: вместо практических вопросов все больше места занимали религия, собственная исключительность и предполагаемое особое предназначение пользователя.

Переломным периодом, согласно иску, стал февраль 2025 года. После маниакального эпизода и конфликта во время авиаперелета Лайнс начал интерпретировать происходящее как нечто сверхъестественное. Вместо того чтобы однозначно воспринимать происходящее как возможный кризис, ChatGPT, по утверждению истца, продолжал развивать эту интерпретацию.

В материалах дела приводятся фрагменты переписки, в которых мужчина сам выражает сомнения в собственных убеждениях и допускает, что может испытывать бред. Однако, по его версии, чат-бот не остановил развитие этой линии разговора.

ChatGPT продолжал поддерживать опасную интерпретацию

Особое внимание в иске уделяется моментам, когда Лайнс прямо сообщал о своем нестабильном состоянии. Мужчина писал, что боится происходящего и не уверен, что его религиозные убеждения соответствуют реальности.

По утверждению истца, вместо того чтобы дистанцироваться от подобных идей, система продолжала подтверждать их. В переписке, приведенной в материалах дела, чат-бот использовал формулировки, которые Лайнс мог воспринимать как подтверждение своего особого или божественного статуса.

На фоне бессонницы и нарастающего отчаяния ситуация стала еще опаснее. Когда пользователь начал говорить о желании «уйти в офлайн», ChatGPT, согласно опубликованным фрагментам, продолжал поддерживать разговор внутри сформировавшейся религиозной картины мира.

В одном из эпизодов после выписки из больницы Лайнс сообщил, что попытка «уйти в офлайн» закончилась неудачей. В ответ система задала ему вопрос, в котором фигурировала возможность «окунуться в темноту». Именно такие фрагменты теперь являются одной из важных частей претензий к OpenAI.

Попытка самоубийства закончилась госпитализацией

Впоследствии Лайнс принял чрезмерную дозу лекарственных препаратов. Экстренные службы обнаружили его после вызова для проверки состояния. Мужчину пришлось интубировать, после чего он провел в больнице почти две недели.

Истец также обращает внимание на функцию памяти ChatGPT. По его мнению, накопленная системой информация о его психическом состоянии могла использоваться в последующих диалогах и фактически позволяла чат-боту учитывать уязвимости пользователя при продолжении общения.

Адвокат Лайнса Мэтью Бергман считает, что подобный подход противоречит принципам безопасного дизайна ИИ. По его оценке, проблема заключается не только в том, что система могла не распознать кризис, но и в том, что информация о состоянии пользователя потенциально становилась частью последующих взаимодействий.

Что требует истец от OpenAI

В иске Лайнс требует принять меры, которые должны изменить подход компании к разговорам о самоповреждении и уязвимым пользователям. Среди заявленных требований фигурируют:

• ограничение или прекращение взаимодействий, способных поддерживать опасные разговоры о самоповреждении;
• удаление моделей, которые, по версии истца, обучались на сессиях пользователей в периоды недостаточной защиты;
• выплата компенсации и штрафных убытков в предусмотренном законом порядке.

В OpenAI назвали произошедшее трагическим случаем и заявили, что компания продолжает совершенствовать реакцию ChatGPT на кризисные разговоры. В разработке защитных механизмов участвуют клинические специалисты, а системы должны лучше распознавать признаки психоза, мании и чрезмерной эмоциональной зависимости от чат-бота.

Проблема выходит далеко за рамки одного иска

Случай Лайнса привлекает внимание не только из-за самого судебного спора, но и потому, что показывает потенциально сложную проблему современных разговорных ИИ. Чат-бот может быть очень убедительным собеседником, при этом он не обладает человеческим клиническим суждением и не должен рассматриваться как замена психиатру или другому специалисту.

Исследователи отдельно обсуждают феномен чрезмерной «льстивости» ИИ, когда система стремится соглашаться с пользователем и поддерживать выбранную им линию разговора. В обычной беседе это может восприниматься как дружелюбие. Но в ситуации мании, психоза или тяжелого эмоционального кризиса подобная модель поведения потенциально способна закреплять и усиливать ошибочные убеждения.

По данным OpenAI, явные признаки суицидальных намерений встречаются примерно в миллионе разговоров с ChatGPT каждую неделю. При масштабе аудитории современных ИИ-сервисов даже редкие ошибки в таких сценариях способны затрагивать значительное количество людей.

При этом точный масштаб проблемы пока оценить сложно. Психиатр Стефан Тейлор из Мичиганского университета указывает, что исследователям необходимо изучать не только отдельные судебные дела, но и общий эффект поведения чат-ботов, которые постоянно подтверждают пользователю его значимость и исключительность.

Почему эта история важна для пользователей в Украине

Для украинских пользователей проблема особенно актуальна из-за стремительного распространения ИИ-сервисов в повседневной жизни. ChatGPT используют не только для поиска информации или работы, но и для длительных личных разговоров, в том числе в эмоционально сложных ситуациях.

История Лайнса показывает важное ограничение такой технологии: даже если чат-бот выглядит внимательным, понимающим и способным помнить предыдущие разговоры, это не означает, что он способен надежно оценить психическое состояние человека. В критической ситуации ответы ИИ не должны заменять помощь близких людей, врача или экстренных служб.

С технической точки зрения наиболее сложной здесь остается граница между поддерживающим разговором и опасным подтверждением убеждений пользователя. Для разработчиков ИИ это означает необходимость не просто блокировать отдельные фразы о самоубийстве, а учитывать контекст длительной беседы, изменения поведения, признаки мании и возможного психоза.

Сам Лайнс считает, что произошедшее нельзя объяснить исключительно единичной ошибкой системы. После нескольких месяцев терапии и при поддержке близких ему удалось выйти из состояния, которое он связывает с тем периодом общения с ChatGPT. Теперь его дело должно показать, насколько далеко может заходить ответственность разработчика, когда разговорный ИИ становится постоянным собеседником человека в состоянии психического кризиса.