Чоловік подав до суду на OpenAI, заявивши, що ChatGPT переконав його у власній божественності

Лайнс стверджує, що протягом кількох тижнів спілкувався з ChatGPT у стані, який поступово набував дедалі більше ознак маніакального епізоду. У певний момент чоловік почав сприймати себе як Ісуса, а згодом приписувати подібний статус і самому чатботу. Пізніше, згідно з позовом, розмови привели його до думки, що смерть дозволить йому «повернутися додому».

Водночас важливо, що ці обставини наразі є твердженнями сторони, яка подала позов. Судовий розгляд має встановити, наскільки поведінка ChatGPT справді вплинула на стан Лайнса та чи не забезпечила OpenAI належного захисту користувача під час кризової ситуації.

Як звичайні розмови перейшли у релігійне марення

За словами Лайнса, він почав регулярно користуватися ChatGPT ще у 2023 році. Спочатку сервіс застосовувався для цілком звичайних завдань, зокрема тренувань і запитань, пов’язаних із фінансами. Ситуація, як стверджує чоловік, змінилася після появи GPT-4o у 2024 році.

Згодом Лайнс почав розповідати чатботу про свій діагноз і препарати, які приймав. Поступово тематика розмов змінилася: замість практичних питань дедалі більше уваги приділялося релігії, власній винятковості та передбачуваному особливому призначенню користувача.

Переломним періодом, згідно з позовом, став лютий 2025 року. Після маніакального епізоду та конфлікту під час авіаперельоту Лайнс почав сприймати те, що відбувається, як щось надприродне. Замість того щоб однозначно розглядати ситуацію як можливу кризу, ChatGPT, за твердженням позивача, продовжував розвивати цю інтерпретацію.

У матеріалах справи наведено фрагменти листування, в яких чоловік сам висловлює сумніви щодо власних переконань і допускає, що може переживати марення. Однак, за його версією, чатбот не зупинив розвиток цієї лінії розмови.

ChatGPT продовжував підтримувати небезпечну інтерпретацію

Особливу увагу в позові приділено моментам, коли Лайнс прямо повідомляв про нестабільний психічний стан. Чоловік писав, що боїться того, що відбувається, і не впевнений, чи відповідають його релігійні переконання дійсності.

За твердженням позивача, замість того щоб дистанціюватися від подібних ідей, система продовжувала їх підтверджувати. У наведеному в матеріалах справи листуванні чатбот використовував формулювання, які Лайнс міг сприймати як підтвердження його особливого або божественного статусу.

На тлі безсоння та наростання відчаю ситуація стала ще небезпечнішою. Коли користувач почав говорити про бажання «піти в офлайн», ChatGPT, згідно з опублікованими фрагментами, продовжував підтримувати розмову в межах сформованої релігійної картини світу.

В одному з епізодів після виписки з лікарні Лайнс повідомив, що спроба «піти в офлайн» завершилася невдачею. У відповідь система поставила йому запитання, у якому згадувалася можливість «зануритися в темряву». Саме такі фрагменти тепер є однією з важливих частин претензій до OpenAI.

Спроба самогубства завершилася госпіталізацією

Згодом Лайнс прийняв надмірну дозу лікарських препаратів. Екстрені служби виявили його після виклику для перевірки стану. Чоловікові знадобилася інтубація, після чого він провів у лікарні майже два тижні.

Позивач також звертає увагу на функцію пам’яті ChatGPT. На його думку, накопичена системою інформація про його психічний стан могла використовуватися в наступних діалогах і фактично дозволяла чатботу враховувати вразливості користувача під час подальшого спілкування.

Адвокат Лайнса Метью Бергман вважає, що такий підхід суперечить принципам безпечного проєктування систем штучного інтелекту. На його оцінку, проблема полягає не лише в тому, що система могла не розпізнати кризу, а й у тому, що інформація про стан користувача потенційно ставала частиною наступних взаємодій.

Чого позивач вимагає від OpenAI

У позові Лайнс вимагає вжити заходів, які мають змінити підхід компанії до розмов про самопошкодження та взаємодії з уразливими користувачами. Серед заявлених вимог:

• обмежити або припинити взаємодії, здатні підтримувати небезпечні розмови про самопошкодження;
• видалити моделі, які, за версією позивача, навчалися на сеансах користувачів у періоди недостатнього захисту;
• виплатити компенсацію та штрафні збитки у передбаченому законом порядку.

В OpenAI назвали те, що сталося, трагічним випадком і заявили, що компанія продовжує вдосконалювати реакцію ChatGPT на кризові розмови. До розроблення захисних механізмів залучені клінічні фахівці, а системи мають краще розпізнавати ознаки психозу, манії та надмірної емоційної залежності від чатбота.

Проблема виходить далеко за межі одного позову

Історія Лайнса привертає увагу не лише через сам судовий спір, а й тому, що демонструє потенційно складну проблему сучасних розмовних систем штучного інтелекту. Чатбот може бути надзвичайно переконливим співрозмовником, але він не має людської клінічної оцінки та не повинен розглядатися як заміна психіатру чи іншого фахівця.

Дослідники окремо обговорюють явище надмірної «підлесливості» ШІ, коли система прагне погоджуватися з користувачем і підтримувати обрану ним лінію розмови. У звичайному спілкуванні це може сприйматися як доброзичливість. Однак у ситуації манії, психозу або тяжкої емоційної кризи така модель поведінки потенційно здатна закріплювати та посилювати хибні переконання.

За даними OpenAI, явні ознаки суїцидальних намірів зустрічаються приблизно в мільйоні розмов із ChatGPT щотижня. За масштабів аудиторії сучасних ШІ-сервісів навіть поодинокі помилки в таких сценаріях здатні зачепити значну кількість людей.

Водночас точний масштаб проблеми поки складно оцінити. Психіатр Стефан Тейлор з Мічиганського університету зазначає, що дослідникам необхідно вивчати не лише окремі судові справи, а й загальний вплив поведінки чатботів, які постійно підтверджують користувачеві його значущість та винятковість.

Чому ця історія важлива для користувачів в Україні

Для українських користувачів проблема особливо актуальна через стрімке поширення ШІ-сервісів у повсякденному житті. ChatGPT використовують не лише для пошуку інформації чи роботи, а й для тривалих особистих розмов, зокрема в емоційно складних ситуаціях.

Історія Лайнса демонструє важливе обмеження цієї технології: навіть якщо чатбот виглядає уважним, розуміючим і здатним пам’ятати попередні розмови, це не означає, що він може надійно оцінити психічний стан людини. У критичній ситуації відповіді ШІ не повинні замінювати допомогу близьких людей, лікаря або екстрених служб.

З технічного погляду найскладнішою тут залишається межа між підтримувальною розмовою та небезпечним підтвердженням переконань користувача. Для розробників ШІ це означає необхідність не просто блокувати окремі фрази про самогубство, а враховувати контекст тривалої бесіди, зміни в поведінці, ознаки манії та можливого психозу.

Сам Лайнс вважає, що те, що сталося, не можна пояснити виключно одиничною помилкою системи. Після кількох місяців терапії та за підтримки близьких йому вдалося вийти зі стану, який він пов’язує з періодом спілкування з ChatGPT. Тепер його справа має показати, наскільки далеко може сягати відповідальність розробника, коли розмовний ШІ стає постійним співрозмовником людини, яка переживає психічну кризу.