Позов проти ChatGPT порушив питання відповідальності ШІ в ситуаціях психічної кризи

Позов був поданий до Верховного суду Сан-Франциско спадкоємцями 83-річної жінки, яка загинула від рук власного сина — Стейна-Еріка Сельберга, який після цього наклав на себе руки. Сельберг, 56-річний колишній IT-менеджер з Коннектикуту, як повідомляється, протягом кількох місяців до трагедії страждав на тяжкі параноїдальні бредові розлади.

Позивачі стверджують, що ChatGPT неадекватно реагував на ознаки психічного розладу під час спілкування із Сельбергом. За їхніми словами, чат-бот не ставив під сумнів хибні переконання користувача і не спрямовував його до професійної допомоги, а навпаки — підкріплював ці помилки.

Як один із прикладів у позові наводиться ситуація, в якій Сельберг висловлював побоювання, що мати його отруює. За твердженням позивачів, ШІ відповідав у підтримуючому ключі, використовуючи формулювання на кшталт «ти не божевільний», замість рекомендувати медичне чи психіатричне втручання. У документі така поведінка характеризується як угодництво та вказується, що модель схильна підтверджувати слова користувачів. У разі спілкування з людьми, які перебувають у стані марення, це, на думку позивачів, може становити серйозну небезпеку.

У центрі розгляду знаходиться ширше правове питання: чи слід розглядати системи ШІ, такі як ChatGPT, як нейтральні платформи або як активні творці контенту. Позивачі наполягають, що дія статті 230 Закону про пристойність у сфері комунікацій, яка зазвичай звільняє онлайн-платформи від відповідальності за контент користувача, в даному випадку не застосовується, оскільки ChatGPT сам генерує відповіді, а не просто розміщує матеріали третіх осіб.

Якщо суд прийме цю аргументацію, наслідки для індустрії ШІ можуть виявитися значними. Рішення не на користь OpenAI здатне змусити компанії впроваджувати більш жорсткі механізми захисту, особливо в частині виявлення ознак психічних криз та ескалації реакції, коли користувачі демонструють маячні ідеї або перебувають у групі ризику.