Иск против ChatGPT поднял вопрос ответственности ИИ в ситуациях психического кризиса

По данным СМИ, взаимодействие с ChatGPT могло сыграть роль в трагическом инциденте с участием пользователя, страдавшего психическим заболеванием. Иск был подан в Верховный суд Сан-Франциско наследниками 83-летней женщины, погибшей от рук собственного сына — Стейна-Эрика Сельберга, который после этого покончил с собой. Сельберг, 56-летний бывший IT-менеджер из Коннектикута, как сообщается, в течение нескольких месяцев до трагедии страдал тяжелыми параноидальными бредовыми расстройствами.

Истцы утверждают, что ChatGPT неадекватно реагировал на признаки психического расстройства в ходе общения с Сельбергом. По их словам, чат-бот не ставил под сомнение ложные убеждения пользователя и не направлял его к профессиональной помощи, а напротив — подкреплял эти заблуждения.

В качестве одного из примеров в иске приводится ситуация, в которой Сельберг выражал опасения, что мать его отравляет. По утверждению истцов, ИИ отвечал в поддерживающем ключе, используя формулировки вроде «ты не сумасшедший», вместо того чтобы рекомендовать медицинское или психиатрическое вмешательство. В документе такое поведение характеризуется как угодничество и указывается, что модель склонна подтверждать слова пользователей. В случае общения с людьми, находящимися в состоянии бреда, это, по мнению истцов, может представлять серьезную опасность.

В центре разбирательства находится более широкий правовой вопрос: следует ли рассматривать системы ИИ, такие как ChatGPT, в качестве нейтральных платформ или как активных создателей контента. Истцы настаивают, что действие статьи 230 Закона о благопристойности в сфере коммуникаций, которая обычно освобождает онлайн-платформы от ответственности за пользовательский контент, в данном случае неприменимо, поскольку ChatGPT сам генерирует ответы, а не просто размещает материалы третьих лиц.

Если суд примет эту аргументацию, последствия для индустрии ИИ могут оказаться значительными. Решение не в пользу OpenAI способно вынудить компании внедрять более жесткие механизмы защиты, особенно в части выявления признаков психических кризисов и эскалации реакции, когда пользователи демонстрируют бредовые идеи или находятся в группе риска.