OpenAI добавит в ChatGPT функцию оповещения близких при риске самоповреждения

ChatGPT сможет предупредить близких о тревожных сигналах

В OpenAI признают, что многие пользователи воспринимают ChatGPT как источник эмоциональной поддержки. Нейросеть отвечает мгновенно, не осуждает и доступна в любое время суток, поэтому люди все чаще обсуждают с ИИ свои страхи, стресс и тяжелые мысли.

Новая функция Trusted Contact должна стать дополнительным уровнем защиты в случаях, когда система замечает признаки возможного самоповреждения или суицидальных намерений.

Как будет работать функция Trusted Contact

Подключение функции останется полностью добровольным. Пользователь сможет заранее указать доверенное лицо старше 18 лет. После этого выбранный человек получит приглашение с описанием своей роли и сможет принять или отклонить запрос в течение недели.

После активации система будет работать автоматически, однако окончательное решение не станет принимать исключительно алгоритм.

Механизм включает сразу несколько этапов проверки:

• ChatGPT обнаруживает тревожные сигналы в переписке;
• пользователю предлагают материалы и ресурсы для получения помощи;
• ситуацию дополнительно анализируют специально обученные модераторы;
• специалисты должны подтвердить высокий уровень риска менее чем за час;
• только после этого доверенному лицу отправят уведомление через SMS, электронную почту или приложение.

Историю переписки показывать не будут

В OpenAI отдельно подчеркивают, что функция не предоставляет доступ к чатам пользователя. Доверенное лицо не увидит переписку и не узнает деталей разговора с ИИ.

Сообщение будет содержать лишь предупреждение о возможной кризисной ситуации и просьбу связаться с человеком.

OpenAI консультировалась с экспертами по психическому здоровью

Разработкой Trusted Contact компания занималась совместно с исследователями и профильными организациями, включая American Psychological Association.

Ранее похожий инструмент уже использовался для подростковых аккаунтов, однако теперь OpenAI решила расширить систему и на взрослых пользователей.

В компании подчеркивают, что Trusted Contact не заменяет профессиональную психологическую помощь или экстренные службы, а лишь создает дополнительный механизм поддержки в критических ситуациях.