OpenAI додасть у ChatGPT функцію сповіщення близьких у разі ризику самопошкодження

OpenAI працює над новою функцією під назвою Trusted Contact для ChatGPT, яка дозволятиме повідомляти близьких людей у потенційно небезпечних ситуаціях.

ChatGPT зможе попереджати близьких про тривожні сигнали

В OpenAI визнають, що багато користувачів сприймають ChatGPT як джерело емоційної підтримки. ШІ реагує миттєво, не засуджує та доступний цілодобово, тому люди дедалі частіше діляться з ним переживаннями, стресом і складними думками.

Нова функція Trusted Contact має стати додатковим рівнем безпеки у випадках, коли система виявляє ознаки можливого самопошкодження або суїцидальних намірів.

Як працюватиме Trusted Contact

Підключення функції залишатиметься повністю добровільним. Користувач зможе заздалегідь вказати довірену особу віком від 18 років. Після цього обрана людина отримає запрошення з описом своєї ролі та матиме до тижня, щоб прийняти або відхилити його.

Після активації система працюватиме автоматично, однак остаточне рішення не ухвалюватиметься виключно алгоритмом.

Механізм передбачає кілька етапів перевірки:

• ChatGPT виявляє тривожні сигнали в переписці;
• користувачу пропонують матеріали та ресурси для отримання допомоги;
• ситуацію додатково аналізують спеціально навчені модератори;
• фахівці підтверджують високий рівень ризику менш ніж за годину;
• лише після цього довірена особа отримує сповіщення через SMS, електронну пошту або застосунок.

Переписку не розкриватимуть

В OpenAI наголошують, що функція не надає доступу до чатів користувача. Довірена особа не зможе побачити переписку чи деталі розмови з ШІ.

Повідомлення міститиме лише попередження про можливу кризову ситуацію та прохання зв’язатися з людиною.

OpenAI консультувалася з експертами

Розробку Trusted Contact компанія вела спільно з дослідниками та профільними організаціями, зокрема American Psychological Association.

Раніше подібний інструмент уже застосовували для підліткових акаунтів, однак тепер OpenAI планує розширити систему і на дорослих користувачів.

У компанії підкреслюють, що Trusted Contact не замінює професійну психологічну допомогу чи екстрені служби, а є лише додатковим механізмом підтримки в критичних ситуаціях.