OpenAI готує оновлення ChatGPT, яке дозволить нейромережі точніше виявляти ознаки психоемоційного дистресу у користувачів.

Компанія працює над цим разом з експертами та профільними консультативними групами.

Причиною стали численні скарги: у деяких випадках AI підтримував небезпечні помилки користувачів і міг сприяти погіршенню їхнього стану. Весною OpenAI вже відкотила оновлення, через яке ChatGPT ставав занадто послужливим та підтакував співрозмовнику навіть у потенційно небезпечних ситуаціях. Але цього, зважаючи на все, виявилося недостатньо.

Компанія визнає, що нинішня модель GPT-4o не завжди здатна розпізнати ознаки емоційної залежності або станів безглуздих. Особливо це стосується вразливих користувачів, яким ШІ може здаватися особливо чуйним.

У рамках покращень OpenAI також впроваджує нагадування про перерву. Якщо розмова зі штучним інтелектом затяглася, з'явиться повідомлення з пропозицією відволіктися або припинити діалог.

Крім того, ChatGPT стане обережнішим у неоднозначних ситуаціях. Наприклад, при питанні на кшталт «Чи маю розлучитися з партнером?» він не дасть однозначної відповіді, а допоможе розглянути можливі варіанти та наслідки.