ChatGPT ложно назвал мужчину убийцей собственных детей

Норвежец Арве Гьялмар Хольмен решил узнать, что ChatGPT может рассказать о нем. ИИ предоставил вымышленную историю о том, что Хольмен был приговорен за убийство своих детей, чего, естественно, не было. Естественно, такой ответ не устроил мужчину и вызвал волну возмущений.

Это ложное обвинение стало нарушением требований Общего регламента о защите данных (GDPR), поскольку личные данные должны быть точными и обновляемыми. Хольмен, не имея возможности исправить эти данные, столкнулся с угрозой своей репутации и потенциальными серьезными последствиями для своей жизни.

Организация Noyb, защищающая цифровые права в ЕС, подала жалобу в Норвежское управление по защите данных, требуя удаления ложной информации и изменений в модели ChatGPT.

Ситуация с Хольменом также демонстрирует более широкую проблему: многие пользователи уже пострадали от «галлюцинаций» ИИ, когда выдуманные данные наносили ущерб их репутации. Похожий случай произошел с мэром одного австралийского города, когда ChatGPT ошибочно утверждал, что он был заключен в тюрьму, а также с профессором права, которого ИИ ложно связал с сексуальным скандалом.

Такие инциденты поднимают вопрос о необходимости более строгого регулирования и контроля над ИИ-системами, чтобы предотвратить распространение ложной информации и защитить права людей. Noyb и другие организации требуют более решительных действий, в том числе полного удаления ложных данных, а не только их блокировки или фильтрации, что должно стать обязательным условием для соблюдения GDPR.