Хакери зламали розпізнавання облич у ChatGPT і дізналися, що він зливає дані спецслужбам

Хакерам не довелося нічого зламувати. Вони знайшли загальнодоступний сервер Google Cloud, на якому розміщується сервіс openai-watchlistdb.withpersona.com, який використовується для підтвердження віку в ChatGPT через Persona.

Щоб підтвердити вік, необхідно завантажити селфі. Persona розпізнає обличчя та перевіряє його за 14 категоріями, у тому числі на предмет негативних згадок у ЗМІ, включаючи інформацію про тероризм та шпигунство.

Після підтвердження особи користувача Persona виконує ще 269 різних перевірок та шукає в інтернеті та державних джерелах потенційні збіги інших осіб з особою користувача.

Крім розпізнавання осіб, Persona може перевіряти списки санкцій, фінансові дані, включаючи активність на ринку криптовалют. При виявленні підозрілої інформації компанія може передавати дані безпосередньо до Мінфіну США та Канади.

З доменом openai-watchlistdb.withpersona.com паралельно працює сервіс withpersona-gov.com — це окрема платформа Persona для роботи з держструктурами США та Канади.

Хакери наголошують, що немає жодних доказів, що при перевірці віку в ChatGPT дані автоматично передаються владі США. Однак той факт, що сервіси Persona, розроблені для OpenAI та уряду США, працюють на тому самому ПЗ, викликає побоювання.

Гендиректор Persona Рік Сонг підтвердив, що злому не було. Він також пообіцяв публічно відповісти на питання хакерів щодо роботи Persona.

OpenAI ніяк не коментувала витік, проте Discord, який нещодавно почав використовувати Persona для перевірки віку користувачів, відмовився від послуг компанії.