.png){kind=logo}
Хакери зламали розпізнавання облич у ChatGPT і дізналися, що він зливає дані спецслужбам
Хакерам не довелося нічого зламувати. Вони знайшли загальнодоступний сервер Google Cloud, на якому розміщується сервіс openai-watchlistdb.withpersona.com, який використовується для підтвердження віку в ChatGPT через Persona.
Щоб підтвердити вік, необхідно завантажити селфі. Persona розпізнає обличчя та перевіряє його за 14 категоріями, у тому числі на предмет негативних згадок у ЗМІ, включаючи інформацію про тероризм та шпигунство.
Після підтвердження особи користувача Persona виконує ще 269 різних перевірок та шукає в інтернеті та державних джерелах потенційні збіги інших осіб з особою користувача.
Крім розпізнавання осіб, Persona може перевіряти списки санкцій, фінансові дані, включаючи активність на ринку криптовалют. При виявленні підозрілої інформації компанія може передавати дані безпосередньо до Мінфіну США та Канади.
З доменом openai-watchlistdb.withpersona.com паралельно працює сервіс withpersona-gov.com — це окрема платформа Persona для роботи з держструктурами США та Канади.
Хакери наголошують, що немає жодних доказів, що при перевірці віку в ChatGPT дані автоматично передаються владі США. Однак той факт, що сервіси Persona, розроблені для OpenAI та уряду США, працюють на тому самому ПЗ, викликає побоювання.
Гендиректор Persona Рік Сонг підтвердив, що злому не було. Він також пообіцяв публічно відповісти на питання хакерів щодо роботи Persona.
OpenAI ніяк не коментувала витік, проте Discord, який нещодавно почав використовувати Persona для перевірки віку користувачів, відмовився від послуг компанії.
Джерело: therage
AI
Користувачі ChatGPT помітили незвичну зміну в поведінці чат-бота: у звичайних розмовах він почав значно частіше використовувати ненормативну лексику. Причому іноді це відбувається навіть тоді, коли співрозмовник сам не вживає лайливих слів. Схоже, пояснення може бути пов'язане не з окремим «режимом лайки», а зі зміною підходу OpenAI до того, як модель підлаштовує стиль відповіді під контекст.
OpenAI представила ChatGPT for Teens — окремий режим роботи ChatGPT для користувачів віком від 13 до 17 років. Компанія робить акцент не лише на блокуванні небезпечного контенту, а й на тому, як саме штучний інтелект спілкується з підлітками, допомагає їм навчатися та вибудовує межі у тривалих розмовах.
Компанія Comu офіційно представила Action Pro — компактний ШІ-диктофон, який не просто записує та розшифровує розмови, а може перетворювати їх на презентації, електронні листи, документи, списки завдань і плани подальших дій. Головною особливістю новинки стала окрема кнопка для голосових команд штучному інтелекту.