.png){kind=logo}
Чат-боти Google та OpenAI навчилися «роздягати» людей на фото
Нейромережі для генерації зображень від Google та OpenAI здатні «роздягати» людей: генерувати оголені образи реальних чоловіків та жінок на основі їхніх фотографій. Про це пише Wired з посиланням на видалені пости на Reddit.
Незважаючи на строгу політику модерації, яка забороняє створення контенту сексуального характеру (NSFW), ентузіасти знаходять «джейлбрейки» — спеціально підібрані промпти, які обманюють алгоритми захисту. В результаті AI генерує зображення, які порушують приватність користувачів, фактично створюючи «м'яку» софткор-порнографію без згоди людини на фото.
Аналогічна, але гостріша ситуація раніше вже виникла з чат-ботом Grok від xAI Ілона Маска. Також після запуску генератора зображень Flux користувачі почали масово створювати дипфейки знаменитостей та звичайних людей, оскільки в моделі спочатку практично були відсутні фільтри цензури.
Представники Google та OpenAI заявили, що знають про проблему та постійно оновлюють системи безпеки, щоб закривати подібні вразливості.
Джерело: wired
AI
Користувачі ChatGPT помітили незвичну зміну в поведінці чат-бота: у звичайних розмовах він почав значно частіше використовувати ненормативну лексику. Причому іноді це відбувається навіть тоді, коли співрозмовник сам не вживає лайливих слів. Схоже, пояснення може бути пов'язане не з окремим «режимом лайки», а зі зміною підходу OpenAI до того, як модель підлаштовує стиль відповіді під контекст.
OpenAI представила ChatGPT for Teens — окремий режим роботи ChatGPT для користувачів віком від 13 до 17 років. Компанія робить акцент не лише на блокуванні небезпечного контенту, а й на тому, як саме штучний інтелект спілкується з підлітками, допомагає їм навчатися та вибудовує межі у тривалих розмовах.
Компанія Comu офіційно представила Action Pro — компактний ШІ-диктофон, який не просто записує та розшифровує розмови, а може перетворювати їх на презентації, електронні листи, документи, списки завдань і плани подальших дій. Головною особливістю новинки стала окрема кнопка для голосових команд штучному інтелекту.