Журналісти виявили спосіб обійти захисні фільтри за допомогою спеціальних текстових маніпуляцій.

Нейромережі для генерації зображень від Google та OpenAI здатні «роздягати» людей: генерувати оголені образи реальних чоловіків та жінок на основі їхніх фотографій. Про це пише Wired з посиланням на видалені пости на Reddit.

Незважаючи на строгу політику модерації, яка забороняє створення контенту сексуального характеру (NSFW), ентузіасти знаходять «джейлбрейки» — спеціально підібрані промпти, які обманюють алгоритми захисту. В результаті AI генерує зображення, які порушують приватність користувачів, фактично створюючи «м'яку» софткор-порнографію без згоди людини на фото.

Аналогічна, але гостріша ситуація раніше вже виникла з чат-ботом Grok від xAI Ілона Маска. Також після запуску генератора зображень Flux користувачі почали масово створювати дипфейки знаменитостей та звичайних людей, оскільки в моделі спочатку практично були відсутні фільтри цензури.

Представники Google та OpenAI заявили, що знають про проблему та постійно оновлюють системи безпеки, щоб закривати подібні вразливості.