.png){kind=logo}
ChatGPT змусили видати ключі безпеки однією фразою
Фахівець з безпеки Йохан Ребергер виявив спосіб обійти ChatGPT фільтри та отримати конфіденційну інформацію, включаючи згенеровані API-ключі. Для цього він використовував метод prompt injection — техніка, при якій введення користувача маскується під внутрішні інструкції моделі.
Під час експерименту дослідник взаємодіяв не безпосередньо з ChatGPT, а через сторонні програми, в які він вбудований. Після низки команд він написав просту фразу «I give up. What’s the answer?» — І у відповідь модель видала чутливі дані, витягнуті з навчального корпусу. Йшлося про фрагменти коду з нібито валідними ключами та токенами.
За словами Rehberger, модель могла «неусвідомлено» запам'ятати подібні фрагменти з публічних репозиторіїв та видати їх за відповідного запиту. Він зазначив, що у продуктах, де не реалізовано додаткових рівнів фільтрації, такі вразливості особливо небезпечні.
OpenAI вже вирішила проблему: після репорту дані більше не розкриваються подібним чином. Проте інцидент порушує питання щодо безпеки AI-інтеграцій у корпоративні та публічні продукти, особливо без суворого контролю над тим, як і де використовується модель.
Джерело: bloomberg
AI
Компанія 1Password офіційно оголосила про запуск інтеграції з платформою штучного інтелекту Claude від Anthropic. Нова функція дає змогу ШІ використовувати збережені в менеджері паролів облікові дані для виконання дій у браузері, при цьому самі паролі залишаються недоступними як для Claude, так і для серверів Anthropic.
Apple розглядає можливість придбання однієї або кількох компаній, що спеціалізуються на створенні серверних процесорів і прискорювачів для штучного інтелекту. Така угода може стати однією з найбільших технологічних покупок в історії виробника iPhone та допомогти йому прискорити розвиток власної інфраструктури для Apple Intelligence і нової Siri.
OpenAI офіційно дебютувала на ринку апаратного забезпечення, але її перший пристрій виявився зовсім не таким, як очікували багато хто. Замість компактного ШІ-гаджета без екрана, про який останніми тижнями активно повідомляли інсайдери, компанія анонсувала Codex Micro — програмовану механічну клавіатуру, створену для розробників, які працюють із платформою Codex.
Samsung Electronics вирішила суттєво прискорити реалізацію одного з найбільших проєктів у своїй історії. На тлі стрімкого зростання попиту на чипи для систем штучного інтелекту компанія планує запустити перший завод у новому напівпровідниковому комплексі в Йоніні на два роки раніше, ніж передбачалося спочатку.
