У Microsoft Copilot мала місце критична вразливість, що дозволяє отримувати особисті дані користувачів, відправивши лише один електронний лист.

EchoLeak стала першою зареєстрованою zero-click вразливістю, що торкнулася ШІ-помічника. Проблема стосувалася Microsoft 365 Copilot, вбудованого в популярні програми Office, такі як Word, Excel, Outlook, PowerPoint та Teams.

Як повідомили фахівці з Aim Security, які виявили вразливість. Атака надавала доступ до конфіденційної інформації з усіх джерел та додатків, до яких Copilot мав підключення, при цьому користувач нічого не мав робити.

Заражений лист, що запускає експлойт, не містив ні шкідливих вкладень, ні підозрілих посилань. Метод атаки ґрунтувався на техніці під назвою LLM Scope Violation, суть якої полягає у маніпуляції внутрішнім механізмом роботи великих мовних моделей, змушуючи ШІ виконувати шкідливі інструкції.

Вразливість було виявлено у січні, і Aim Security негайно передала інформацію до Microsoft Security Response Center. Проте, за словами технічного директора та співзасновника Aim Security Адіра Груса, усунення проблеми зайняло майже 5 місяців, що він назвав надмірно тривалим терміном.

В офіційній заяві Microsoft висловила подяку Aim Security за відповідальне розкриття та підтвердила, що вразливість була повністю усунена. Оновлення розповсюджується автоматично та не вимагає дій з боку користувачів.