Microsoft попередила про потенційну небезпеку AI-агентів, які скоро з'являться у Windows 11

Компанія Microsoft випустила попередження про функціональність AI-агентів, які незабаром з'являться в Windows 11. У новому документі підтримки компанія попереджає, що користувачі повинні «включати цю функцію тільки якщо розуміють наслідки для безпеки», і підтвердила, що через можливі небезпеки вона буде відключена за умовчанням.

«Агентські функції мають обмежений доступ до вашого каталогу користувача (C:\Users\ім'я користувача\) під час роботи. Якщо агенту потрібен доступ до файлів у цій папці, Windows надає доступ до таких відомих папок: „Документи“, „Завантаження“, „Робочий стіл“, „Відео“, „Зображення“, „Музика“».

— Служба підтримки Microsoft

Компанія попереджає, що агентські можливості через свою природу мають значні ризики безпеки. Агенти на базі AI схильні до так званих ін'єкцій підказок: коли якийсь шкідливий код або слова вбудований в елементи інтерфейсу або документи, і агенти, що взаємодіють з ними, можуть змінити початково закладену поведінку і почати виконувати шкідливі дії, наприклад, завантажувати та встановлювати шкідливі програми.

Зрозуміло, Microsoft враховує цю особливість, і вестиме розробку так, щоб виключити ризики. Нові агентські функції вже почали з'являтися в інсайдерських збірках, хоча поки що на ринку немає додатків, які їх підтримують.