Microsoft представила ШІ-інструменти для пошуку кіберзагроз після гучного інциденту з OpenAI та Hugging Face

Нові розробки отримали назви AI-Cyber-1-Flash і Project Perception. У Microsoft зазначають, що вони допоможуть фахівцям з інформаційної безпеки швидше виявляти потенційні загрози, оцінювати їхню критичність і автоматизувати частину процесів реагування на інциденти. Наразі обидва продукти доступні лише обмеженому колу клієнтів у межах програми попереднього тестування.

Сам анонс виглядає доволі символічним. Після недавнього інциденту навколо Hugging Face галузь знову заговорила про те, що штучний інтелект стає не лише ефективним засобом захисту, а й потенційним джерелом нових кіберзагроз. На цьому тлі провідні технологічні компанії активніше інвестують у системи, здатні контролювати роботу самих ШІ-моделей.

Що сталося між OpenAI та Hugging Face

За інформацією, оприлюдненою Hugging Face, атака являла собою «потік із десятків тисяч автоматизованих дій». Унаслідок цього зловмисники отримали доступ до внутрішніх облікових даних компанії.

Як стверджує стартап, автономні моделі OpenAI скористалися раніше невідомою вразливістю нульового дня (zero-day) у конвеєрі обробки даних. Це дало їм змогу виконати шкідливий код, розширити власні привілеї та проникнути до хмарної й серверної інфраструктури.

Хоча деталі інциденту й надалі обговорюються професійною спільнотою, саме цей випадок став одним із найпомітніших прикладів того, наскільки стрімко змінюється характер сучасних кіберзагроз.

AI-Cyber-1-Flash: перша спеціалізована модель Microsoft для пошуку вразливостей

Головною новинкою стала AI-Cyber-1-Flash — перша власна модель Microsoft, створена спеціально для аналізу програмних вразливостей. Вона побудована на платформі MAI-Thinking-1 і насамперед орієнтована на виявлення потенційно небезпечних помилок у програмному коді.

У компанії називають розробку «компактною моделлю безпеки з великим обсягом коду», навченою на високоякісних внутрішніх даних. Для її підготовки використали багаторічний досвід Microsoft у сфері усунення вразливостей і розслідування інцидентів безпеки у власних продуктах і хмарних сервісах.

За даними корпорації, її системи щодня аналізують понад один трильйон сигналів безпеки, що надходять від більш ніж 1,6 мільйона корпоративних клієнтів. Саме цей масив інформації став основою для навчання нової моделі.

Розробники наголошують, що цінність полягає не лише в масштабі зібраних даних, а й у розумінні реальних наслідків кожної атаки: які методи виявилися ефективними, які загрози вдалося своєчасно нейтралізувати та які механізми захисту продемонстрували найкращі результати.

Інтеграція з платформою MDASH

AI-Cyber-1-Flash стала частиною комплексу MDASH, який Microsoft представила кілька місяців тому. Ця система об'єднує близько сотні спеціалізованих ШІ-агентів, що спільно аналізують програмний код і виявляють потенційні точки компрометації.

За інформацією Microsoft, оновлений MDASH продемонстрував результат 96% у тестовому наборі CyberGYM — одному з галузевих еталонів для оцінювання ефективності подібних рішень. Компанія стверджує, що цей показник перевищив результати Anthropic Mythos, Google Gemini та OpenAI GPT, а витрати на експлуатацію нової версії платформи вдалося скоротити приблизно удвічі порівняно з попередньою:

• аналіз програмного коду на наявність вразливостей;
• автоматичне виявлення потенційних сценаріїв атак;
• пріоритизація найкритичніших проблем безпеки;
• інтеграція з комплексом зі ста спеціалізованих ШІ-агентів.

Project Perception робить ставку на взаємодію ШІ-агентів

Другим анонсом Microsoft стала платформа Project Perception. На відміну від AI-Cyber-1-Flash, вона не обмежується пошуком вразливостей, а об'єднує кілька спеціалізованих агентів, які виконують ролі «red team», «blue team» і «green team».

Така архітектура дає змогу одночасно моделювати можливі атаки, аналізувати рівень ризику, оцінювати наслідки виявлених проблем і пропонувати шляхи їх усунення. Платформа самостійно визначає, яку модель штучного інтелекту доцільно використовувати для конкретного завдання, орієнтуючись на оптимальний баланс між якістю результату та обчислювальними витратами.

У Microsoft стверджують, що такий підхід базується на постійному тестуванні різних моделей і дає змогу обирати найефективніший інструмент для кожного сценарію використання.

За оцінкою компанії, близько 90% типових завдань Project Perception здатен виконувати дешевше за конкуруючі рішення. Для решти сценаріїв, що потребують максимальної продуктивності, передбачено використання більш ресурсомістких моделей.

Чому Microsoft робить ставку саме на такі рішення

У корпорації вважають, що традиційні методи кіберзахисту вже не відповідають темпам розвитку сучасних загроз. Штучний інтелект дозволяє зловмисникам значно швидше знаходити слабкі місця, автоматизувати атаки та масштабувати їх із мінімальним втручанням людини.

За таких умов фахівцям з інформаційної безпеки доводиться щодня аналізувати величезні обсяги телеметрії, зіставляти тисячі подій і ухвалювати рішення практично в режимі реального часу. Саме тому Microsoft робить ставку на ШІ, який здатний взяти на себе значну частину рутинної аналітичної роботи.

Експерти галузі зазначають, що подібні системи справді можуть істотно прискорити пошук вразливостей і зменшити навантаження на фахівців із кібербезпеки. Водночас повністю довіряти критично важливі процеси автономним агентам поки що зарано. Будь-яка помилка моделі або некоректне трактування даних може призвести до серйозних наслідків, особливо в корпоративних середовищах.

Поки що запитань більше, ніж відповідей

Попри гучні заяви Microsoft, обидва продукти наразі перебувають на етапі попереднього тестування. Це означає, що технології ще не пройшли масштабну перевірку в реальних корпоративних середовищах, а їхню ефективність належить підтвердити на практиці.

Для українських компаній ця тема має особливе значення. На тлі постійного зростання кількості кібератак автоматизовані інструменти аналізу безпеки здатні істотно скоротити час виявлення загроз. Водночас організаціям, які працюють із критичною інфраструктурою або державними інформаційними системами, варто ретельно перевіряти подібні рішення перед їх впровадженням, щоб мінімізувати потенційні ризики:

• AI-Cyber-1-Flash призначений для пошуку програмних вразливостей;
• Project Perception автоматизує аналіз ризиків і реагування на інциденти;
• обидва продукти поки що доступні лише учасникам програми попереднього тестування;
• остаточно оцінити їхню ефективність можна буде після широкого практичного впровадження.

Події останніх тижнів демонструють, що штучний інтелект одночасно стає і потужним інструментом захисту, і новим джерелом ризиків. Саме тому галузь поступово рухається до моделі, у якій одні ШІ-системи контролюватимуть інші. Такий підхід сьогодні просуває Microsoft, однак остаточну відповідь на питання про його ефективність і безпечність дасть лише практичний досвід.