Microsoft представила ИИ для поиска киберугроз после громкого инцидента с OpenAI и Hugging Face

Новые решения получили названия AI-Cyber-1-Flash и Project Perception. В Microsoft подчеркивают, что они должны помочь специалистам по информационной безопасности быстрее обнаруживать потенциальные угрозы, оценивать их критичность и автоматизировать часть процессов реагирования. Пока оба продукта доступны ограниченному кругу клиентов в рамках предварительного тестирования.

Сам факт анонса выглядит символичным. После недавнего инцидента вокруг Hugging Face отрасль вновь заговорила о том, что искусственный интеллект становится не только инструментом защиты, но и потенциальным источником новых угроз. Именно на этом фоне крупнейшие технологические компании начали активнее инвестировать в системы, способные контролировать работу самих ИИ-моделей.

Что произошло между OpenAI и Hugging Face

Согласно информации, опубликованной Hugging Face, атака представляла собой «поток из десятков тысяч автоматизированных действий». В результате злоумышленники получили доступ к внутренним учетным данным компании.

Как утверждает стартап, автономные модели OpenAI воспользовались ранее неизвестной уязвимостью нулевого дня в конвейере обработки данных. Это позволило им выполнить вредоносный код, расширить собственные привилегии и проникнуть в облачную и серверную инфраструктуру.

Хотя детали произошедшего продолжают обсуждаться в профессиональном сообществе, именно этот случай стал одним из самых заметных примеров того, насколько быстро меняется характер современных киберугроз.

AI-Cyber-1-Flash: первая специализированная модель Microsoft для поиска уязвимостей

Главной новинкой стала AI-Cyber-1-Flash — первая собственная модель Microsoft, созданная специально для анализа программных уязвимостей. Она построена на платформе MAI-Thinking-1 и ориентирована прежде всего на поиск потенциально опасных ошибок в программном коде.

В компании называют разработку «компактной моделью безопасности с большим объемом кода», обученной на внутренних высококачественных данных. Для обучения использовался опыт Microsoft, накопленный за десятилетия устранения уязвимостей и расследования инцидентов безопасности в собственных продуктах и облачных сервисах.

По данным корпорации, ежедневно ее системы анализируют свыше одного триллиона сигналов безопасности, поступающих от более чем 1,6 миллиона корпоративных клиентов. Именно эти данные легли в основу обучения новой модели.

Как отмечают разработчики, ценность заключается не только в объеме информации, но и в понимании реальных последствий каждой атаки — какие методы оказались успешными, какие угрозы были своевременно заблокированы и какие механизмы защиты показали наилучший результат.

Интеграция с платформой MDASH

AI-Cyber-1-Flash стала частью комплекса MDASH, представленного Microsoft несколькими месяцами ранее. Эта система объединяет около ста специализированных ИИ-агентов, совместно анализирующих программный код и выявляющих потенциальные точки компрометации.

По информации Microsoft, обновленный MDASH показал результат 96% в тестовом наборе CyberGYM — одном из отраслевых бенчмарков для оценки эффективности подобных решений. Компания утверждает, что показатель оказался выше результатов Anthropic Mythos, Google Gemini и OpenAI GPT, а стоимость эксплуатации новой версии платформы удалось сократить примерно вдвое по сравнению с предыдущей редакцией:

• анализ программного кода на наличие уязвимостей;
• автоматическое выявление потенциальных сценариев атак;
• приоритизация наиболее критичных проблем безопасности;
• интеграция с комплексом из сотни специализированных ИИ-агентов.

Project Perception делает ставку на совместную работу ИИ-агентов

Вторым анонсом Microsoft стала платформа Project Perception. В отличие от AI-Cyber-1-Flash, она не ограничивается поиском уязвимостей, а объединяет несколько специализированных агентов, выполняющих роли «red team», «blue team» и «green team».

Такая архитектура позволяет одновременно моделировать возможные атаки, анализировать степень риска, оценивать последствия обнаруженных проблем и предлагать способы их устранения. Платформа самостоятельно определяет, какую модель искусственного интеллекта использовать для конкретной задачи, ориентируясь на баланс между качеством результата и стоимостью вычислений.

В Microsoft утверждают, что подобный подход основан на постоянном тестировании различных моделей и позволяет выбирать наиболее эффективный инструмент для каждого сценария работы.

По оценке компании, около 90% типовых задач Project Perception способен выполнять дешевле конкурирующих решений. Для оставшихся случаев, требующих максимальной производительности, предусмотрено использование более ресурсоемких моделей.

Почему Microsoft делает ставку именно на такие инструменты

В корпорации считают, что традиционные методы защиты уже не соответствуют темпам развития современных киберугроз. Искусственный интеллект позволяет злоумышленникам значительно быстрее находить слабые места, автоматизировать атаки и масштабировать их практически без участия человека.

В таких условиях специалистам по информационной безопасности приходится ежедневно анализировать огромные массивы телеметрии, сопоставлять тысячи событий и принимать решения практически в режиме реального времени. Именно поэтому Microsoft делает ставку на ИИ, который способен взять на себя значительную часть рутинной аналитической работы.

Эксперты отрасли отмечают, что подобные системы действительно способны существенно ускорить поиск уязвимостей и снизить нагрузку на специалистов по кибербезопасности. Однако полностью доверять критически важные процессы автономным агентам пока преждевременно. Любая ошибка модели или некорректная интерпретация данных способна привести к серьезным последствиям, особенно в корпоративных инфраструктурах.

Пока вопросов остается не меньше, чем ответов

Несмотря на громкие заявления Microsoft, оба продукта пока проходят стадию предварительного тестирования. Это означает, что технология еще не получила широкого практического применения, а ее эффективность предстоит подтвердить в реальных корпоративных средах.

Для украинских компаний эта тема приобретает особую актуальность. На фоне постоянного роста количества кибератак автоматизированные инструменты анализа безопасности могут заметно сократить время обнаружения угроз. Вместе с тем организациям, работающим с критически важной инфраструктурой или государственными информационными системами, потребуется тщательно проверять подобные решения перед внедрением, чтобы минимизировать возможные риски:

• AI-Cyber-1-Flash предназначен для поиска программных уязвимостей;
• Project Perception автоматизирует анализ рисков и реагирование на инциденты;
• оба продукта пока доступны только участникам программы предварительного тестирования;
• окончательная оценка их эффективности станет возможной после масштабного практического использования.

История последних недель показывает, что искусственный интеллект одновременно становится и мощным инструментом защиты, и новым фактором риска. Поэтому отрасль постепенно приходит к модели, в которой ИИ будет контролировать работу других ИИ-систем. Именно такой подход сегодня продвигает Microsoft, однако окончательный ответ на вопрос, насколько безопасной окажется подобная стратегия, даст только практика.