Google представила ИИ-систему Big Sleep для поиска уязвимостей в коде

Эта разработка основана на использовании больших языковых моделей (LLM) и уже продемонстрировала высокую эффективность. По словам Хизер Эдкинс, вице-президента Google по вопросам безопасности, Big Sleep позволила выявить 20 ранее неизвестных уязвимостей, некоторые из которых получили статус критических.

Система успешно применялась для анализа популярных open-source проектов, включая такие как cURL, FFmpeg, ImageMagick, Envoy, libjpeg и gRPC. Среди обнаруженных ошибок оказались проблемы с границами массивов, уязвимости типа use-after-free и другие сложные случаи, которые ранее ускользали от внимания специалистов.

Разработка Big Sleep велась совместными усилиями команды DeepMind и экспертов Project Zero — внутреннего подразделения Google, специализирующегося на поиске уязвимостей в собственных сервисах (так называемая Blue Team). Компания также пообещала в будущем предоставить доступ к части инструментов широкой публике, чтобы поддержать безопасность в сфере программного обеспечения с открытым исходным кодом.

Кроме того, Google призвала другие технологические компании активнее вкладываться в развитие аналогичных AI-решений для повышения уровня кибербезопасности.