Google попередила про появу повністю автономних кібератак із використанням ШІ
Про це повідомляє BleepingComputer з посиланням на дослідження фахівців Google. У компанії зазначають, що штучний інтелект перестав бути експериментальним інструментом кіберзлочинців і поступово перетворюється на повноцінну частину їхньої інфраструктури. Його використовують як фінансово мотивовані злочинні угруповання, так і хакери, пов'язані з державними структурами.
Один із показових прикладів — використання відкритого мультиагентного інструмента CAIRN для атак на аерокосмічний сектор США. Крім того, хакери, яких імовірно пов'язують із Північною Кореєю, застосовували модифіковане середовище Claude Code для поширення шкідливого програмного забезпечення.
Повністю автоматизовані атаки можуть з'явитися вже за кілька місяців
У Google прогнозують, що розвиток агентних систем дасть змогу зловмисникам передати штучному інтелекту майже весь процес проведення нескладної кібератаки. Кілька спеціалізованих агентів зможуть самостійно шукати цілі, виявляти слабкі місця, створювати інструменти для експлуатації вразливостей і намагатися отримати доступ до систем.
На думку дослідників, розвиток цієї технології відбуватиметься у два етапи:
- Протягом наступних трьох місяців — поява відносно простих атак, які потребуватимуть мінімальної участі людини або взагалі зможуть обходитися без неї.
- Протягом наступних шести місяців — поширення складніших агентних атак, здатних автономно виконувати практично весь цикл зламу.
Йдеться не про появу самостійного штучного інтелекту з власними намірами, а про автоматизацію дій, які зараз виконують оператори кіберзлочинних угруповань. Головна відмінність полягає у швидкості, масштабах і можливості одночасно запускати багато процесів без постійного контролю з боку людини.
Хакери використовують ШІ для пошуку вразливостей і зламу сайтів
Google виявила, що зловмисники вже систематично застосовують відкриті платформи для автоматизованого тестування безпеки. Серед згаданих інструментів — ARTEX, CAIRN, CyberStrikeAI та HexStrike AI. Спочатку подібні рішення призначалися для перевірки захищеності систем, але тепер їхні можливості використовують і в реальних злочинних операціях.
Такі платформи можуть аналізувати доступні через інтернет сервіси, знаходити відомі та потенційні вразливості, а потім автоматично добирати способи їх експлуатації. Особливо небезпечними є помилки, для використання яких не потрібні складні дії: мовні моделі можуть швидко підготувати код для їх експлуатації.
У звіті GTIG описано випадок застосування мультиагентної системи exploit_agent. Її використовували для автоматичного пошуку вразливостей та їх експлуатації під час атак на французькі сайти, пов'язані зі ЗМІ, розвагами й освітою.
Фахівці Google виявили відкриту тестову інфраструктуру зловмисників, у якій працювала ця система. Вона об'єднувала кілька передових і локальних мовних моделей та могла виконувати такі завдання:
- аналізувати оновлення популярних вебзастосунків;
- виявляти ознаки появи нових вразливостей;
- автоматично готувати інструменти для їх експлуатації;
- перевіряти можливість отримання доступу до вразливих систем;
- збирати інформацію про скомпрометовані ресурси.
На виявленому сервері також зберігалися викрадені дані користувачів, результати розвідки, вебоболонки для віддаленого керування зламаними системами та скрипти для підбору паролів. Це свідчить, що ШІ використовували не просто для експериментів, а як частину дієвої інфраструктури кібератак.
ШІ прискорює експлуатацію вразливостей і ускладнює роботу фахівців із безпеки
Однією з головних проблем автоматизованих атак стає скорочення часу між виявленням вразливості та її використанням. Раніше зловмисникам доводилося самостійно вивчати оновлення програмного забезпечення, шукати помилки та розробляти інструменти для зламу. Тепер частину цієї роботи можуть виконувати мовні моделі та спеціалізовані ШІ-агенти.
У Google звертають увагу й на зворотний бік автоматизації. Штучний інтелект здатний генерувати велику кількість помилкових або непрацездатних експлойтів. Через це зростає навантаження на фахівців, яким доводиться перевіряти підозрілий код і визначати, які загрози справді становлять небезпеку.
Як приклад дослідники наводять ситуацію з уразливостями PHP2Shell. Після повідомлення про дві проблеми безпеки у відкритому доступі з'явилися сотні ймовірних експлойтів PoC (Proof of Concept — підтвердження концепції), значну частину яких створили за допомогою ШІ. Багато з цих зразків не працювали, однак їх перевірка забирала час фахівців із захисту інформації.
Додаткове занепокоєння викликає використання таких інструментів проти серверів, доступних через інтернет. Якщо раніше організації мали більше часу для встановлення виправлень після оприлюднення інформації про вразливість, то тепер зловмисники можуть автоматизувати аналіз оновлень і майже відразу готувати інструменти для атаки.
ФБР також попереджає про використання ШІ для кібератак
Попередження Google з'явилося на тлі аналогічних висновків Федерального бюро розслідувань США. Відомство повідомляло, що кілька угруповань зловмисників почали використовувати платформу ARTEX для проведення атак ще в серпні 2026 року.
За даними ФБР, під загрозою опинилися організації з різних галузей:
- фінансові установи;
- державні структури;
- технологічні компанії;
- оборонні підприємства;
- медичні організації;
- інші компанії та установи з інфраструктурою, доступною через інтернет.
Це свідчить, що автоматизовані інструменти вже застосовують у реальних операціях, а не лише тестують дослідники. Водночас ARTEX та інші подібні платформи самі по собі не є виключно шкідливими програмами. Їх можна використовувати для законного тестування захищеності, однак у руках кіберзлочинців вони перетворюються на інструменти атак.
Хакери використовують Claude Code для поширення шкідливого ПЗ
Google зафіксувала й інші випадки застосування штучного інтелекту в кіберзлочинах. Зокрема, фахівці виявили діяльність угруповання UNC6836, яке, ймовірно, пов'язане з кластером Midnight Neptune. Зловмисники атакували криптовалютні компанії в Північній Америці та Європі, використовуючи модифіковану версію Claude Code.
Після початкового проникнення в інфраструктуру жертви хакери змінювали налаштування застосунку так, щоб під час наступного запуску він автоматично завантажував шкідливу програму SOMBERMEME. У такий спосіб легітимний інструмент для розробки перетворювався на засіб доставки додаткового шкідливого компонента.
Цей випадок демонструє ще один ризик використання ШІ-інструментів: загрозу може становити не лише сам штучний інтелект, а й середовище, у якому він працює, якщо його скомпрометували. Отримавши можливість змінювати налаштування таких застосунків, зловмисники можуть змушувати їх виконувати небажані дії та закріплюватися в системі.
ШІ застосовують для інформаційних операцій і викрадення обчислювальних ресурсів
Окрім безпосереднього зламу комп'ютерних систем, Google відзначає розширення використання мовних моделей в інформаційних операціях. Державні угруповання, комерційні структури та політичні мережі застосовують ШІ для масового створення контенту, підготовки синтетичних персонажів і автоматичного поширення публікацій на різних платформах.
Ще одна проблема — LLMjacking, тобто незаконне використання чужих облікових даних та обчислювальних ресурсів для доступу до мовних моделей. Зловмисники викрадають ключі API, облікові дані й хмарні ресурси організацій, а потім використовують їх для роботи з комерційними ШІ-сервісами або перепродають доступ іншим користувачам.
За даними Google і Mandiant, наслідки таких інцидентів можуть бути дуже дорогими. Під час окремих розслідувань витрати постраждалих організацій на незаконне використання хмарних обчислень і ШІ-сервісів перевищували 100 000 доларів за один день. У найсерйозніших випадках загальні збитки сягали 1 млн доларів, перш ніж вдалося усунути наслідки компрометації.
Отже, штучний інтелект стає водночас інструментом для зламу, засобом поширення шкідливого ПЗ та самостійним об'єктом кіберзлочинного бізнесу.
Чому попередження Google важливе для України
Прискорення кібератак за допомогою ШІ становить особливу небезпеку для організацій, які використовують сервери, вебзастосунки та хмарні сервіси, доступні через інтернет. Для українських державних установ, медичних організацій, фінансового сектору й підприємств критичної інфраструктури це означає необхідність скорочувати час між оприлюдненням виправлення безпеки та його встановленням.
В умовах триваючих кіберзагроз автоматизація може дозволити зловмисникам одночасно перевіряти велику кількість потенційних цілей. Тому особливо важливими стають такі заходи захисту:
- своєчасне встановлення оновлень операційних систем, серверів і вебзастосунків;
- регулярна перевірка сервісів, доступних через інтернет, і закриття непотрібних точок підключення;
- багатофакторна автентифікація для облікових записів з адміністративними повноваженнями;
- контроль ключів API, токенів доступу та налаштувань ШІ-інструментів для розробки;
- моніторинг мережевої активності та виявлення незвичних звернень до внутрішніх ресурсів;
- резервне копіювання критично важливих даних і перевірка можливості їх відновлення.
Головний висновок дослідження Google полягає в тому, що штучний інтелект уже змінює економіку кібератак. Зловмисникам потрібно менше часу на пошук вразливостей і підготовку експлойтів, тоді як фахівцям із захисту доводиться швидше аналізувати загрози та встановлювати виправлення. Прогноз появи майже автономних атак у найближчі місяці варто сприймати серйозно, хоча це не означає, що всі кібератаки вже можуть відбуватися без участі людини.
Джерело: bleepingcomputer
AI
Компанія Anthropic, яка розробляє штучний інтелект Claude, здійснила найбільше первинне розміщення акцій (IPO) в історії фондового ринку. Компанія встановила ціну на рівні 83 доларів (приблизно 3752 грн) за акцію, залучивши через публічне розміщення 81,3 млрд доларів (3,67 трлн грн). Результат перевершив попередній рекорд SpaceX та зробив Anthropic першою великою компанією — розробником передових ШІ-моделей, яка виходить на біржу.
Apple готує суттєві зміни в роботі Siri та Apple Intelligence. У тестових версіях iOS 27.3, iPadOS 27.3 і macOS 27.3 з'явилася система щоденних обмежень для функцій штучного інтелекту, які використовують хмарні обчислення. Після вичерпання безкоштовного ліміту користувачам доведеться чекати його оновлення або оформлювати відповідну підписку iCloud+.
Компанія HP розпочала продажі однієї з найпотужніших настільних робочих станцій для штучного інтелекту — HP ZGX Fury G1n AI Station. Новинка отримала суперчип NVIDIA GB300 Grace Blackwell Ultra, 748 ГБ спільної пам’яті та систему рідинного охолодження. Зовні пристрій нагадує великий системний блок, проте його можливості наближаються до спеціалізованих серверів для роботи з великими мовними моделями.
