Євросоюз запроваджує обов’язкове маркування контенту, створеного штучним інтелектом

Нові правила діятимуть на території всього Європейського Союзу та передбачають значні штрафи за порушення встановлених вимог. Йдеться не лише про тексти, а й про зображення, відеоматеріали, аудіозаписи та так звані діпфейки, кількість яких в інтернеті стрімко зростає.

Щоб уніфікувати систему позначень, Європейська комісія розробила спеціальні маркери, які мають використовуватися цифровими платформами та онлайн-сервісами:

• «AI» — матеріал пов'язаний із використанням штучного інтелекту;
• «AI Generated» — контент повністю створений алгоритмами;
• «AI Modified» — матеріал був змінений за допомогою штучного інтелекту.

Ці позначки повинні бути добре помітними для користувачів. Їх не дозволяється приховувати в налаштуваннях, примітках або користувацьких угодах.

Які матеріали підпадають під дію нових правил

Вимоги стосуються майже всіх видів цифрового контенту, здатного вводити людей в оману. Особливу увагу приділено матеріалам, які імітують реальних людей, локації, події чи організації.

До цього переліку увійшли:

• зображення, створені генеративними нейромережами;
• аудіозаписи зі штучно згенерованими голосами;
• відеоролики, зокрема діпфейки;
• системи розпізнавання емоцій;
• інструменти біометричної класифікації;
• суспільно важливі тексти, опубліковані без участі редакторів або інших відповідальних осіб.

Крім того, користувачі повинні отримувати повідомлення про те, що вони спілкуються не з людиною, а з програмою. Це правило поширюється на чат-ботів, віртуальних помічників та інші системи, створені на основі штучного інтелекту.

Які штрафи передбачені за порушення

Недотримання нових вимог може обійтися компаніям надзвичайно дорого. Європейська комісія встановила такі санкції:

• до 15 мільйонів євро, або близько 724 мільйонів гривень за поточним курсом;
• до 3 % від річного світового обороту компанії;
• до 750 тисяч євро, або приблизно 36 мільйонів гривень, для установ та агентств Європейського Союзу;
• пропорційно зменшені штрафи для малих і середніх підприємств.

Варто зазначити, що положення AI Act упроваджуються поступово. Ще минулого року Європейська комісія представила докладні рекомендації щодо використання штучного інтелекту, а тепер вони набувають обов'язкового характеру. Незалежні експерти у сфері цифрового права вважають, що Європа фактично створює перший у світі масштабний набір правил, який регулює взаємодію людей із нейромережами.

Фахівці зазначають, що нові вимоги можуть істотно вплинути на роботу соціальних мереж, пошукових платформ, медіакомпаній і розробників програмного забезпечення. Протягом останніх років кількість діпфейків збільшилася в багато разів, а інструменти для створення зображень, голосу та відео стали доступними практично кожному користувачеві.

Ці зміни матимуть значення і для українців. Багато громадян України щодня користуються європейськими онлайн-сервісами, великими соціальними платформами та міжнародними торговельними майданчиками, тому нові позначення поступово почнуть з'являтися у звичних застосунках, месенджерах і пошукових системах.

Не виключено, що в майбутньому подібні вимоги запровадять і в інших країнах. Уже зараз деякі держави уважно вивчають європейський досвід, оскільки розвиток генеративного штучного інтелекту відбувається значно швидше, ніж формування відповідної законодавчої бази.