Евросоюз вводит обязательную маркировку контента, созданного искусственным интеллектом

Новые правила распространяются на весь Европейский союз и предусматривают крупные штрафы за нарушения. Речь идет не только о текстах, но также об изображениях, видеороликах, аудиозаписях и так называемых дипфейках, которые все чаще появляются в интернете.

Для унификации системы обозначений Европейская комиссия разработала специальные графические метки, которые должны использоваться на цифровых платформах и в сервисах:

• «AI» — материал связан с использованием искусственного интеллекта;
• «AI Generated» — контент полностью создан алгоритмами;
• «AI Modified» — материал был изменен при помощи ИИ.

Эти обозначения должны быть хорошо заметны пользователям и не могут быть скрыты в настройках, примечаниях или пользовательских соглашениях.

Какие материалы подпадают под действие новых правил

Требования касаются практически всех типов цифрового контента, способных вводить людей в заблуждение. Особое внимание уделяется материалам, которые имитируют реальных людей, места, события или организации.

В список попали:

• изображения, созданные генеративными нейросетями;
• аудиозаписи с искусственно сгенерированными голосами;
• видеоролики, включая дипфейки;
• системы распознавания эмоций;
• инструменты биометрической классификации;
• тексты общественно значимого характера, опубликованные без участия редакторов или других ответственных лиц.

Кроме того, пользователи должны получать уведомление о том, что они общаются не с человеком, а с программой. Это правило касается чат-ботов, виртуальных помощников и других систем, работающих на базе искусственного интеллекта.

Какие штрафы предусмотрены

Нарушение новых требований может обойтись компаниям очень дорого. Европейская комиссия установила следующие размеры санкций:

• до 15 миллионов евро (около 724 миллионов гривен по текущему курсу);
• до 3 % от годового мирового оборота компании;
• до 750 тысяч евро (примерно 36 миллионов гривен) для учреждений и агентств Евросоюза;
• пропорционально уменьшенные штрафы для малых и средних предприятий.

Стоит отметить, что положения AI Act внедряются постепенно. Еще в прошлом году Еврокомиссия представила подробные рекомендации по использованию искусственного интеллекта, а теперь они приобретают обязательный характер. Независимые эксперты в области цифрового права считают, что Европа фактически создает первый в мире масштабный свод правил, регулирующий взаимодействие людей и нейросетей.

Специалисты отмечают, что новые требования способны существенно повлиять на работу социальных сетей, поисковых платформ, медиакомпаний и разработчиков программного обеспечения. В последние годы количество дипфейков выросло многократно, а инструменты генерации изображений, голоса и видео стали доступны практически каждому пользователю.

Изменения будут иметь значение и для украинских пользователей. Многие жители Украины ежедневно используют европейские онлайн-сервисы, крупные социальные платформы и международные маркетплейсы, поэтому новые обозначения постепенно начнут появляться в привычных приложениях, мессенджерах и поисковых системах.

Не исключено, что в будущем аналогичные требования появятся и в других странах. Уже сейчас некоторые государства внимательно изучают европейский опыт, поскольку развитие генеративного искусственного интеллекта происходит гораздо быстрее, чем формирование соответствующей законодательной базы.