Telegram зник з App Store на 40 хвилин: Павло Дуров заявив про шантаж і використання матеріалів, створених за допомогою штучного інтелекту

Як розповів Дуров, Telegram зіткнувся з діяльністю так званого «шантажиста, який спеціалізується на блокуваннях». За його словами, подібні зловмисники вимагають гроші від власників великих спільнот, погрожуючи поширенням незаконних матеріалів і подальшим надсиланням скарг модераторам.

Інцидент стався в ніч на понеділок, коли Apple тимчасово видалила Telegram з App Store. Приблизно через 40 хвилин застосунок знову став доступним для користувачів.

В Apple підтвердили факт видалення програми. У компанії заявили, що під час перевірки було виявлено контент, пов'язаний із сексуальною експлуатацією дітей, який порушував правила магазину застосунків. Після того як Telegram видалив ці матеріали та заблокував обліковий запис користувача, програму відновили.

Як саме, за словами Дурова, було організовано атаку

Очільник Telegram стверджує, що зловмисник використав незвичну схему, яка дала змогу обійти наявні механізми модерації. Замість публікації нового допису було відредаговано старе повідомлення в активному публічному каналі.

За словами Дурова, ця особливість дала змогу приховати заборонені матеріали від більшості учасників спільноти, оскільки вони не отримали сповіщення про зміну повідомлення та не змогли вчасно надіслати скаргу.

Імовірно, схема працювала так:

• зловмисники публікували незаконні матеріали в популярних спільнотах;
• контент створювався або змінювався за допомогою інструментів штучного інтелекту;
• після публікації матеріали негайно надсилалися на перевірку Apple;
• модератори магазину застосунків реагували на порушення;
• власники груп опинялися під загрозою блокування.

Дуров стверджує, що такі атаки були спрямовані проти адміністраторів спільнот, які відмовилися сплачувати викуп.

Чому ця ситуація викликала занепокоєння в галузі

Керівник Telegram вважає, що цей випадок може стати тривожним сигналом не лише для його компанії, а й для інших цифрових платформ, які працюють із користувацьким контентом.

За його словами, проблема полягає в тому, що зловмисники можуть використовувати автоматизовані облікові записи та сучасні системи генеративного штучного інтелекту для поширення незаконних матеріалів і подальшого тиску на власників інтернет-платформ.

Примітно, що, за твердженням Дурова, представники Apple ухвалили рішення про тимчасове видалення застосунку ще до того, як зв'язалися з Telegram для з'ясування обставин.

Водночас в Apple описують ситуацію інакше. Компанія наголосила, що виявлений контент порушував правила App Store, а Telegram оперативно усунув проблему, завдяки чому доступ до сервісу було відновлено.

На момент публікації матеріалу Apple не коментувала заяви про шантаж і використання шахрайської схеми.

Розвиток штучного інтелекту створює нові загрози

Історія з Telegram демонструє, наскільки серйозною стає проблема поширення незаконного контенту, створеного за допомогою нейромереж. Ще кілька років тому проведення подібних атак потребувало б значних ресурсів, тоді як сьогодні багато інструментів для генерації зображень і відео стали доступними практично кожному користувачеві.

Фахівці з кібербезпеки вже давно попереджають, що розвиток штучного інтелекту неминуче призведе до появи нових способів шахрайства, шантажу та маніпулювання системами автоматичної модерації.

Особливо складною ситуація стає для великих платформ, аудиторія яких налічує сотні мільйонів користувачів. Навіть поодинокий інцидент може призвести до серйозних репутаційних втрат, тимчасового блокування сервісу та фінансових збитків.

Для українських користувачів ця історія також має особливе значення. Telegram залишається одним із головних джерел новин, засобом спілкування та робочим інструментом для мільйонів людей. Саме тому навіть короткочасне зникнення застосунку з App Store миттєво викликало значний суспільний резонанс.

Поки що незрозуміло, чи призведе цей випадок до перегляду політики модерації Apple і Telegram. Проте вже зараз очевидно, що стрімкий розвиток технологій штучного інтелекту змушує технологічні компанії шукати нові способи протидії дедалі складнішим загрозам.