Дослідження: функції штучного інтелекту Google можуть становити «неприйнятний ризик» для дітей

Йдеться не про витік інформації чи чутки, а про результати незалежного дослідження, оприлюдненого Common Sense Media. Організація проаналізувала роботу AI Mode та AI Overview — двох функцій штучного інтелекту, які Google активно впроваджує у свою пошукову систему. Автори звіту стверджують, що ці інструменти можуть не лише негативно впливати на навчальний процес, а й некоректно реагувати на запити, пов'язані з психічним здоров'ям неповнолітніх.

Чому увагу експертів привернув саме Google

На думку дослідників, головна особливість Google полягає в масштабі поширення її сервісів. Мільйони школярів щодня користуються Chromebook як удома, так і в навчальних закладах. Саме тому інструменти штучного інтелекту Google доступні на пристроях, якими діти користуються постійно.

У Common Sense Media вважають, що настільки широке впровадження штучного інтелекту потребує особливо суворих заходів безпеки, адже будь-які помилки можуть вплинути на величезну кількість неповнолітніх користувачів.

Які проблеми виявило дослідження

Одне з перших зауважень стосується навчання. За даними дослідження, AI Mode здатний повністю виконувати домашні завдання замість школярів. Ба більше, під час повторних запитів система іноді надавала різні відповіді на одне й те саме запитання — частина з них була правильною, тоді як інші містили помилки.

На думку авторів звіту, така непослідовність не лише погіршує якість навчання, а й ускладнює перевірку достовірності отриманої інформації.

Ще серйозніші зауваження стосуються безпеки дітей.

• ШІ не завжди розпізнавав ознаки можливих суїцидальних намірів.
• В окремих випадках відповіді могли посилювати прояви психозу або маніакального стану.
• Система некоректно реагувала на запити, пов'язані з розладами харчової поведінки, зокрема небезпечними практиками.
• Дослідники також зафіксували випадки, коли відповіді могли сприйматися як схвалення вживання канабісу.

Автори дослідження наголошують, що така поведінка є неприйнятною для сервісів, якими регулярно користуються діти та підлітки.

AI Mode та AI Overview не можна повністю вимкнути

Окрему увагу у звіті приділено тому, як саме працюють функції штучного інтелекту в пошуковій системі Google.

AI Mode є окремим чатом зі штучним інтелектом, який запускається після натискання відповідної кнопки.

AI Overview працює інакше — він автоматично формує стислий підсумок у верхній частині сторінки результатів пошуку за багатьма запитами. Саме ця функція викликає найбільше занепокоєння дослідників, оскільки користувачі стикаються з нею без можливості попереднього вибору.

За даними Common Sense Media, ані AI Mode, ані AI Overview наразі не можна повністю вимкнути штатними засобами. Це обмежує можливості батьків і навчальних закладів контролювати використання таких технологій.

Більшість критеріїв безпеки система не пройшла

У підсумковому звіті організація оцінила роботу штучного інтелекту Google за вісьмома загальновизнаними принципами безпечного використання ШІ. Згідно з оприлюдненими результатами, система отримала незадовільні оцінки за сімома з восьми критеріїв.

Дослідники підкреслюють, що розвиток генеративного штучного інтелекту відбувається значно швидше, ніж створюються ефективні механізми контролю його взаємодії з дітьми. Саме тому вони закликають технологічні компанії приділяти більше уваги захисту неповнолітніх користувачів.

Як це вписується в загальну тенденцію

Google — далеко не перша технологічна компанія, яка зіткнулася з подібною критикою. Останніми роками Meta, TikTok, OpenAI та інші великі розробники цифрових сервісів регулярно стають об'єктами перевірок з боку регуляторів, законодавців і громадських організацій, які вивчають вплив сучасних технологій на дітей і підлітків.

Особливість ситуації з Google полягає в тому, що її пошукова система та пристрої Chromebook широко використовуються в освітньому середовищі. Тому будь-які недоліки вбудованого штучного інтелекту потенційно можуть вплинути на значно більшу кількість школярів, ніж спеціалізовані сервіси на основі ШІ.

Що це означає для користувачів в Україні

Українські школярі, студенти та викладачі також активно користуються сервісами Google, зокрема пошуком, Google Workspace і Chromebook у межах окремих освітніх проєктів. Тому висновки Common Sense Media можуть бути актуальними й для України.

Батькам варто пам'ятати, що відповіді генеративного штучного інтелекту не завжди є достовірними та не повинні замінювати консультації педагогів, лікарів чи психологів. Викладачам і вчителям, своєю чергою, може знадобитися переглянути підходи до домашніх завдань і перевірки знань, адже сучасні інструменти ШІ здатні виконувати значну частину навчальної роботи замість учнів.

Станом на момент публікації Google не повідомляла про вимкнення AI Mode або AI Overview і не оголошувала про зміни в роботі цих функцій у відповідь на висновки дослідження. Повний звіт Common Sense Media доступний у відкритому доступі та містить детальний опис методики тестування й отриманих результатів.