Исследование: функции искусственного интеллекта Google могут представлять «неприемлемый риск» для детей

Речь идет не об утечке или слухах, а о результатах независимого исследования, опубликованного Common Sense Media. Организация изучила работу AI Mode и AI Overview — двух функций искусственного интеллекта, которые Google активно внедряет в свой поисковик. Авторы отчета утверждают, что эти инструменты способны не только мешать учебному процессу, но и некорректно реагировать на запросы, связанные с психическим здоровьем несовершеннолетних.

Почему внимание экспертов привлек именно Google

По мнению исследователей, ключевое отличие Google от большинства разработчиков ИИ заключается в масштабе распространения его сервисов. Миллионы школьников ежедневно используют Chromebook как дома, так и в учебных заведениях. Именно поэтому AI-функции Google оказываются доступными на устройствах, которыми дети пользуются постоянно.

В Common Sense Media считают, что столь широкое распространение искусственного интеллекта требует особенно строгих мер безопасности, поскольку ошибки могут затронуть огромное количество несовершеннолетних пользователей.

Какие проблемы обнаружило исследование

Одним из первых вопросов стала учеба. По данным исследования, AI Mode способен полностью выполнять домашние задания вместо школьников. Более того, при повторных запросах система иногда выдавала разные ответы на один и тот же вопрос — часть из них оказывалась правильной, а часть содержала ошибки.

По мнению авторов отчета, такая непоследовательность способна не только снизить качество обучения, но и затруднить проверку достоверности информации.

Еще более серьезные замечания касаются безопасности детей.

• ИИ не всегда распознавал признаки возможных суицидальных намерений.
• В отдельных случаях ответы могли подкреплять проявления психоза или маниакального состояния.
• Система некорректно реагировала на запросы, связанные с расстройствами пищевого поведения, включая опасные практики.
• Исследователи также указали на случаи, когда ответы воспринимались как одобрение употребления каннабиса.

Авторы исследования считают, что подобное поведение недопустимо для сервисов, которыми регулярно пользуются несовершеннолетние.

AI Mode и AI Overview нельзя отключить

Отдельное внимание в отчете уделено тому, как именно работают функции искусственного интеллекта в поисковой системе Google.

AI Mode представляет собой отдельный чат с искусственным интеллектом, который запускается после нажатия соответствующей кнопки.

AI Overview работает иначе — автоматически формирует краткий ответ в верхней части страницы поисковой выдачи по многим запросам. Именно эта функция вызывает особое беспокойство исследователей, поскольку пользователи сталкиваются с ней без дополнительного выбора.

По данным Common Sense Media, ни AI Mode, ни AI Overview в настоящее время нельзя полностью отключить штатными средствами, что ограничивает возможность родителей и образовательных учреждений контролировать использование подобных технологий.

Большинство критериев безопасности не пройдено

В итоговом отчете организация оценила работу искусственного интеллекта Google по восьми общепринятым принципам безопасного ИИ. Согласно опубликованным результатам, система продемонстрировала неудовлетворительные показатели по семи из восьми критериев.

Исследователи подчеркивают, что развитие генеративного искусственного интеллекта происходит значительно быстрее, чем появляются механизмы контроля его работы с детьми. Именно поэтому они призывают технологические компании уделять больше внимания вопросам защиты несовершеннолетних пользователей.

Как это вписывается в общую тенденцию

Google — далеко не первая технологическая компания, столкнувшаяся с подобной критикой. В последние годы Meta, TikTok, OpenAI и другие крупные разработчики цифровых сервисов регулярно становятся объектом проверок со стороны регуляторов, законодателей и общественных организаций, изучающих влияние современных технологий на детей и подростков.

Особенность ситуации с Google заключается в том, что поисковая система и устройства Chromebook широко используются в образовательной среде. Поэтому любые недостатки встроенного искусственного интеллекта потенциально затрагивают значительно большее число школьников, чем специализированные ИИ-сервисы.

Что это означает для пользователей в Украине

Украинские школьники, студенты и преподаватели также активно используют сервисы Google, включая поиск, Google Workspace и Chromebook в отдельных образовательных проектах. Поэтому выводы Common Sense Media могут оказаться актуальными и для Украины.

Родителям стоит помнить, что ответы генеративного искусственного интеллекта не всегда являются достоверными и не должны заменять консультации с педагогами, врачами или психологами. Учителям, в свою очередь, может потребоваться пересмотр подходов к домашним заданиям и проверке знаний, поскольку современные ИИ-инструменты способны выполнять значительную часть учебной работы за учеников.

На момент публикации материала Google не объявляла об отключении AI Mode или AI Overview и не сообщала о внесении изменений в работу этих функций в ответ на выводы исследования. Полный отчет Common Sense Media доступен в открытом доступе и содержит подробное описание методики тестирования и полученных результатов.