Google AI Overview помилково звинуватив скрипаля у сексуальних злочинах

Музикант вів переговори про концерт у громаді корінного народу Сіпекнекатик, розташованої на північ від Галіфакса. Однак в останній момент керівництво громади відмовилося від співпраці. МакАйзеку пояснили, що в інтернеті вони знайшли відомості про його нібито судимості, пов'язані з онлайн-виманюванням і сексуальним насильством. Ці твердження виявилися цілком хибними.

Пізніше з'ясувалося, що джерелом помилки став стислий огляд, згенерований Google AI Overview. Алгоритм переплутав біографію музиканта з даними іншої людини з тим самим прізвищем, що проживає в провінції Ньюфаундленд і Лабрадор, який справді має кримінальне минуле.

За словами скрипаля, те, що сталося, викликало у нього серйозні побоювання за власну безпеку: він не виключає, що хтось, хто зіткнувся з травмою сексуального насильства, міг би сприйняти неправдиву інформацію як привід для агресії на його адресу.

Артиста також турбує, що подібна дезінформація могла коштувати йому роботи, про яку він навіть не підозрював: промоутери та концертні майданчики могли відмовитися від співпраці, не повідомляючи її безпосередньо. Більше того, ситуація здатна вплинути і на гастролі в США, де прикордонні служби дедалі активніше вивчають онлайн-слід артистів та їхню активність у мережі.

Представник Google Венді Ментон прокоментувала ситуацію, зазначивши, що пошукова видача та AI Overviews постійно оновлюються з метою демонстрації найкорисніших даних. За її словами, при виявленні помилок — чи це неправильна інтерпретація контенту, чи втрата контексту — компанія використовує такі випадки для покращення алгоритмів та вживає заходів відповідно до своїх внутрішніх правил.

В результаті Google скоригував результати пошуку, пов'язані з ім'ям музиканта. Однак, як визнає сам МакАйзек, репутаційні збитки вже було завдано. Представники громади Сіпекне’катик висловили йому жаль з приводу події та наголосили, що шкодують про негативні наслідки для його імені, доходів та почуття безпеки. Вони також запевнили, що у майбутньому артист знову буде бажаним гостем на їхніх майданчиках.