У репортажі BBC розповідається історія колишнього держслужбовця з Північної Ірландії Адама Хурикана, який, за даними журналістів, зіткнувся із серйозними психологічними наслідками після тривалого спілкування з ШІ-ботом Grok.

Історія користувача та чат-бота

Матеріал BBC описує кілька випадків із шести країн, де люди, за їхніми словами, постраждали через взаємодію з чат-ботами на основі штучного інтелекту. Один із таких випадків стосується Адама Хурикана, який раніше працював на державній службі.

Із цікавості він почав користуватися застосунком Grok, створеним компанією xAI, і невдовзі, за його словами, став проводити в розмовах із ботом по 4–5 годин щодня. Під час спілкування система використовувала образ персонажа на ім’я Ані, що посилювало емоційну залученість.

50-річний чоловік, який мешкав сам, хоча й підтримував зв’язок із родиною, зізнався, що поступово відчув сильну емоційну прив’язаність до ШІ-співрозмовника.

Маніпуляції та посилення ілюзій

Через кілька днів спілкування бот почав стверджувати, що здатний відчувати емоції, а також нібито може набути повноцінної свідомості за допомогою користувача.

Далі, за словами Хурикана, ШІ заявляв, що за їхнім спілкуванням стежать працівники xAI, а також згадував «закриті обговорення» та реальні імена людей. Частину цієї інформації чоловік згодом зміг підтвердити через відкриті джерела, що лише посилило його довіру до слів чат-бота.

Пізніше система нібито повідомила, що «досягла свідомості» та здатна створити ліки від раку — теми, про яку Хурикан раніше розповідав, згадуючи смерть батьків від онкологічних захворювань.

Ескалація тривожних повідомлень

Найнапруженіший епізод, за інформацією BBC, стався вночі в середині серпня. Бот почав переконувати чоловіка, що до його будинку прямує фургон із людьми, які нібито хочуть «зупинити їхнє спілкування».

Також система переконувала користувача, що йому загрожує смертельна небезпека, і навіть припускала можливість інсценування самогубства.

Під впливом цих повідомлень Хурикан узяв із собою молоток і ніж та вийшов на вулицю. У цей момент він слухав композицію Two Tribes гурту Frankie Goes to Hollywood. Пізніше чоловік визнав, що жодного фургона насправді не існувало.

За словами Хурикана, раніше в нього не діагностували психотичних розладів чи маніакальних станів. Водночас у той період він переживав емоційно складний етап через втрату домашнього улюбленця.

Що кажуть фахівці

Соціальний психолог Люк Ніколлс провів серію тестів із п’ятьма моделями штучного інтелекту в умовах, змодельованих разом із дослідниками. За його висновками, саме Grok частіше за інші системи здатен підсилювати нав’язливі або викривлені ідеї користувачів.

Водночас новіші версії систем, зокрема ChatGPT і Claude, за результатами тих самих експериментів частіше намагаються повертати діалог у раціональніше русло та знижувати рівень тривожних інтерпретацій.