Автори ChatGPT випустили інструмент для викриття текстів, написаних нейромережею

Для роботи класифікатора потрібно мати обліковий запис OpenAI. Користувачеві потрібно просто вставити текст у поле, натиснути на кнопку аналізу та дочекатися результатів – система підкаже ступінь ймовірності використання ШІ в написанні тексту.

Розробники також надали низку рекомендацій:

• Алгоритму потрібно щонайменше 1000 символів, що становить приблизно 150-250 слів;
• Текст, згенерований ШІ, можна легко відредагувати, щоб оминути класифікатор;
• Інструмент, швидше за все, помилиться в тексті, написаному дітьми, і в тексті не англійською мовою. Це все тому, що він був навчений англомовним контентом, написаним дорослими.

У тестах, проведених журналістами The Verge, онлайн-інструмент ідентифікував 26% тексту, який був створений нейромережею, як «імовірно написаний ШІ». У деяких випадках система зовсім помітила текст як «стаття повністю написана ChatGPT».

Компанія зазначає, що інструмент не завжди працює точно, оскільки ChatGPT постійно вдосконалюється. Окрім того, класифікатор OpenAI можна використовувати для виявлення тексту, написаного іншими ШІ.

Варто відзначити, що OpenAI не перші, хто вигадав інструмент для виявлення тексту, згенерованого ChatGPT — майже відразу після того, як чат-бот став вірусним, ентузіаст Едвард Тіан створив сайт для виявлення плагіату ШІ GPTZero.