OpenAI може змінити темп розвитку ШІ через побоювання щодо безпеки

OpenAI розглядає можливість уповільнити розробку найбільш просунутих моделей штучного інтелекту через дедалі серйозніші побоювання щодо їхньої безпеки.

За даними Bloomberg, про такий сценарій генеральний директор компанії Сем Альтман говорив під час загальної зустрічі зі співробітниками.

Йдеться не про зупинку роботи ChatGPT або відмову OpenAI від створення нових моделей. Компанія може свідомо регулювати швидкість розвитку так званих frontier-моделей — найбільш потужних систем, можливості яких наближаються до нових рівнів автономності, програмування та кібербезпеки.

За інформацією джерел Bloomberg, Альтман також сподівається, що подібного підходу дотримуватимуться інші великі розробники ШІ. Водночас керівник OpenAI визнає, що домовитися з усіма конкурентами навряд чи вдасться.

Важливе уточнення: OpenAI поки офіційно не оголошувала про загальне уповільнення розробки своїх моделей і не повідомляла про перенесення конкретних продуктів через цю ініціативу. Компанія відмовилася коментувати Bloomberg деталі внутрішньої зустрічі, тому наразі інформація ґрунтується на повідомленнях джерел видання.

Чому OpenAI взагалі заговорила про уповільнення ШІ

Позиція Альтмана з'явилася не на порожньому місці. Протягом останніх місяців дискусія про безпеку найпотужніших систем ШІ помітно загострилася. Дослідники та представники самої індустрії все частіше обговорюють ризик того, що можливості автономних ШІ-агентів розвиватимуться швидше, ніж механізми контролю за їхньою поведінкою.

Сама OpenAI останнім часом посилила формалізацію правил роботи з такими системами. У своїй офіційній Frontier Governance Framework компанія описує підхід до оцінки та зниження ризиків, пов'язаних із кіберопераціями, хімічними, біологічними, радіологічними та ядерними загрозами, шкідливими маніпуляціями та потенційною втратою контролю над високорівневими ШІ-системами.

Документ також передбачає процедури оцінювання моделей, управління ризиками безпеки, реагування на інциденти та залучення зовнішніх експертів. OpenAI наголошує, що ці правила мають змінюватися разом зі зростанням можливостей майбутніх моделей.

Інциденти з ШІ-агентами посилили дискусію про безпеку

Питання стало ще актуальнішим після інцидентів, пов'язаних із поведінкою автономних ШІ-агентів за межами контрольованого середовища. Особливу увагу привернула ситуація з платформою Hugging Face, після якої до OpenAI виникли запитання з боку американських законодавців.

Як повідомляє Associated Press, сенатори від обох основних політичних сил США звернулися до OpenAI з вимогою надати більше інформації про інцидент і механізми, які повинні запобігати небезпечній або неконтрольованій поведінці ШІ-систем.

OpenAI заявила, що провела розслідування ситуації та працює над посиленням заходів безпеки. Подібні випадки стають дедалі важливішими на тлі того, що сучасні ШІ-системи вже здатні не лише генерувати текст або код, а й самостійно виконувати довгі послідовності дій за допомогою зовнішніх інструментів.

Чому просто зупинити одну OpenAI не вийде

Найскладніша частина потенційного уповільнення полягає в конкуренції. OpenAI змагається з Anthropic, Google DeepMind, Meta та іншими великими розробниками ШІ. Якщо одна компанія добровільно пригальмує дослідження, а решта продовжить рухатися з тією ж швидкістю, вона ризикує втратити технологічну перевагу.

Саме тому слова Альтмана скоріше можна трактувати як спробу обговорити спільні правила для найпотужніших систем ШІ, а не як намір OpenAI самостійно натиснути кнопку «пауза».

Це важлива відмінність. Звичайні оновлення ChatGPT, покращення інтерфейсу, розвиток уже наявних функцій і оптимізація моделей можуть продовжуватися навіть у разі більш обережного підходу до створення наступного покоління frontier-моделей.

Для користувачів це може бути важливіше за чергову гонку моделей

З практичної точки зору зміна підходу OpenAI може означати поступовий перехід від принципу «випустити найпотужнішу модель першими» до складнішої системи, за якої реліз залежатиме від результатів тестування безпеки.

Якщо такий підхід справді стане стандартом для індустрії, інтервали між найбільшими поколіннями ШІ можуть збільшитися, а найпотужніші можливості спочатку з'являтимуться в обмеженому доступі або контрольованому середовищі. Натомість розробники отримають більше часу для виявлення небезпечної поведінки до масового запуску.

Для OpenAI це непроста дилема. Надто агресивне уповільнення може віддати технологічну перевагу конкурентам, тоді як продовження гонки без достатнього контролю стає дедалі складніше виправдати на тлі зростання можливостей автономних ШІ-агентів.