OpenAI запропонувала використати мовну модель GPT-4 для модерації контенту

Зараз вона експериментує з розв'язанням цього завдання за допомогою технології.

Переваги GPT-4 у ролі модератора:

• точне дотримання формулювань у політиці модерації та миттєва адаптація до оновлень правил;
• зниження емоційного навантаження на модераторів-людей, які нерідко стикаються з психологічним стресом щодо образливого і небезпечного контенту;
• допомога у швидкому оновленні політик модерації при виникненні нових загроз.

У блозі OpenAI також сказано, що GPT-4 дозволяє прискорити розробку та налаштування правил модерації, скоротивши процес «з кількох місяців до кількох годин». Для початкового навчання мовної моделі знадобиться невелика кількість еталонних прикладів, а далі експерти можуть точніше налаштовувати роботу алгоритму за неоднозначних ситуацій.

Нагадаємо, велика мовна модель останнього покоління, GPT-4, була представлена OpenAI у березні цього року.