Компания Google открыла доступ к API сервиса Perspective, предназначенный для анализа текста комментариев: содержатся ли в них оскорбительные фразы, троллинг и тому подобное.

По информации издания The Verge, сервис работает на основе машинного обучения. Perspective уже тестировали администрация Википедии, редакции Guardian, The Economist и The New York Times.

Демо-версия сервиса доступна для всех пользователей. Perspective определит уровень «токсичности» комментария, если в специальное поле ввести фразу или предложение. Если показатель «токсичности» составит 80% и более, есть большая вероятность, что комментарий, появившись в онлайне, оскорбит других пользователей.

Сервис до сих пор находится в разработке, поэтому не способен с предельной точностью находить троллей. Администрация Perspective просит пользователей оставлять фидбэк, чтобы сервис мог учиться на своих ошибках.

Разработчики могут оставить заявку на тестирование сервиса по этой ссылке.