Компания Jigsaw, дочернее подразделение Google, дало пользователям доступ к API сервиса Perspective, который анализирует тексты комментариев на предмет троллинга или оскорблений.

Об этом пишет Wired.

Сервис уже протестировали администрация “Википедии”, редакции изданий The Guardian, The Economist, The New York Times и многие другие.

Демо-версию можно протестировать в онлайне. Для этого необходимо ввести в поле текст комментария — несколько слов или предложение, и Perspective замерит уровень его “токсичности”.

Если этот уровень составит 80 % и более, это значит, что ваш комментарий обидит других пользователей.

Как отметили в Jigsaw, данный сервис разработан и им могут воспользоваться не только модераторы, но и обычные пользователи.

Стоит отметить, что сервис все еще находится на стадии разработки, поэтому в компании просят пользователей оставлять фидбек, чтобы учесть ошибки.

Подразделение Google DeepMind, которое занимается разработками в области искусственного интеллекта, попыталось “столкнуть” нейросети в играх, чтобы изучить их поведение при различных обстоятельствах.