Bloomberg: YouTube чистит главную страницу от шок-контента с помощью ИИ

Опубликовано: Четверг, 23 мая 2019 22:12

Видеохостинг YouTube запустил программу, которая автоматически распознает и блокирует на главной странице сайта и приложения видео с шокирующим контентом.

Об этом пишет издание Bloomberg со ссылкой на три источника, знакомых с проектом.

Программа с внутренним названием "классификатор плохого видео" ("trashy video classifier") работает на основе искусственного интеллекта. Она уже тестировалась Google в 2015 году, однако активно ее использовать компания стала в 2017-м после серии инцидентов с детскими видео, которые содержали сцены насилия, но не блокировались фильтрами родительского контроля.

В Google подтвердили, что у них есть классификатор, который просматривает видео для домашней страницы YouTube, а также для панели с рекомендациями. По словам представителя компании, система анализирует лайки, а также отзывы пользователей, которые сообщают о вводящих в заблуждение или шокирующих видео.

Как отмечает Bloomberg, это доказывает, что YouTube способен регулировать распространение подобного шокирующего контента. Однако, по словам нынешних и бывших сотрудников, компания серьезно сосредотачивается на проблеме только тогда, когда на карту поставлены деньги или же под влиянием давления из вне.