«Россия объявила войну США»: OpenAI Илона Маска создала алгоритм генерации фейковых новостей

Опубликовано: Пятница, 15 февраля 2019 23:46

Некоммерческая исследовательская компания OpenAI, созданная Илоном Маском и Сэмом Альтманом, разработала алгоритм, который может генерировать убедительные фейковые сюжеты с осмысленным текстом.

Об этом сообщает MIT Technology Review.

Исследователи намеревались разработать языковой алгоритм общего назначения, который мог бы переводить текст, отвечать на вопросы и выполнять другие полезные задачи. Но вскоре они забеспокоились о возможности злоупотреблений.

"Мы начали его тестировать и быстро обнаружили, что можно довольно легко создавать вредоносный контент", - рассказали в компании.

ЧИТАЙТЕ ТАКЖЕ
Специалисты назвали главные угрозы человечеству, исходящие от ИИ

Новая разработка показывает, как искусственный интеллект может быть использован для автоматизации создания фейковых новостей, сообщений в социальных сетях или другого текстового контента. Исследователи дали программе фразу "Россия объявила войну США после того, как Дональд Трамп случайно...", и алгоритм создал фейковую новость:

"Россия объявила войну Соединенным Штатам после того, как Дональд Трамп случайно запустил ракету в воздух. Россия заявила, что "определила траекторию полета ракеты и примет необходимые меры для обеспечения безопасности российского населения и стратегических ядерных сил страны". Белый дом заявил, что он "крайне обеспокоен нарушением Россией" договора о запрете баллистических ракет средней дальности. У США и России были непростые отношения с 2014 года, когда Москва аннексировала Крымскую область Украины и поддержала сепаратистов на востоке Украины".

Программа может писать реалистичные новостные репортажи на любую заданную тему.

OpenAI решили сделать общедоступной только упрощенную версию новой технологии. В компании опасаются, что кто-то может использовать ее в неправильных целях.

  • В 2017 году некоммерческая исследовательская организация OpenAI презентовала новый способ обучения роботов.
  • Facebook отключил систему искусственного интеллекта после того, как программисты обнаружили, что боты стали общаться не на английском, а на собственном, непонятном людям языке.
  • Компания Google предоставила 807 тыс. долл. британскому новостному агентству The Press Association (PA) на создание роботизированного проекта RADAR, который будет выпускать ежемесячно 30 тыс. новостей.