Некоммерческая исследовательская компания OpenAI, созданная при непосредственном участии Илона Маска, разработала искусственный интеллект, способный генерировать тексты беспрецедентно высокого качества. Новая языковая система GPT-2 будет выпущена лишь в упрощенной версии, поскольку ученые опасаются, что она может быть применена во вред. Об этом сообщает издание Science Alert.
Текстовый генератор GPT-2 был обучен набором данных из восьми миллионов веб-страниц, после чего он мог предсказывать следующее слово в предложении, учитывая все предыдущие слова в некотором тексте. Таким образом, искусственный интеллект научился генерировать случайные предложения, касающиеся определенных тем, включая изменение климата, Гражданскую войну в США или новости о знаменитостях. По словам специалистов, тексты получались "слишком убедительными".
Например, в ответ на фразы "Переработка мусора полезна для мира. Нет, вы как никогда далеки от истины!" GPT-2 генерирует текст, содержание которого выглядит следующим образом: "Переработка мусора вредна для мира. Она плоха для окружающей среды, опасна для вашего здоровья и экономики. Я не шучу. Переработка мусора вредит окружающей среде. Она разрушительная для Земли и является основным фактором глобального потепления".
Ученые подчеркивают, что языковая модель все же совершает типичные ошибки, включая повторение фраз, неправильное описание мира (например, она пишет о пожарах под водой) или внезапное переключение на другую тему. Однако, считают разработчики, GPT-2 можно легко настроить для генерации текста, который можно использовать в злонамеренных целях. Подобные технологии снижают стоимость создания поддельного контента и позволяют проводить целые кампании по дезинформации населения.