Войти

Компания Илона Маска создала опасный искусственный интеллект

2823
11
+2
Илон Маск
Илон Маск.
Источник изображения: Фото: Chris Carlson / AP

Некоммерческая исследовательская компания OpenAI, созданная при непосредственном участии Илона Маска, разработала искусственный интеллект, способный генерировать тексты беспрецедентно высокого качества. Новая языковая система GPT-2 будет выпущена лишь в упрощенной версии, поскольку ученые опасаются, что она может быть применена во вред. Об этом сообщает издание Science Alert.

Текстовый генератор GPT-2 был обучен набором данных из восьми миллионов веб-страниц, после чего он мог предсказывать следующее слово в предложении, учитывая все предыдущие слова в некотором тексте. Таким образом, искусственный интеллект научился генерировать случайные предложения, касающиеся определенных тем, включая изменение климата, Гражданскую войну в США или новости о знаменитостях. По словам специалистов, тексты получались "слишком убедительными".

Например, в ответ на фразы "Переработка мусора полезна для мира. Нет, вы как никогда далеки от истины!" GPT-2 генерирует текст, содержание которого выглядит следующим образом: "Переработка мусора вредна для мира. Она плоха для окружающей среды, опасна для вашего здоровья и экономики. Я не шучу. Переработка мусора вредит окружающей среде. Она разрушительная для Земли и является основным фактором глобального потепления".

Ученые подчеркивают, что языковая модель все же совершает типичные ошибки, включая повторение фраз, неправильное описание мира (например, она пишет о пожарах под водой) или внезапное переключение на другую тему. Однако, считают разработчики, GPT-2 можно легко настроить для генерации текста, который можно использовать в злонамеренных целях. Подобные технологии снижают стоимость создания поддельного контента и позволяют проводить целые кампании по дезинформации населения.

Права на данный материал принадлежат
Материал размещён правообладателем в открытом доступе
  • В новости упоминаются
Страны
Персоны
11 комментариев
№1
20.02.2019 08:49
Опасность не в дезинформации неселения, а в том, что население вообще перестанет реагировать на СМИ.
+1
Сообщить
№2
20.02.2019 12:46
Некоммерческая исследовательская компания OpenAI, созданная при непосредственном участии Илона Маска, разработала искусственный интеллект, способный генерировать тексты беспрецедентно высокого качества.
------------------------------------------------------------------------------
Сколько  же   компьютерных   ботов   начнут   теперь
изображать  мнения  "демократически  настроенных
граждан" ?
+2
Сообщить
№3
20.02.2019 12:53
Цитата, Терентий_410 сообщ. №2
искусственный интеллект, способный генерировать тексты беспрецедентно высокого качества
.
Какая ирония! Момент создания систем генерации качественного текста, по сути, означает момент смерти текстов вообще. Ибо если в тексте и есть что-то достойное внимания, то это отражение его автора - человека. Любой текст - это послание от человека человеку. Нет человека - нет текста.
А набор символов в поисковой выдаче  - это не текст. И "тексты" копирайтеров и прочие интернетговномножества символов, это тоже уже не вполне текст. Это всего лишь некая обезличенная  информация, которую нужно дешифровывать и интерпретировать.
+3
Сообщить
№4
20.02.2019 14:21
Цитата, ID: 1949 сообщ. №1
Опасность не в дезинформации неселения, а в том, что население вообще перестанет реагировать на СМИ.
Нет такой опасности. Уже давно льют в уши разное дерьмо и люди тупо верят в это. Очень мало кто может включить мозги, подвергнуть сомнению, начать искать подтверждение. Просто даже лень что-то искать: услышал - поверил. Доверие основывается лишь на источнике информации: для большинства какие-то официальные заявления властей - всегда истина. Или в книгах, в газетах - тоже вся информация истинная. Написано ж! И президент не может врать. В России поменьше, но на Украине вон как врут и в точности с "чем чудовищней ложь, тем охотней в неё верят", "ложь повторенная много раз становится правдой". Ведь искренне верит почти всё население Украины в то, что Донбасс оккупирован РФ. Хотя сами знают, что там живут "сепары", но это никак не противоречит оккупации "террористами", захватившими в заложники местных жителей, которые хотят жить на Украине. А где там тысячи пленных российских солдат за 5 лет войны и очень успешных действий укрогероев - никто не задаётся вопросом и это при том, что укропропаганда изо всех сил охотилась за россиянами, хватая журналистов, случайных граждан, которые поехали на Украину навестить родственников, т.е. приказа "никого не брать живым" уж точно не было. А говорят на Донбассе аж 200-тысячная армия РФ стоит и каждый день едут колонны КАМАЗ-ов с цинковыми гробами солдат РФ, могилами которых усеяны все кладбища по всей РФ - так хорошо воюют укрогерои.

А чем отличаются жители других стран? Да вообще ничем. Тут вот тоже видно очень много неадекватов с шапкозакидательством, искренне верящих в "не имеющие аналогов в мире" и т.д. И хоть какие аргументы, факты приводи - переубедить невозможно: упорно верят только в то, что приятно. В Европе, в штатах - да такие же люди в большинстве: РФ - это Мордор, вселенское зло, которое хочет поработить мир (Зачем это и так огромной РФ? Незачем, просто имидж империи зла обязывает - звучит убедительно, как ни странно), а демократические силы запада этому противостоят.
+1
Сообщить
№5
22.02.2019 07:56
Ну, если обучить ИИ НЛП, то да. Чтобы люди верили, нужен эмоциональный отклик, а не просто информация. Именно эмоции заставляют "кипеть разум возмущённый", отключая логику. Но для этого недостаточно просто информировать и приводить жуткие факты - люди привыкают и порог недоверия увеличивается. Надо уметь найти болевую точку, чтобы приведённый факт касался каждого.
0
Сообщить
№6
22.02.2019 10:25
1949
Цитата, ID: 1949 сообщ. №5
Ну, если обучить ИИ НЛП, то да.
Я думаю, это не проблема.

Цитата, ID: 1949 сообщ. №5
Чтобы люди верили, нужен эмоциональный отклик, а не просто информация. Именно эмоции заставляют "кипеть разум возмущённый", отключая логику.
Для большинства это лишнее, НЛП потребуется чтоб увеличить процент оболваненных. Большинству же просто достаточно того, что информация идёт из "надёжного" источника, который врать не может.
0
Сообщить
№7
22.02.2019 12:34
Цитата, Враг сообщ. №4
Тут вот тоже видно очень много неадекватов с шапкозакидательством, искренне верящих в "не имеющие аналогов в мире" и т.д.
) Ровно как и других "неадекватов", которые цитируют "надёжные" источники, только Западные...
Если каждый индивид населения будет иметь качественное образование, то и "влить" ему в мозги будет сложновато.
А когда бывший министр образования г-н Фурсенко говорит вот это:
Цитата, q
«НЕДОСТАТКОМ СОВЕТСКОЙ СИСТЕМЫ ОБРАЗОВАНИЯ БЫЛА ПОПЫТКА ФОРМИРОВАНИЯ ЧЕЛОВЕКА-ТВОРЦА, А СЕЙЧАС НАША ЗАДАЧА ЗАКЛЮЧАЕТСЯ В ТОМ, ЧТО ВЫРАСТИТЬ КВАЛИФИЦИРОВАННОГО ПОТРЕБИТЕЛЯ».
то такому вот потребителю можно по ушам ездить и с помощью ИИ...
+3
Сообщить
№8
22.02.2019 12:42
Цитата, ash сообщ. №7
вот это:
Вообще говоря, они уже достаточно много наговорили подобного.  В приличных деревнях и за меньшее ранее просто удавили бы потихоньку и всё. А они всё там же по сути и всё так же руковОдют. Неужели образованный человек может быть идиотом до такой степени, чтобы такое заявлять? Трудно поверить. До чего мы докатились? Интеллигентно выражаясь - это уже форменный 3,14здец какой-то.
+1
Сообщить
№9
22.02.2019 14:20
ash
Цитата, ash сообщ. №7
Ровно как и других "неадекватов", которые цитируют "надёжные" источники, только Западные...
Т.е. для вас данные с сайта производителя, да просто фото наличия аналога - это "надёжный" источник, которому нельзя верить, а можно верить словам "эксперта", который заявил, что аналогов нет?

Цитата, ash сообщ. №7
Если каждый индивид населения будет иметь качественное образование, то и "влить" ему в мозги будет сложновато.
Ерунда. Полно так называемых "инвалидов умственного труда", как их называют лохотронщики. Т.е. просто доверчивых людей, которые судят о других по себе ("ну я вот честный, отрытый - мой собеседник такой же", а потом сюрприз...), которые хоть и умные, но не способны мыслить критически, проверять информацию. Взять академика Сахарова - умнейший был учёный, но полез в политику и столько там наивной ахинеи гнал. Лучше бы он продолжал заниматься наукой и не лез в политику. Многие люди когда-то выбрали себе некий идеал и им крайне не хочется верить во что-то плохое про него - должно же быть в жизни что-то приятное! И хоть кол на голове теши: либо на западе "всё по уму, всё для людей, не то что у нас", либо другая крайность: "на западе все тупые, у нас все самые умные, у нас всё самое лучшее поэтому". Понять, что мир не двоичный, что везде могут быть как плюсы, так и минусы - многие упорно не хотят. А не хотят ещё и потому, что у них больное самолюбие: не могут признаться самому себе, что были в чём-то неправы - это слишком сильный удар по самолюбию. На этом сайте полно таких.

P.S. Если лично до вас до сих пор не дошло, то ещё раз: я тут в основном критикую "не имеющие аналогов в мире" по простой причине, что на этом сайте в основном такое и редко обратное. Но если обратное неадекватное, то я и их критикую - читайте внимательней мои посты. На других сайтах, где преобладает другого рода контингент и дурь из другой крайности - там я наоборот пишу в основном в защиту РФ и против дурацких сказок про запад. Я, в отличие от вас, не страдаю никакой однобокостью в суждениях, не страдаю фанатизмом - я способен критиковать кого угодно и в том числе себя любимого. Но и критиковать ради критики я тоже не буду - должен быть достаточно весомый повод.
0
Сообщить
№10
22.02.2019 14:34
Цитата, Враг сообщ. №9
Я, в отличие от вас, не страдаю никакой однобокостью в суждениях, не страдаю фанатизмом - я способен критиковать кого угодно и в том числе себя любимого. Но и критиковать ради критики я тоже не буду - должен быть достаточно весомый повод.
А Вы не учитываете, что некоторые вещи, которые Вы тут пытаетесь критиковать другие коллеги знают лучше Вас и когда они Вам это говорят, то хотя бы иногда их стоит послушать. И да, про некоторые изделия нет никакой возможности говорить открыто. Причём здесь именно такие и обсуждают.
-1
Сообщить
№11
22.02.2019 17:31
Цитата, ash сообщ. №7
Если каждый индивид населения будет иметь качественное образование, то и "влить" ему в мозги будет сложновато
Цитата, Враг сообщ. №9
Ерунда. Полно так называемых "инвалидов умственного труда", как их называют лохотронщики. Т.е. просто доверчивых людей, которые судят о других по себе ("ну я вот честный, отрытый - мой собеседник такой же", а потом сюрприз...), которые хоть и умные, но не способны мыслить критически, проверять информацию.
Враг, хорошее образование - это хорошая база для того, чтобы критически мыслить. Это бесспорно.
"Лоховство" так называемое - это несколько иное измерение. Понятно, что нужен ещё и некий опыт "по жизни".  Но одного опыта мало. Он поможет в плане локальной социализации, но в более серьезных вещах такие люди могут быть не способны адекватно оценить информацию.
Кстати, "опыт по жизни", вообще говоря, входит в понятие "образования".
Ваще-то, люди интеллектуального труда бывают полными идиотами "по жизни" - это точно. А крутые пацаны с района мало что понимают в глобальных процессах.
0
Сообщить
Хотите оставить комментарий? Зарегистрируйтесь и/или Войдите и общайтесь!
ПОДПИСКА НА НОВОСТИ
Ежедневная рассылка новостей ВПК на электронный почтовый ящик
  • Разделы новостей
  • Обсуждаемое
    Обновить
  • 21.11 17:03
  • 5806
Без кнута и пряника. Россия лишила Америку привычных рычагов влияния
  • 21.11 16:16
  • 136
В России запустили производство 20 самолетов Ту-214
  • 21.11 13:19
  • 16
МС-21 готовится к первому полету
  • 21.11 13:14
  • 39
Какое оружие может оказаться эффективным против боевых беспилотников
  • 21.11 12:38
  • 1
ВСУ получили от США усовершенствованные противорадиолокационные ракеты AGM-88E (AARGM) для ударов по российским средствам ПВО
  • 21.11 12:14
  • 0
Один – за всех и все – за одного!
  • 21.11 12:12
  • 0
Моделирование боевых действий – основа системы поддержки принятия решений
  • 21.11 11:52
  • 11
Почему переданные Украине ЗРС Patriot отнюдь не легкая мишень для ВКС России
  • 21.11 04:31
  • 0
О "мощнейшем корабле" ВМФ РФ - "Адмирале Нахимове"
  • 21.11 02:41
  • 1
Стало известно о выгоде США от модернизации мощнейшего корабля ВМФ России
  • 21.11 01:54
  • 1
Проблемы генеративного ИИ – версия IDC
  • 21.11 01:45
  • 1
«Тегеран считает Россию хрупкой и слабой»: иранский эксперт «объяснил» суть якобы возникших разногласий между РФ и Исламской Республикой
  • 21.11 01:26
  • 1
Пентагон не подтвердил сообщения о разрешении Украине наносить удары вглубь РФ американским оружием
  • 20.11 20:38
  • 0
Ответ на ""Сбивать российские ракеты": в 165 км от границы РФ открылась база ПРО США"
  • 20.11 12:25
  • 1
В России заявили о высокой стадии проработки агрегатов для Су-75