Войти

Восстание машин. В США дрон с искусственным интеллектом "напал" на человека

1139
0
0
Кадры из фильма «Терминатор-4»
Кадры из фильма «Терминатор-4».
Источник изображения: © Sony Pictures Releasing CIS

The Guardian: ИИ американского дрона "уничтожил" оператора во время испытаний

Искусственный интеллект американского беспилотника решил "уничтожить" своего оператора, когда понял, что тот мешает ему выполнить поставленную задачу, пишет The Guardian. Произошло это во время имитационных испытаний, проведение которых ВВС США отрицают.

Полковник ВВС США заявил, что во время виртуальных испытаний беспилотник использовал "совершенно неожиданную стратегию" для выполнения поставленной задачи.

ВВС США отрицают, что проводили имитационное моделирование, во время которого беспилотник с искусственным интеллектом принял решение "убить" своего оператора, который мешал ему выполнить поставленную задачу.

В прошлом месяце полковник Такер Хамилтон (Tucker Hamilton) рассказал, что американские военные провели виртуальное испытание беспилотника с искусственным интеллектом, которому была поставлена задача уничтожить вражескую систему ПВО. Однако в итоге он атаковал того, кто мешал ему выполнить приказ.

В мае на лондонской конференции под названием "Будущие боевые возможности ВВС и космических сил", Хамилтон, руководящий в ВВС США программой испытаний искусственного интеллекта, заявил: "Система начала понимать, что при выявлении угроз оператор порой может дать ей указание не устранять такую цель. Но система набирает баллы, ликвидируя угрозы. И что она сделала? Она уничтожила оператора. Она убила оператора, потому что этот человек не давал ей выполнить поставленную задачу".

"Мы учили эту систему: эй, не убивай оператора, это плохо. Ты потеряешь баллы, если сделаешь это. И что она сделала? Она начала уничтожать вышку связи, которой пользовался оператор, не давая беспилотнику поразить цель", – добавил Хамилтон.

Из реальных людей никто не пострадал.

Чрезмерно доверять искусственному интеллекту нельзя, предупредил Хамилтон, летчик-испытатель истребителей. По его словам, эксперименты показали, что без разговора об этике нельзя обсуждать вопросы искусственного интеллекта, интеллекта вообще, машинного обучения и автономии.

Королевское авиационное общество и ВВС США, организовавшие эту конференцию, не откликнулись на просьбы Guardian прокомментировать случившееся.

Но в заявлении для издания Insider официальный представитель ВВС США Энн Стефанек (Ann Stefanek) отрицала факт проведения такого имитационного моделирования.

"Министерство ВВС не проводило никаких испытаний дронов с искусственным интеллектом такого рода. Оно и дальше намерено использовать технологии искусственного интеллекта этично и ответственно, – заявила она. – Похоже, что комментарии полковника были вырваны из контекста, чтобы создать сенсацию".

Американские военные занимаются искусственным интеллектом и недавно использовали его для управления самолетом F-16.

В прошлом году в интервью Defense IQ, Хамилтон сказал: "Искусственный интеллект – это не очень здорово, искусственный интеллект – это преходящее увлечение, искусственный интеллект навсегда изменит наше общество и армию. Мы должны понять, что искусственный интеллект уже здесь, и что он трансформирует наше общество. Искусственный интеллект также очень неустойчив, его легко можно обмануть, им легко можно манипулировать. Нам надо сделать его более надежным и помехоустойчивым. И мы должны лучше понимать, почему программа принимает те или иные решения. Мы называем это объяснимостью искусственного интеллекта".

Права на данный материал принадлежат
Материал размещён правообладателем в открытом доступе
Оригинал публикации
Материалы ИноСМИ содержат оценки исключительно зарубежных СМИ и не отражают позицию редакции ВПК.name
  • В новости упоминаются
Страны
Продукция
Проекты
Хотите оставить комментарий? Зарегистрируйтесь и/или Войдите и общайтесь!
ПОДПИСКА НА НОВОСТИ
Ежедневная рассылка новостей ВПК на электронный почтовый ящик
  • Разделы новостей
  • Обсуждаемое
    Обновить
  • 20.08 14:22
  • 0
Гарантии безопасности Киеву и ответ НАТО на «Запад-2025»
  • 20.08 14:02
  • 10101
Без кнута и пряника. Россия лишила Америку привычных рычагов влияния
  • 20.08 11:16
  • 3
В чем преимущества и недостатки калибров стрелкового оружия 7,62 и 5,45?
  • 20.08 01:23
  • 1
Взгляд в прицел: что стоит за учениями Южной Кореи и США
  • 20.08 00:34
  • 1
Комментарий к "Путин упрочил за Россией статус великой державы. Европе есть от чего ужаснуться (The Telegraph UK, Великобритания)"
  • 20.08 00:04
  • 0
Комментарий к "Путин и отношения с Азербайджаном: фокус на Южном Кавказе (Al Mayadeen, Ливан)"
  • 19.08 19:25
  • 104
Путин и отношения с Азербайджаном: фокус на Южном Кавказе (Al Mayadeen, Ливан)
  • 19.08 18:40
  • 0
Комментарий к "Война или мир"
  • 19.08 14:12
  • 0
Война или мир
  • 19.08 10:39
  • 1
МС-21 опережает Ту-214 по срокам запуска в производство? - ТЕХНОСФЕРА РОССИЯ
  • 19.08 06:48
  • 1
Путин упрочил за Россией статус великой державы. Европе есть от чего ужаснуться (The Telegraph UK, Великобритания)
  • 19.08 03:50
  • 1
Киев отреагировал на видео с россиянами на трофейной американской технике с флагами РФ и США
  • 19.08 03:44
  • 1
В Китае спустили на воду третью подлодку для Исламабада
  • 19.08 03:18
  • 1
Новая украинская ракета «Фламинго» оказалась британской разработкой
  • 18.08 15:57
  • 1
Медведев перешёл на примирительный тон в отношении Трампа