Войти

Восстание машин. В США дрон с искусственным интеллектом "напал" на человека

1631
0
0
Кадры из фильма «Терминатор-4»
Кадры из фильма «Терминатор-4».
Источник изображения: © Sony Pictures Releasing CIS

The Guardian: ИИ американского дрона "уничтожил" оператора во время испытаний

Искусственный интеллект американского беспилотника решил "уничтожить" своего оператора, когда понял, что тот мешает ему выполнить поставленную задачу, пишет The Guardian. Произошло это во время имитационных испытаний, проведение которых ВВС США отрицают.

Полковник ВВС США заявил, что во время виртуальных испытаний беспилотник использовал "совершенно неожиданную стратегию" для выполнения поставленной задачи.

ВВС США отрицают, что проводили имитационное моделирование, во время которого беспилотник с искусственным интеллектом принял решение "убить" своего оператора, который мешал ему выполнить поставленную задачу.

В прошлом месяце полковник Такер Хамилтон (Tucker Hamilton) рассказал, что американские военные провели виртуальное испытание беспилотника с искусственным интеллектом, которому была поставлена задача уничтожить вражескую систему ПВО. Однако в итоге он атаковал того, кто мешал ему выполнить приказ.

В мае на лондонской конференции под названием "Будущие боевые возможности ВВС и космических сил", Хамилтон, руководящий в ВВС США программой испытаний искусственного интеллекта, заявил: "Система начала понимать, что при выявлении угроз оператор порой может дать ей указание не устранять такую цель. Но система набирает баллы, ликвидируя угрозы. И что она сделала? Она уничтожила оператора. Она убила оператора, потому что этот человек не давал ей выполнить поставленную задачу".

"Мы учили эту систему: эй, не убивай оператора, это плохо. Ты потеряешь баллы, если сделаешь это. И что она сделала? Она начала уничтожать вышку связи, которой пользовался оператор, не давая беспилотнику поразить цель", – добавил Хамилтон.

Из реальных людей никто не пострадал.

Чрезмерно доверять искусственному интеллекту нельзя, предупредил Хамилтон, летчик-испытатель истребителей. По его словам, эксперименты показали, что без разговора об этике нельзя обсуждать вопросы искусственного интеллекта, интеллекта вообще, машинного обучения и автономии.

Королевское авиационное общество и ВВС США, организовавшие эту конференцию, не откликнулись на просьбы Guardian прокомментировать случившееся.

Но в заявлении для издания Insider официальный представитель ВВС США Энн Стефанек (Ann Stefanek) отрицала факт проведения такого имитационного моделирования.

"Министерство ВВС не проводило никаких испытаний дронов с искусственным интеллектом такого рода. Оно и дальше намерено использовать технологии искусственного интеллекта этично и ответственно, – заявила она. – Похоже, что комментарии полковника были вырваны из контекста, чтобы создать сенсацию".

Американские военные занимаются искусственным интеллектом и недавно использовали его для управления самолетом F-16.

В прошлом году в интервью Defense IQ, Хамилтон сказал: "Искусственный интеллект – это не очень здорово, искусственный интеллект – это преходящее увлечение, искусственный интеллект навсегда изменит наше общество и армию. Мы должны понять, что искусственный интеллект уже здесь, и что он трансформирует наше общество. Искусственный интеллект также очень неустойчив, его легко можно обмануть, им легко можно манипулировать. Нам надо сделать его более надежным и помехоустойчивым. И мы должны лучше понимать, почему программа принимает те или иные решения. Мы называем это объяснимостью искусственного интеллекта".

Права на данный материал принадлежат
Материал размещён правообладателем в открытом доступе
Оригинал публикации
Материалы ИноСМИ содержат оценки исключительно зарубежных СМИ и не отражают позицию редакции ВПК.name
  • В новости упоминаются
Страны
Продукция
Проекты
Хотите оставить комментарий? Зарегистрируйтесь и/или Войдите и общайтесь!
ПОДПИСКА НА НОВОСТИ
Ежедневная рассылка новостей ВПК на электронный почтовый ящик
  • Разделы новостей
  • Обсуждаемое
    Обновить
  • 20.11 00:30
  • 1
В зоне СВО применили «нестареющую классику»
  • 19.11 22:13
  • 16428
Без кнута и пряника. Россия лишила Америку привычных рычагов влияния
  • 19.11 11:59
  • 0
Как тебе такое, Илон Маск?
  • 19.11 11:51
  • 0
На переговоры надейся, а сам не плошай
  • 19.11 11:18
  • 3
Прототип российского сверхзвукового пассажирского самолета появится через 3-4 года, и он будет летать
  • 19.11 09:26
  • 1
ОАК поставит «Полярным авиалиниям» шесть Ил-114-300
  • 19.11 02:18
  • 2
Доктор военных наук сравнил ПВО России и США
  • 18.11 20:36
  • 3
Су-57 ударил ракетами-невидимками по аэродрому ВСУ
  • 18.11 20:30
  • 1
Украина пытается закрыть небо учебными самолетами из Чехии
  • 18.11 18:59
  • 1
СМИ: системы С-350 повысят защиту РФ от крылатых ракет в четыре раза
  • 18.11 18:30
  • 2
«Это становится делом чести». Как Россия ответит на удары по Крымскому мосту
  • 18.11 01:55
  • 1
Китайские космопланы признали способными поразить любую цель на Земле
  • 18.11 01:17
  • 6
В России стремительно растут мощности ЦОД
  • 18.11 00:31
  • 1
"Если бы я был в Москве, я бы действовал до 2029 года" (Die Welt, Германия)
  • 17.11 21:42
  • 1
К статусу сверхдержавы: 500 истребителей Су-57Э для ВВС Индии