Войти

Восстание машин. В США дрон с искусственным интеллектом "напал" на человека

1016
0
0
Кадры из фильма «Терминатор-4»
Кадры из фильма «Терминатор-4».
Источник изображения: © Sony Pictures Releasing CIS

The Guardian: ИИ американского дрона "уничтожил" оператора во время испытаний

Искусственный интеллект американского беспилотника решил "уничтожить" своего оператора, когда понял, что тот мешает ему выполнить поставленную задачу, пишет The Guardian. Произошло это во время имитационных испытаний, проведение которых ВВС США отрицают.

Полковник ВВС США заявил, что во время виртуальных испытаний беспилотник использовал "совершенно неожиданную стратегию" для выполнения поставленной задачи.

ВВС США отрицают, что проводили имитационное моделирование, во время которого беспилотник с искусственным интеллектом принял решение "убить" своего оператора, который мешал ему выполнить поставленную задачу.

В прошлом месяце полковник Такер Хамилтон (Tucker Hamilton) рассказал, что американские военные провели виртуальное испытание беспилотника с искусственным интеллектом, которому была поставлена задача уничтожить вражескую систему ПВО. Однако в итоге он атаковал того, кто мешал ему выполнить приказ.

В мае на лондонской конференции под названием "Будущие боевые возможности ВВС и космических сил", Хамилтон, руководящий в ВВС США программой испытаний искусственного интеллекта, заявил: "Система начала понимать, что при выявлении угроз оператор порой может дать ей указание не устранять такую цель. Но система набирает баллы, ликвидируя угрозы. И что она сделала? Она уничтожила оператора. Она убила оператора, потому что этот человек не давал ей выполнить поставленную задачу".

"Мы учили эту систему: эй, не убивай оператора, это плохо. Ты потеряешь баллы, если сделаешь это. И что она сделала? Она начала уничтожать вышку связи, которой пользовался оператор, не давая беспилотнику поразить цель", – добавил Хамилтон.

Из реальных людей никто не пострадал.

Чрезмерно доверять искусственному интеллекту нельзя, предупредил Хамилтон, летчик-испытатель истребителей. По его словам, эксперименты показали, что без разговора об этике нельзя обсуждать вопросы искусственного интеллекта, интеллекта вообще, машинного обучения и автономии.

Королевское авиационное общество и ВВС США, организовавшие эту конференцию, не откликнулись на просьбы Guardian прокомментировать случившееся.

Но в заявлении для издания Insider официальный представитель ВВС США Энн Стефанек (Ann Stefanek) отрицала факт проведения такого имитационного моделирования.

"Министерство ВВС не проводило никаких испытаний дронов с искусственным интеллектом такого рода. Оно и дальше намерено использовать технологии искусственного интеллекта этично и ответственно, – заявила она. – Похоже, что комментарии полковника были вырваны из контекста, чтобы создать сенсацию".

Американские военные занимаются искусственным интеллектом и недавно использовали его для управления самолетом F-16.

В прошлом году в интервью Defense IQ, Хамилтон сказал: "Искусственный интеллект – это не очень здорово, искусственный интеллект – это преходящее увлечение, искусственный интеллект навсегда изменит наше общество и армию. Мы должны понять, что искусственный интеллект уже здесь, и что он трансформирует наше общество. Искусственный интеллект также очень неустойчив, его легко можно обмануть, им легко можно манипулировать. Нам надо сделать его более надежным и помехоустойчивым. И мы должны лучше понимать, почему программа принимает те или иные решения. Мы называем это объяснимостью искусственного интеллекта".

Права на данный материал принадлежат
Материал размещён правообладателем в открытом доступе
Оригинал публикации
Материалы ИноСМИ содержат оценки исключительно зарубежных СМИ и не отражают позицию редакции ВПК.name
  • В новости упоминаются
Страны
Продукция
Проекты
Хотите оставить комментарий? Зарегистрируйтесь и/или Войдите и общайтесь!
ПОДПИСКА НА НОВОСТИ
Ежедневная рассылка новостей ВПК на электронный почтовый ящик
  • Разделы новостей
  • Обсуждаемое
    Обновить
  • 31.03 17:00
  • 8265
Без кнута и пряника. Россия лишила Америку привычных рычагов влияния
  • 31.03 16:35
  • 102
Обзор программы создания Ил-114-300
  • 31.03 12:34
  • 2
Владимир Путин допустил возможность временного введения на Украине внешнего управления под эгидой ООН
  • 31.03 11:34
  • 1
Китай обнародовал планы по миссиям к Венере, Марсу, Юпитеру и Нептуну
  • 31.03 10:44
  • 4
Об естественном и социальном отборах как необходимых условиях развития
  • 31.03 04:59
  • 0
Вот интересно в связи с разговорами о завершении СВОйны.
  • 31.03 04:01
  • 0
Ответ на "Владимир Путин допустил возможность временного введения на Украине внешнего управления под эгидой ООН"
  • 31.03 02:39
  • 312
Главком ВМФ России: проработан вопрос о создании нового авианосца
  • 31.03 02:18
  • 1
Как Франция наводит украинские удары
  • 31.03 01:28
  • 0
О "сдерживании России" еврославянскими Аника-воинами.
  • 30.03 21:10
  • 0
Ответ на ""Сдержать Россию": зачем Польше нужны войска США"
  • 30.03 20:11
  • 0
Немного о "НАТО на краю пропасти"
  • 30.03 20:11
  • 1
Ответ на "Украина. В погоне за победой ЕС навредил сам себе, а НАТО теперь беззащитна (IL Fatto Quotidiano, Италия)"
  • 30.03 17:47
  • 6
«Мировое разделение труда — вещь очень ненадежная»
  • 30.03 14:16
  • 8614
Минобороны: Все авиаудары в Сирии пришлись по позициям боевиков