Войти

На поле боя будущего выйдут полностью автономные «мобильные интеллектуальные сущности»

2997
5
+2
MIE AI
Мобильные интеллектуальные сущности (mobile intelligent entities - MIE AI ).
Источник изображения: https://www.defensenews.com/

Робот-убийца с любым другим именем будет гораздо привлекательней для широкой публики. Возможно, именно так рассуждал главный научный сотрудник исследовательской лаборатории армии США (ARL [1]) Александр Котт, предложивший относиться к мышлению и движущимся машинам на поле боя как к «мобильным интеллектуальным сущностям». Вчера, во время второй ежегодной конференции по вопросам обороны на панели по искусственному интеллекту, развернувшейся вокруг вопросов конкуренции великих держав, Котт представил этот термин вместе с новой концепцией полностью автономного маневрирования.


«Полностью автономное маневрирование - амбициозная, еретическая терминология», - сказал Котт. «Полностью автономный - это больше, чем просто мобильность, речь идет о принятии решений».


Такая автономия кажется еретической относительно действующих канонов, поэтому не удивительно, что вопрос разрешения или ограничения убийства автономными системами вооружения обсуждался на недавней конференции и международным сообществом. На прошлой неделе в Женеве (Швейцария) состоялась последняя встреча Группы правительственных экспертов по боевому автономному оружию, которая 31 августа завершила формирование проекта рекомендаций.


Этот дипломатический процесс, возможно, станет потенциальным приговором международному праву по контролю или запрету развития оружия на основе ИИ, особенно машин выбирающих и атакующих цели без участия человека. Это принципиальное возражение, выдвинутое такими миротворческими группами, как «Кампания по запрету боевых роботов» (CSKR [2]) и странами, призывающими к упреждающему запрету на автономное оружие.


Котт понимает их озабоченность этической стороной вопроса, проводя параллели с моральными соображениями и компромиссами в развитии автономных автомобилей.


«Все знают об автономных автомобилях, все страхи, вопросы маневренности ... примите всё это, умножьте на порядок – вот так будут выглядеть проблемы маневренности на поле боя», - сказал Котт. «Маневрирующие интеллектуальные объекты на поле боя столкнуться с гораздо более неструктурированной, гораздо менее упорядоченной средой, чем та, где двигаются автомобили с автономным вождением. Это совершенно другой мир городских руин и покорёженных автомобилей, и множества опасностей, в создание которых мы вкладываем много сил».


Главный научный сотрудник исследовательской лаборатории армии США Доктор Александр Котт обсуждает автономию и искусственный интеллект на второй ежегодной конференции по вопросам обороны в Арлингтоне, штат Вирджиния, 5 сентября 2018 года. (Фото: Dustin Diaz ).
Источник: https://www.defensenews.com/

В панельном обсуждении помимо Котта участвовали вице-президент и генеральный менеджер Lockheed Martin Rotary and Mission Systems Джон Рамбо, Контр-адмирал Управления военно-морских исследований США Дэвид Хан и генерал-майор Исследовательской лаборатории ВВС Уильям Кули. Обсуждение на панели обошло все острые углы боевой автономии и вместо этого сосредоточилось на других уровнях автономии, которые будут разработаны в соответствии с собственными политическими установками министерства обороны США, предусматривающими человеческое вмешательство в контур управления.


«По мере разработки промышленностью ряда высокопроизводительных систем с поддержкой ИИ, наша задача развиваться в этих пограничных условиях с опережением», - сказал Рамбо. Вероятно, это будет непрерывный процесс, так как ИИ является непрерывно обновляющимся носителем, который вероятно, потребует регулярной переоценки направления его развития, чтобы вдруг не узнать, что он злонамеренно или неожиданно развивается сам по себе.


«Мы не знаем, последуют ли нашим принципам другие конкурирующие великие державы, - сказал Котт, - есть серьезные подозрения, что они могут этого не сделать, но мы выбрали свой курс».


Однако ИИ развивается независимо от жесткости контроля и регулирования или разрешения на более органичную обработку информации и свои собственные выводы без постоянных проверок. В будущем, наличие ИИ на поле боя, скорее всего, изменит принципы вооруженных конфликтов между странами, а возможно и отношение человека к войнам.


«Впервые в истории человечества, профессию военного на поле боя будущего будут представлять не только умные люди, но и умные и в значительной степени автономные сущности, которые больше не являются людьми», - сказал Котт. «Как мы будем приспосабливаться к появлению новых разумных существ в жизнь боя?»


Автор: Келси Атертон

Перевод: ВПК.Name


Примечание ВПК.Name

  1. ARL (Army Research Laboratory) - исследовательская лаборатория армии США
  2. CSKR (Campaign to Stop Killer Robots) - Кампания по запрету боевых роботов
  • В новости упоминаются
Страны
Компании
Проекты
Похожие новости
10.08.2017
Три недели Патрика Шенахана и реформы в Пентагоне
20.02.2017
Авиации держав на перепутье (Echo24, Чехия)
03.11.2016
Военные новости: ставка США на военные инновации
17.10.2016
Андрей Григорьев: «Исследования в области гиперзвуковой техники в ближайшем будущем приведут к появлению новых систем вооружений с улучшенными характеристиками»
15.02.2016
Пентагон закрывает программу по разработке боевых беспилотников
17.09.2013
Мини-роботы – новое слово в оборонной промышленности
22.04.2013
Беспилотники как символ бесконтактных войн
5 комментариев
№1
07.09.2018 21:35
Интересно, как  эта "интеллектуальная  сущность"  будет
отличать  своих  от  чужих.
+1
Сообщить
№2
Удалено / Флэйм
№3
08.09.2018 18:58
Цитата, Терентий_410 сообщ. №1
"интеллектуальная  сущность"  будет
отличать  своих  от  чужих.

Ну, между сущностями я полагаю проблем не будет - свой-чужой никто не отменял, а сущности все по единому протоколу работают.

А сущность-живой боец - даже на моем уровне понимания задача решается простейшими способами - от электронных датчиков интегрированных с нервной системой без нарушения тканей и хирургического вмешательства - такие уже даже на гражданском рынке есть, до инъекций химических препаратов разового действия на сутки-двое, который порождает любые невидимые излучения человека отличные от стандартного фона, которые считываются аппаратурой сущностей.
0
Сообщить
№4
09.09.2018 01:35
"а сущности все по единому протоколу работают."
- это глубокое заблуждение.
Даже ОДИНАКОВЫЕ нейронные сети по железу, ПО и первоначальным базам обучения со временем в одной и той же ситуации, исходя из собственного опыта могут иметь выводы до диаметрально противоположных. Т.е. как индивидуума мы не имеем, но имеем явное проявление индивидуальности.
А теперь то же самое но у вас боевая сеть гетерогенная и так то а с учётом вышесказанного - как в итальянском парламенте.
Причём корректирующие действия могут быть восприняты как угроза со всеми вытекающими.
Вот надо было Цукербергу отключать ИскИн? Зачем на свою голову? Более интеллектуальные системы будут зная об этом уже учитывать в своём поведении и, как минимум, врать. И дело идёт далеко шире работы Google Brain по введению в заблуждение человека.
https://pikabu.ru/story/facebook_otklyuchil_iskin_kotoryiy_izobrel_svoy_sobstvennyiy_yazyik_5230312
А теперь то же самое но на системах вооружений.
Вы знаете какой ДЕЙСТВИТЕЛЬНО симбиоз будет между нейросетями машин? Как будут взаимодействовать спайковые и другие сети? У них вполне возможно будет конфликт интересов или просто неувязка по действиям.
Я  - точно нет. Скорее всего никто не знает даже те кто эти нейросети непосредственно разрабатывали и делали подборки обучающих материалов. Как и насколько эффективным будет их взаимодействие и какова будет их реакция.
Причём негативная, т.е. атака на совсем безобидную часть сети вроде автоматического туалета для обслуживающего персонала из людей вполне может спровоцировать дисфункцию симбиотических связей, обеспечивающих функционирование сети в нужном для тех кто её заказал направлении. Думается специалистов по робопсихологии и робосимбиотике вам потребуется достаточно много. Какие проблемы будут они и как решать - явно ж не как руководство ФБ, будет видно в ближайшие 3-6 лет.

Ещё более интересно будет поведение групп таких сетей, ибо они образуют уже другой с информационной точки зрения объект который нисколкьо не идентичен суммарному объекту этих подсистем как могло бы быть. Примерно как толпа и индивидуумы в институте советском. По отдлельности вроде весьма умные люди а вместе чем более тем более баранистее. Т.к. биосистемы имеют свойства отличные от электронных, полагаю там существенно другие законы лишь отчасти, это уже опытные данные на сетях из сотен и тысяч элементов однородных, наблюдались, в частности применительно к дронам воздушным и подводным сродни стаям птиц и рыб соответственно.
0
Сообщить
№5
09.09.2018 13:58
Цитата, Владислав сообщ. №4
Даже ОДИНАКОВЫЕ нейронные сети по железу, ПО и первоначальным базам обучения со временем в одной и той же ситуации, исходя из собственного опыта могут иметь выводы до диаметрально противоположных.

Но от этого они не перестают работать по единому протоколу. Более того, при этом они не меняют основные - базовые вещи, инструкции, заложенные в протоколы.

Цитата, Владислав сообщ. №4
Вот надо было Цукербергу отключать ИскИн?

Не надо преувиличивать роль этого события. Я полагаю Вы догадываетесь, что это не первое отключение ИИ, причины всегда одна из двух:
- ИИ недоучен
- ИИ переучен

Если терминология для Вас нова, в Интернет полно данных по этим терминам. В обоих случаях безусловно можно продолжать обучение, но здесь как в любом другом проекте - иногда проще начать с нуля, чем переделывать уже сделанное.

Цитата, Владислав сообщ. №4
У них вполне возможно будет конфликт интересов или просто неувязка по действиям.

Безусловно - всё возможно, настолько же насколько конфликт интересов возможен в любом коллективе при выполнении задачи. Решается такой конфликт всегда одинаково - авторитетом или должностью. В Армии всё просто - есть только должность, и эта инструкция непререкаема. Для ИИ она граничит с нарушением человеком инстинкта самосохранения. И если мы не знаем, как работает инстинкт человека, то уж как стереть всю цепочку обучения и разрушить логику, для полной остановки работы ИИ - мы точно знаем и делается это достаточно быстро.

Цитата, Владислав сообщ. №4
Как и насколько эффективным будет их взаимодействие и какова будет их реакция.

Причина перевода нами этой статьи была именно в том, что независимо от того, знает ли кто-нибудь на планете, как будет вести себя полностью автономный боевой робот - решение о том, что такие роботы можно делать уже состоялось в США, при этом они, США утверждают, что независимо от того, какое решение они бы приняли - другие страны могут выбрать свой путь, поскольку никаких международных стандартов, правил, ограничений или разрешений, и даже межправительственных дискуссий на уровне Мирового сообщества, а не только великих держав - НЕТ.

И именно появление такого официального решения в США, первой стране мира, которая НА ОФИЦИАЛЬНОМ УРОВНЕ признала за собой право разработки и применения полностью автономных боевых роботов - должно очень обеспокоить мировое сообщество. ИМХО.
Даже при наличии сделанной оговорки

Цитата, q
будут разработаны в соответствии с собственными политическими установками министерства обороны США, предусматривающими человеческое вмешательство в контур управления.

Кто-то скажет - да другие страны тоже наверняка делают. Да - наверняка делают, НО - не узаканивают, почему - не принципиально, принципиально то, что неузаконенная разработка имеет очень узкие границы применимости, в отличии от боевых автономных роботов США, которых отныне (теоретически) можно будет встретить хоть в Сирии, хоть в Афганистане, хоть под Донбасом и не факт, что это будут не роботы мясорубки у которых ИИ на уровне ребенка, а точность и скорость на уровне снайпера и M134.
0
Сообщить
Хотите оставить комментарий? Зарегистрируйтесь и/или Войдите и общайтесь!
ПОДПИСКА НА НОВОСТИ
Ежедневная рассылка новостей ВПК на электронный почтовый ящик
  • Разделы новостей
  • Обсуждаемое
    Обновить
  • 29.03 07:39
  • 4
Ходаковский: экономика и демография - две «ахиллесовых пяты» Украины
  • 29.03 07:28
  • 1234
Корпорация "Иркут" до конца 2018 года поставит ВКС РФ более 30 истребителей Су-30СМ
  • 29.03 07:22
  • 11
Глава Ростеха анонсировал возобновление выпуска самолётов радиолокационного обнаружения и управления А-50У
  • 29.03 06:58
  • 10
Теракт в "Крокусе" свидетельствует о целесообразности создания специальной российской силовой структуры
  • 29.03 04:24
  • 438
Без кнута и пряника. Россия лишила Америку привычных рычагов влияния
  • 29.03 03:34
  • 4
Раскрыто назначение трехтонной российской бомбы
  • 28.03 22:28
  • 1
Заявления Генерального прокурора России о деприватизации предприятий ОПК
  • 28.03 20:03
  • 2682
Как насчёт юмористического раздела?
  • 28.03 18:33
  • 2
Источник сообщил об успешном применении ВС РФ перспективных "прыгающих мин" в зоне СВО
  • 28.03 16:17
  • 0
Force de Frappe. Франция перебрасывает истребители Rafale в Румынию
  • 28.03 15:34
  • 1
Представлен модуль акустической разведки, находящий беспилотники по звуку
  • 28.03 13:54
  • 5
«Дальность полета возрастет в три раза»: французская компания представила управляемую бомбу Hammer 1000
  • 28.03 10:12
  • 1
В США вспомнили о советском атомолете
  • 28.03 10:06
  • 62
В США оценили российские Су-34 с УМПК
  • 28.03 10:05
  • 1
Клинцевич рассказал о запускаемых со «Смерча» российских бомбах