Робот-убийца с любым другим именем будет гораздо привлекательней для широкой публики. Возможно, именно так рассуждал главный научный сотрудник исследовательской лаборатории армии США (ARL [1]) Александр Котт, предложивший относиться к мышлению и движущимся машинам на поле боя как к «мобильным интеллектуальным сущностям». Вчера, во время второй ежегодной конференции по вопросам обороны на панели по искусственному интеллекту, развернувшейся вокруг вопросов конкуренции великих держав, Котт представил этот термин вместе с новой концепцией полностью автономного маневрирования.
«Полностью автономное маневрирование - амбициозная, еретическая терминология», - сказал Котт. «Полностью автономный - это больше, чем просто мобильность, речь идет о принятии решений».
Такая автономия кажется еретической относительно действующих канонов, поэтому не удивительно, что вопрос разрешения или ограничения убийства автономными системами вооружения обсуждался на недавней конференции и международным сообществом. На прошлой неделе в Женеве (Швейцария) состоялась последняя встреча Группы правительственных экспертов по боевому автономному оружию, которая 31 августа завершила формирование проекта рекомендаций.
Этот дипломатический процесс, возможно, станет потенциальным приговором международному праву по контролю или запрету развития оружия на основе ИИ, особенно машин выбирающих и атакующих цели без участия человека. Это принципиальное возражение, выдвинутое такими миротворческими группами, как «Кампания по запрету боевых роботов» (CSKR [2]) и странами, призывающими к упреждающему запрету на автономное оружие.
Котт понимает их озабоченность этической стороной вопроса, проводя параллели с моральными соображениями и компромиссами в развитии автономных автомобилей.
«Все знают об автономных автомобилях, все страхи, вопросы маневренности ... примите всё это, умножьте на порядок – вот так будут выглядеть проблемы маневренности на поле боя», - сказал Котт. «Маневрирующие интеллектуальные объекты на поле боя столкнуться с гораздо более неструктурированной, гораздо менее упорядоченной средой, чем та, где двигаются автомобили с автономным вождением. Это совершенно другой мир городских руин и покорёженных автомобилей, и множества опасностей, в создание которых мы вкладываем много сил».
 |
| Главный научный сотрудник исследовательской лаборатории армии США Доктор Александр Котт обсуждает автономию и искусственный интеллект на второй ежегодной конференции по вопросам обороны в Арлингтоне, штат Вирджиния, 5 сентября 2018 года. (Фото: Dustin Diaz ). |
| Источник: https://www.defensenews.com/ |
В панельном обсуждении помимо Котта участвовали вице-президент и генеральный менеджер Lockheed Martin Rotary and Mission Systems Джон Рамбо, Контр-адмирал Управления военно-морских исследований США Дэвид Хан и генерал-майор Исследовательской лаборатории ВВС Уильям Кули. Обсуждение на панели обошло все острые углы боевой автономии и вместо этого сосредоточилось на других уровнях автономии, которые будут разработаны в соответствии с собственными политическими установками министерства обороны США, предусматривающими человеческое вмешательство в контур управления.
«По мере разработки промышленностью ряда высокопроизводительных систем с поддержкой ИИ, наша задача развиваться в этих пограничных условиях с опережением», - сказал Рамбо. Вероятно, это будет непрерывный процесс, так как ИИ является непрерывно обновляющимся носителем, который вероятно, потребует регулярной переоценки направления его развития, чтобы вдруг не узнать, что он злонамеренно или неожиданно развивается сам по себе.
«Мы не знаем, последуют ли нашим принципам другие конкурирующие великие державы, - сказал Котт, - есть серьезные подозрения, что они могут этого не сделать, но мы выбрали свой курс».
Однако ИИ развивается независимо от жесткости контроля и регулирования или разрешения на более органичную обработку информации и свои собственные выводы без постоянных проверок. В будущем, наличие ИИ на поле боя, скорее всего, изменит принципы вооруженных конфликтов между странами, а возможно и отношение человека к войнам.
«Впервые в истории человечества, профессию военного на поле боя будущего будут представлять не только умные люди, но и умные и в значительной степени автономные сущности, которые больше не являются людьми», - сказал Котт. «Как мы будем приспосабливаться к появлению новых разумных существ в жизнь боя?»
Автор: Келси Атертон
Перевод: ВПК.Name
Примечание ВПК.Name
- ARL (Army Research Laboratory) - исследовательская лаборатория армии США
- CSKR (Campaign to Stop Killer Robots) - Кампания по запрету боевых роботов
