Войти

Европейцы отказали искусственному интеллекту в праве убивать людей

1288
0
0
HAL 9000
HAL 9000.
Источник изображения: 2001: A Space Odyssey / Metro-Goldwyn-Mayer, Stanley Kubrick Productions

Искусственный интеллект не должен самостоятельно принимать решение о применении оружия, а использование автономных боевых систем в вооруженных конфликтах следует запретить на международном уровне. Об этом, как пишет Jane’s, говорится в новом докладе Комитета по юридическим вопросам Европейского парламента.

Активные разработки в области создания систем искусственного интеллекта привели к тому, что разработчики начинают постепенно внедрять такие системы в вооружения и военную технику.

В частности, разрабатываются системы, позволяющие беспилотникам автоматически обнаруживать и приоритезировать цели, или дронам выполнять роль ведомых для пилотируемых летательных аппаратов.

Ведутся и разработки систем искусственного интеллекта, способных расшифровывать радиопередачи. В будущих военных разработках искусственный интеллект будет иметь все большее значение.

Активное внедрение систем искусственного интеллекта в вооружение и военную технику вызывает множество вопросов этического характера. В частности, не ясно, насколько правомерно применять в войне автономные системы вооружения и какую угрозу они представляют для мирного населения.

По оценке Комитета по юридическим вопросам Европарламента, автономные системы вооружения можно использовать в вооруженных конфликтах только в том случае, если решение об открытии огня принимает человек.

«Автономные боевые системы следует использовать в качестве крайней меры, и этот шаг можно признать законным, только если ими управляет человек, поскольку именно человек должен делать выбор между жизнью и смертью», — говорится в докладе комиссии.

Человек всегда должен иметь возможность внести корректировки в действия автономных боевых систем, остановить их работу или вовсе деактивировать такие системы в случае непредвиденных обстоятельств.

При этом должны соблюдаться условия, при которых, в случае необходимости, можно будет точно идентифицировать человека, управлявшего автономными боевыми системами. Это необходимо, например, на случай поиска виновных в незаконном применении оружия.

В начале 2020 года американское министерство обороны сформулировало пять этических принципов использования систем искусственного интеллекта в военных целях:

  • Ответственность. Военный персонал должен с надлежащим вниманием оценивать действия искусственного интеллекта, оставаясь полностью ответственным за разработку, развертывание и использование систем искусственного интеллекта;
  • Беспристрастность. Министерство обороны США должно предпринимать шаги для минимизации нежелательных отклонений в возможностях систем искусственного интеллекта;
  • Прослеживаемость. Военные системы искусственного интеллекта и их возможности должны разрабатываться и развертываться таким образом, чтобы персонал имел должный уровень понимания технологии, процессов разработки и методов применения. Для военного персонала должны быть доступны методологии, данные и документация, относящиеся к используемым системам искусственного интеллекта;
  • Надежность. Возможности военных систем искусственного интеллекта должны быть однозначными, четко сформулированными. Безопасность и эффективность таких возможностей должны проверяться испытаниями и подтверждаться на протяжении всего срока службы;
  • Подчинение. Военные системы искусственного интеллекта должны полностью исполнять предназначенные для них задачи, но военные должны иметь возможность обнаруживать и предотвращать нежелательные последствия использования искусственного интеллекта. Военные также должны иметь возможность выводить из боя или выключать системы искусственного интеллекта, у которых были замечены отклонения в работе.

Незадолго до обнародования этический принципов использования систем искусственного интеллекта начальник Объединенного центра искусственного интеллекта США генерал-лейтенант Джек Шэнэхэн заявил, что военные не станут оснащать системами искусственного интеллекта центры управления стратегическим вооружением. По его словам, за запуски баллистических ракет всегда будут отвечать люди, потому что решение о применении оружия массового поражения должно быть прерогативой исключительно человека.

Василий Сычёв

Права на данный материал принадлежат
Материал размещён правообладателем в открытом доступе
  • В новости упоминаются
Хотите оставить комментарий? Зарегистрируйтесь и/или Войдите и общайтесь!
ПОДПИСКА НА НОВОСТИ
Ежедневная рассылка новостей ВПК на электронный почтовый ящик
  • Разделы новостей
  • Обсуждаемое
    Обновить
  • 10.07 19:00
  • 9
Российскую лазерную систему ПВО применят против украинского «Лютого»
  • 10.07 17:49
  • 36
МС-21 готовится к первому полету
  • 10.07 17:48
  • 103
Обзор программы создания Ил-114-300
  • 10.07 17:42
  • 57
Гендиректор ОАК Слюсарь: испытания SSJ New с российскими двигателями начнутся осенью - Интервью ТАСС
  • 10.07 17:36
  • 9594
Без кнута и пряника. Россия лишила Америку привычных рычагов влияния
  • 10.07 17:15
  • 0
Миграционный конфликт: предвестник провокации
  • 10.07 15:55
  • 5
ISW: Россия массово закупит мотоциклы для наступательных операций
  • 10.07 15:26
  • 1
БДК «Сергей Кабанов» и другие корабли проекта 11711 могут получить средства защиты от беспилотников
  • 10.07 14:53
  • 1
«Первый в мире маловысотный беспилотник»: Турция показала испытания дрона-камикадзе Talay для ударов по морским и береговым целям
  • 09.07 16:12
  • 0
Россия против Украины: дипломатия исчерпана
  • 09.07 16:01
  • 0
«Железный защитник» или прощальный марш
  • 09.07 09:51
  • 2
Российский тяжелый беспилотник упал на дом в Казани. Пятитонный дрон «Альтиус» разрабатывают уже 14 лет
  • 09.07 09:49
  • 2
Зеленоградский завод вложил 118 млрд в 130-нм производство чипов
  • 08.07 18:12
  • 12
Путин и отношения с Азербайджаном: фокус на Южном Кавказе (Al Mayadeen, Ливан)
  • 08.07 11:54
  • 0
Как изменится опыт игры в VR/AR-пространствах?