Пентагон принял этические принципы для искусственного интеллекта
Министерство обороны Соединенных Штатов создало нормы этического использования искусственного интеллекта военными, что позволит им активнее работать на этом направлении. Успехи России и Китая в военной сфере и в развитии оборонных технологий воспринимаются американцами как вызов их превосходству, поэтому сейчас они делают ставку на высокие технологии.
Директор по информационным технологиям министерства обороны США Дана Дизи и директор Объединенного центра искусственного интеллекта генерал-лейтенант (Joint Artificial Intelligence Center, JAIC) Джон Шанахан объявили об официальном принятии пяти принципов этического использования искусственного интеллекта (ИИ).
Это «закладывает основы этического проектирования, разработки, развертывания и использования искусственного интеллекта министерством обороны США», заявила Дизи.
Генерал Шанахан сказал, что решение о принятии этих принципов отделяет Соединенные Штаты и их союзников от противников, которые намерены использовать достижения в сфере ИИ.
- цитирует слова Шанахана Defense News.
По его мнению,
Пять перечисленных ниже принципов применимы как к боевому, так и небоевому использованию технологий ИИ, сказала Дана Дизи.
Ответственность. Персонал министерства обороны США будет проявлять надлежащий уровень здравомыслия и безопасности, оставаясь ответственным за разработку, развертывание и использование возможностей ИИ.
Беспристрастность. Отдел предпримет преднамеренные шаги, чтобы минимизировать непреднамеренное смещение возможностей ИИ.
Доступность для анализа. Возможности военного ведомства США по ИИ будут разрабатываться и развертываться таким образом, чтобы сотрудники имели надлежащее понимание технологий, процессов разработки и методов работы, применимых к ИИ.
Управляемость. Минобороны США будет проектировать и разрабатывать возможности ИИ для выполнения их намеченных функций, обладая способностью обнаруживать и избегать непреднамеренных последствий, а также способностью отключать или деактивировать развернутые системы, которые демонстрируют непреднамеренное поведение.
Эти принципы следуют из рекомендаций, разработанных Советом по оборонным инновациям США и представленных министру обороны Марку Эсперу в октябре после 15-месячной работы, в течение которой Совет встречался с экспертами по искусственному интеллекту из промышленности, правительства и научных кругов.
Как известно, искусственный интеллект - это машинная система, способная обучаться и использовать объективные знания и опыт, решать творческие задачи наподобие человеческого мозга и изобретательские задачи без перебора вариантов, выстраивать стратегии и применять абстрактные концепции.
Такой ИИ еще только предстоит создать, но технологии в настоящее время развиваются очень быстро. Разработчиков мотивируют и крупные корпорации, для которых это способ обретения конкурентных преимуществ и новый источник прибылей, и государства, для которых развитие искусственного интеллекта является важным аспектом национальной безопасности и сохранения суверенитета.
К примеру, руководство КНР неоднократно заявляло, что Китай собирается к 2030 году стать мировым лидером в области технологий искусственного интеллекта и крупнейшим центром инноваций, поскольку Поднебесной для поддержания высоких темпов экономического роста необходимо научно-технологическое лидерство.
К таким инновациям в области обороны Пентагон относит искусственный интеллект, взаимодействие машин и военнослужащих, совершенствование беспилотных боевых машин, роботов и автономного оружия, технологии гиперзвука и направленной энергии, а также планирует расширить взаимодействие оборонной промышленности и коммерческого сектора экономики.
«Становится очевидным, что ведущие мировые державы будут стремиться активнее внедрять в оборонную сферу самые современные инновационные технологии, потому что любое техническое отставание от потенциальных противников увеличивает уязвимость, прикрыть которую обычными конвенциональными видами вооружений будет очень сложно», - пояснил «Газете.Ru» заместитель директора Центра анализа стратегий и технологий Константин Макиенко.
В ближайшие несколько лет все ведущие державы будут втянуты в гонку инновационных вооружений. Противники и конкуренты запомнили слова президента Путина, сказанные им 1 сентября 2017 года на открытом уроке в Ярославле:
«Искусственный интеллект качественно изменит армии и виды вооружений, как когда-то это происходило с изобретением пороха, появлением самолетов и танков, с созданием ядерного оружия. Предотвратить использование искусственного интеллекта в военных целях невозможно», - считает Макиенко.
Все организационные усилия, инвестиции и человеческий капитал в сфере искусственного интеллекта в Соединенных Штатах и Китае сконцентрированы в военных ведомствах. В Вашингтоне и Пекине считают, что вооруженные силы первыми должны овладеть этими перспективные технологиями. Именно в сфере вооруженной борьбы ИИ может дать наиболее быструю и самую эффективную отдачу, считают специалисты во всем мире.
До этого были утверждены еще два программных документа по развитию искусственного интеллекта: «Национальная стратегия развития искусственного интеллекта» и «Дорожная карта развития технологий искусственного интеллекта и нейросенсорики».
Что касается разработки правовых и этических норм взаимодействия ИИ с человеком, то на данном этапе эта работа в России пока не вышла за рамки дискуссий.
Михаил Ходаренок