Специалисты объяснили Конгрессу и Пентагону, как нужно идти к первенству в ИИ
Президент РФ Владимир Путин 9 ноября, выступая на пленарном заседании проходившей в Москве двухдневной конференции по искусственному интеллекту (ИИ) Artificial Intelligence Journey, крупнейшего форума Восточной Европы, отметил, что "искусственный интеллект – ресурс колоссальной силы" и тот, "кто будет владеть им", "вырвется далеко вперед, приобретет огромные конкурентные преимущества".
"Не случайно говорят, что технологическая гонка, которая уже развернулась в мире, будет самой жесткой и бескомпромиссной в истории нашей цивилизации, а некоторые даже утверждают, что человечество создает свое последнее изобретение. Не знаю, так ли это: последнего, наверное, вообще никогда не бывает, но есть основания, видимо, думать и таким образом", – подчеркнул президент.
Запад, и прежде всего его заокеанский глава – Америка, тоже прекрасно осознают те преимущества, особенно в военной сфере, которые может дать лидерство в области технологий ИИ. Поэтому специалисты США постоянно занимаются изучением достижений различных стран в создании таких технологий и определяют место США в этом процессе.
Эксперты Комиссии национальной безопасности по искусственному интеллекту (National Security Commission on Artificial Intelligence – NSCAI, КНБИИ) 4 ноября представили Конгрессу и МО США промежуточный доклад по состоянию дел в области развития машинного интеллекта. Окончательный отчет по данному вопросу с подробным анализом и соответствующими рекомендациями указанные инстанции должны получить в будущем году.
ОЦЕНКИ СПЕЦИАЛИСТОВ
Как указывается в документе, в соответствии с законом "О национальной обороне" (NDAA) на 2019 финансовый год задачей КНБИИ является рассмотрение методов развития ИИ, машинного обучения и соответствующих технологий в обеспечение укрепления обороноспособности США и удовлетворения потребностей ВС США в новейших системах и средствах, необходимых для поддержания превосходства над вероятным противником. Конгресс обязал комиссию вести постоянный анализ направлений развития ИИ с целью обеспечения требуемого уровня конкурентоспособности на мировой арене, достижения технологического превосходства Америки, укрепления сотрудничества с союзниками и партнерами, определения объемов необходимых ассигнований для проведения фундаментальных и прикладных исследований и поисковых разработок, постоянного анализа потенциальных рисков использования ИИ в военной сфере и определения перспективных направлений работ в этой области.
Основываясь на анализе мнений специалистов по ИИ экспертного сообщества США и учитывая огромную важность стоящих проблем по внедрению такой техники в военную сферу и в другие области деятельности американского общества, авторы доклада сформулировали несколько принципов, на базе которых будет проводиться и оцениваться вся дальнейшая работа по развитию интеллектуальных машин. Главным приоритетом обеспечения национальной безопасности страны, по их мнению, является установление мирового лидерства Америки в области ИИ. При этом основную ответственность за управление развитием систем и средств ИИ и поддержание на требуемом уровне научно‑теоретической базы в этой области должны нести федеральные власти страны.
Поиск необходимых решений и внедрение ИИ в структуры обеспечения национальной безопасности самым ускоренным образом является важнейшим императивом. Другого подхода к темпам обеспечению безопасности населения, интересов США и формирования международных норм использования таких средств военной сфере, утверждают составители документа, на сегодняшний день просто не существует.
Ведущие представители частного сектора в области ИИ и руководители соответствующих государственных ведомств должны принимать все необходимые меры для формирования у подчиненных сознания полной профессиональной ответственности за обеспечение благосостояния и безопасности своих сограждан. Для достижения поставленных задач и максимального снижения угроз национальной безопасности, исходящих от систем ИИ, правительству США необходима всесторонняя поддержка со стороны академических кругов и экспертов промышленности, констатируют специалисты КНБИИ. Поэтому к деятельности в данной сфере необходимо готовить и привлекать наиболее одаренных представителей американского общества, а также специалистов из других стран.
Мероприятия, проводимые США в целях обеспечения сохранения лидерства в формах и методах использования ИИ для защиты от внешних угроз, должны основываться на ничем не ограниченном предоставлении информации, запрашиваемой частными и государственными лицами, на свободном предпринимательстве и широком обмене идеями в этой области знаний.
На настоящем этапе, отмечают авторы доклада, наблюдаются определенная общность взглядов и заинтересованность официальных лиц, занятых в сфере обеспечения национальной безопасности, и специалистов, разрабатывающих, производящих и внедряющих системы ИИ, на проблемы, существующие в этой области, и на насущную необходимость их быстрейшего разрешения. Все они хотят обеспечить Америку безопасными, совершенными и надежными интеллектуальными машинами. Но в то же время эксперты хорошо понимают ограниченность существующих технических возможностей, необходимых для решения этой задачи.
Аналитики комиссии отметили и тот факт, что определенные разногласия по вопросу развития ИИ существуют и будут существовать в перспективе. Однако определенная общность взглядов различных специалистов на эту проблему дают все основания полагать, что сформирована в некотором смысле единая платформа, на базе которой все заинтересованные стороны смогут в дальнейшем вести продуктивный диалог.
В промежуточном докладе указывается и на то, что Кремль и Поднебесная опережают Америку в области ИИ и используют эти технологии в военных целях и стремлении лишить США достигнутого превосходства. Эксперты отмечают, что Пекин широко пользуется средствами ИИ для проникновения в базы данных США и в частную жизнь американцев, а Россия "применяет его для разработки высокотехнологичных вооружений".
Председатель КНБИИ, бывший генеральный директор Google Эрик Шмидт и его заместитель Роберт Уорк выразили обеспокоенность тем фактом, что "роль Америки в качестве мирового лидера в сфере инноваций оказалась под угрозой".
Содержание промежуточного доклада экспертов КНБИИ свидетельствует о том, что на реализованном этапе своих изысканий они не стремились дать чиновникам Пентагона и законодателям какие‑то конкретные указания по достижению превосходства США и их ВС в области ИИ. Они просто попытались объяснить утратившими научные навыки или никогда не владевшим ими руководителям Америки ту научную основу, которая будет лежать в выводах и рекомендациях окончательного варианта их исследований, и дать общий абрис действий всех участников процесса создания технологий ИИ для обеспечения безопасности страны и утверждения главенства Вашингтона на мировой арене.
Совершенно очевидно и то, что в своих поисках наиболее эффективных направлений, форм и методов создания технологий ИИ специалисты комиссии довольно строго следовали стратегическим указаниям, сформулированным начальниками МО США.
ИНТЕЛЛЕКТУАЛЬНО‑МАШИННАЯ СТРАТЕГИЯ ПЕНТАГОНА
В начале февраля этого года военное ведомство Америки опубликовало "Краткое содержание Стратегии Министерства обороны по искусственному интеллекту на 2018 год".
Как отмечают специалисты, новая доктрина министерства среди прочего направлена на противодействие России и Китаю в этой сфере. В Пентагоне утверждают, что значительные инвестиции этих и некоторых других стран в создание систем ИИ для их использования в военных целях могут значительно ослабить существующие технологические и оперативные преимущества США, а также дестабилизировать свободный и открытый международный порядок.
Этот документ закладывает основы взаимодействия структур МО в процессе создания технологий ИИ военного назначения как с точки зрения конечного применения, так и с точки зрения решения организационных вопросов при их внедрении. По мнению специалистов Пентагона, технологии ИИ способны радикально изменить порядок подготовки и принятия решений в самых различных областях военной деятельности. Авторы Стратегии ИИ (СИИ) считают, что МО обязано включиться в гонку этого вида вооружений и определить для себя рамки использования новых технологий, так как их уже начали внедрять в России и Китае, в том числе в сферах, критичных с точки зрении этики.
Составители ССИ отмечают, что внедрение ИИ – это итеративный процесс освоения новых технологий, который выходит за рамки конкретных идей, изложенных в документе. Тем не менее в стратегии сформулирован ряд вполне конкретных указаний по использованию ИИ в МО США. Главными и ближайшими по времени реализации авторы этого фундаментального документа считают так называемые предсказательные способы обслуживания техники и логистику (predictive maintenance and supply), суть которых заключается в том, что при постоянном мониторинге состояния вооружений и военной техники (ВВТ) можно выявлять признаки их устаревания раньше, чем они станут фактически непригодны к дальнейшей эксплуатации, и более эффективно использовать ремонтные ресурсы. Это должно снизить операционные издержки и улучшить соотношение количества боеготовых сил к их общему числу, так называемый коэффициент оперативного напряжения.
В стратегии упоминается применение ИИ для повышения общей ситуационной осведомленности и распознавания возникающих и неочевидных для операторов опасностей во всех сферах их деятельности, начиная с киберпространства и заканчивая классическим полем боя. Эти опасности могут возникать как из‑за потенциальных неисправностей и дефектов ВВТ, так и из‑за действий противника. Улучшение осведомленности специалистов соответствующих служб должно, по задумке Пентагона, повысить качество оценки ситуации и улучшить точность действий военных. Начальники МО надеются таким образом также обеспечивать возможность предвидения критических ситуаций, повышение эффективности принимаемых решений и достижение необходимого уровня защищенности как военнослужащих, так и охраняемых ими объектов, например, критических элементов национальной и военной инфраструктуры.
Стратегия не обходит вниманием и то, что ее авторы называют поддержкой принятия решений. В переводе на общепонятные категории это означает формирование планов действий в той или иной ситуации с математической точностью и логикой. В случае эксплуатации техники это нахождение оптимальных форм обслуживания ВВТ и либо оценка действий и выдача рекомендаций операторам, либо полная автоматизация управления действиями личного состава ремонтных подразделений.
Относительно автоматизации как таковой авторы стратегии высказываются довольно осторожно и ограничиваются только самыми общими формулировками. Технологии, связанные с ИИ, должны автоматизировать "рутинный, ручной и неквалифицированный труд", чтобы обеспечить повышение производительности действий операторов, снизить вероятность их ошибок, определяемых человеческим фактором, и позволить им концентрироваться на решении более высокоуровневых задач. В совокупности все эти меры должны превратить Пентагон в крупного потребителя систем и средств ИИ и обеспечить повышение эффективности внутренних административных процессов в министерстве.
Для вышеупомянутой трансформации оборонное ведомство предлагает создать дополнительную структуру – Объединенный центр искусственного интеллекта (Joint Artificial Intelligence Center, ОЦИИ), задачей которого и будет осуществление интеграции технологий ИИ в повседневную деятельность военных. По замыслу Пентагона, ОЦИИ должен выполнять несколько функций.
Организационно центр должен координировать внедрение соответствующих технологий во всех сферах военной деятельности. Это значит, что он будет действовать как связующее звено между конечными потребителями систем ИИ и создающими их специалистами, обеспечивая незамедлительное внедрение новых разработок. Второй целью создания такого центра является устранение административных и процессуальных преград для использования одних и тех же наработок в разных видах войск.
Создание ОЦИИ является закономерным шагом на пути концентрации компетентных специалистов по ИИ в рамках единой структуры Пентагона, которая, с одной стороны, будет координировать внедрение разумных машин в ВС, а с другой – обеспечивать связи с союзниками и научно‑техническими центрами фундаментальных и прикладных исследований такими, например, как Управление перспективных военных исследований МО (DARPA) или лаборатории университетов.
Здесь важно отметить, что ОЦИИ задумывается прежде всего как исполнительная структура, основными целями которой являются разработка, оценка и – в случае успешных испытаний на поле боя – широкомасштабное внедрение прототипов создаваемых систем и средств ИИ. При этом коммуникативные навыки считаются крайне необходимыми для решения этих задач. В ответственность ОЦИИ будут входить стандартизация развития систем и средств ИИ, включая в том числе их разработки и применение.
Для быстрого набора необходимых административных навыков в области создания и применения ИИ Пентагон намерен опираться на сотрудничество с промышленностью, что должно обеспечить сокращение времени проведения тендерных процедур. Планируется также привлекать представителей академического сообщества и частных фирм, непосредственно не связанных с решением проблем военной направленности. Таким образом, руководители МО предполагают не только обеспечить выполнение стоящих перед ними задач, но и включить в этот процесс квалифицированных гражданских специалистов.
В документе в отдельном пункте говорится о взаимодействии с научным сообществом путем финансирования исследований как через традиционные каналы, такие как DARPA, так и через новые фонды, создающиеся для финансирования исследований в области ИИ. В этом смысле Пентагон интересуют не только новые процессуальные возможности, но и ответы на вопрос, как создать безопасный для военного применения ИИ, решения которого могут быть объяснены специалисту. В этом же контексте оборонное ведомство обязуется исследовать этические принципы использования ИИ и бороться за их международное принятие.
Показательно, что в мотивационной части составители СИИ подчеркивают необходимость включения в конкурентную борьбу за технологии ИИ тем, что вероятные противники уже разрабатывают и внедряют соответствующие технологии с далеко идущими геополитическими целями, противоречащими ценностям США и их союзников. Поэтому в документе многократно упоминаются вопросы этики и моральных ценностей.
Судя по всему, в Пентагоне сформировалось мнение, что для внедрения технологий ИИ не хватает ни необходимых финансовых ресурсов, ни организационных структур. Поэтому стратегия предусматривает, кроме собственно внедрения технологий, дополнительное активное финансирование, привлечение кадров из гражданского и научного секторов, а также создание специализированного внутреннего ведомства по ИИ, которое должно управлять внедрением технологий и в определенной мере преобразовать как процессы внедрения новой техники, так структуры МО, повышая их эффективность не только за счет введения технических инноваций, но и за счет применения современных форм и методов управления.
Владимир Иванов
Обозреватель "Независимого военного обозрения"
