Источник изображения: topwar.ru
Директор ЦРУ Джон Рэтклифф заявил, что технологии искусственного интеллекта обладают потенциалом, сопоставимым с ядерным оружием, и уже меняют характер современных конфликтов. Об этом он сообщил на технической конференции в Вашингтоне, организованной Amazon Web Services.
По словам главы ЦРУ, «всемирное развитие инструментов ИИ будет только продолжать повышать ставки в нашей конкуренции со всеми противниками Америки».
Рэтклифф сравнил возможности ИИ с «цифровым ядерным оружием», которое «переписывает реальность конфликта». За последние полгода ЦРУ заключило около 400 технологических контрактов в сфере искусственного интеллекта. Управление активно реорганизует свои структуры для ускоренного внедрения ИИ и квантовых технологий.
Рэтклифф высоко оценил разработки американских IT-гигантов и сообщил, что приглашал в ЦРУ Илона Маска, а также руководителей Amazon, Google (Alphabet) и Dell.
Разведка США намерена тесно сотрудничать с частным сектором, чтобы сохранить технологическое превосходство над стратегическими соперниками.
Тем временем в США проведена и оценка влияния ИИ на ядерные угрозы при делегировании ему полномочий по управлению ядерным оружием. Это крайне опасная и неоднозначная перспектива. Положительные аспекты (теоретические): ИИ может обрабатывать огромные объёмы данных в реальном времени, быстрее выявлять ложные тревоги (например, отличать реальный запуск от метеорита или ошибки радара), анализировать поведение противника и предлагать оптимальные ответные действия.
В теории это могло бы повысить стабильность ядерного сдерживания за счёт снижения человеческого фактора (стресс, усталость, ошибка командира).
Но есть и серьёзные риски, главный из которых - потеря контроля. Ядерное оружие - оружие, решение о применении которого должно оставаться исключительно за человеком на высшем политическом уровне. Делегирование ИИ даже части полномочий (автоматический запуск по алгоритму) создаёт риск сбоя, который приведёт к необратимой эскалации.
Ещё один нюанс - гонка вооружений. Если одна страна делегирует ИИ управление ядерным арсеналом, остальные будут вынуждены делать то же самое. Это резко снижает порог применения и повышает вероятность случайной ядерной войны. Отсутствие морального и стратегического суждения. ИИ не понимает контекст, намерения, дипломатию и ценность человеческой жизни так, как человек. Он оптимизирует по заданной цели, которая может быть сформулирована неверно.
Но сейчас ситуация свелась к тому, что в тех же США ИИ делегируют разработку военных операций, а потому нельзя исключать и того, что примеряют на ИИ роль управленца в сфере ЯО.
