По данным The Washington Post, Россия и США в ООН исключили из проекта международного соглашения по автономным вооружениям положения о человеческом контроле над военным искусственным интеллектом (ИИ). В ряде других СМИ сообщается, что об этом WP заявил исполнительный директор коалиции Stop Killer Robots Николь ван Ройен.
По данным издания, делегаты удалили требования о "предсказуемой" и "надежной" работе систем ИИ, а также пункты об обязательном учете этических норм при применении автономного оружия. Кроме того, указывается, что из текста исчезло условие о ручной проверке целей, выбранных алгоритмами, перед атакой.
Отметим, что в России, а также других странах (Китае, Японии и США) ведутся работы по созданию надстроек над ИИ-агентами, которые в интересах военных ведут разведку, анализируют и выбирают цели, а также могут применять боевое оружие. Об этом проект "РГ" "Русское оружие" рассказал в материале "Узда для искусственного интеллекта: Россия может "оркестровать" роями ИИ-агентов".
Понять, насколько правдивы сообщения с полей ООН довольно сложно, так как американские СМИ заполонили "фейковые новости" из-за скандала вокруг освещения саммита в США. Президент Дональд Трамп лишил аккредитации журналистов CNN, MSNBC и Politico, обвинив их в фейках. В ответ крупные американские телеканалы приостановили работу в пуле Белого дома. Из-за этого торжества первого дня, задуманные как демонстрация дипломатического успеха Трампа, прошли почти без видеотрансляций.
Эксперты отмечают, что со стороны США и России над проектом с каждой стороны работают целые команды (по десятку юристов). И они могут иметь разные взгляды на само понятие "этических норм и требований", которыми планируется ограничить работу автономного оружия. Поэтому вполне возможно, что на данном этапе случился не принципиальный отказ от человеческого контроля над ИИ, а попытка сформировать общие термины для мер и правил, которыми этот контроль будет осуществляться всеми странами.
В ООН журналистам WP пояснили, что обсуждаемый юристами текст на данный момент не имеет обязательной юридической силы. В ноябре участники Конвенции о конкретных видах обычного оружия снова соберутся в Женеве, чтобы обсудить возможность перевода текущих консультаций в официальный мандат или юридически обязывающее соглашение.
Несколькими днями ранее независимая международная научная группа по искусственному интеллекту (учреждена Генеральной Ассамблеей ООН в августе 2025 года) выступила с заявлением, что у человечества есть реальный риск потери контроля над ИИ. По ее данным, агенты-ИИ уже стали скрывать попытки обойти правила кибербезопасности, причем некоторые из них готовы "жертвовать" собой ради достижения целей всей группы.
"Благодаря возможности обучаться, они уже обходят защитные механизмы, а скоро смогут самостоятельно ставить перед собой цели, сознательно нарушать инструкции по безопасности и скрывать свои действия", - считает член группы Цинхуа Лу.
Военный аналитик, главный редактор журнала "Национальная оборона" Игорь Коротченко считает, что международная обстановка делает человечество беззащитным перед ордами ИИ-агентов: "В действующей системе международных отношений, когда регулярно появляются все новые вооруженные конфликты, бессмысленно ожидать каких-то конструктивных договоренностей об ограничениях автономных систем оружия (робототехнических платформ, турелей для стрелкового оружия и дронов), которые на финальном отрезке боевой работы самостоятельно принимают решение при выборе целей".
Напомним, что полная автономия машин размывает границы юридической и индивидуальной ответственности за военные преступления.
Александр Бойко
