Советник министра обороны РФ Андрей Ильницкий отметил, что как бы ни был силен ИИ, "конечное решение должно оставаться за человеком"
КУБИНКА (Московская область). 22 августа. /ТАСС/. Проекты, подразумевающие использование технологии искусственного интеллекта, требуют обязательной экспертизы профильных силовых структур, заявил советник министра обороны РФ Андрей Ильницкий в воскресенье на конференции в рамках Международного военно-технического форума "Армия-2021".
"Необходима строгая и безусловная государственная экспертиза проектов, подразумевающих использование технологий ИИ. Такую экспертизу на межведомственном уровне (Совбез РФ) следует поручить компетентным силовым органам РФ", - сказал Ильницкий. Он отметил, что недостаточные компетенции, объективная неготовность "принимающих решения" к внедрению систем с элементами ИИ - "это серьезная управленческая угроза". "Кто будет принимать решения - человек, наделенный ответственностью, или безответственная машина - вот в чем вопрос", - подчеркнул Ильницкий.
По его словам, как бы ни был силен ИИ, "конечное решение должно оставаться за человеком". "Но это в теории, - продолжил Ильницкий. - А на практике возникает опасность того, что при принятии решений рекомендации технических специалистов, отвечающих за разработку и функционирование ИИ в конкретных государственных силовых, гражданских, а также бизнес структурах, не будут должным образом верифицироваться теми, кто принимает решения в силу отсутствия у них соответствующих знаний, образования и компетенций".
Говоря об очевидных рисках использования ИИ в информационной сфере, он отметил, что "технологические и социальные ресурсы влияния на людей огромны, а в области обороны и безопасности особенно". "Искусственный интеллект уже способен создавать фейковые новости, формировать искусственную реальность в режиме онлайн, взламывать аккаунты соцсетей и распространять там специальную информацию для того, чтобы влиять на сознание граждан, заставляя политиков принимать нужные заказчикам инфо-атак решения, продуцируя риски реальных конфликтов между странами", - отметил Ильницкий.
В конференции, которую организовало военное ведомство совместно со Сколковским институтом науки и технологий, принимают участие начальник управления президента РФ по развитию информационно-коммуникационных технологий и инфраструктуры связи Татьяна Матвеева, гендиректор группы компаний Info Watch Наталья Касперская, научный руководитель ИПМ им. Келдыша Борис Четверушкин, президент МФТИ Николай Кудрявцев, представители компании "Яндекс", другие эксперты.