СМИ узнали об идее создать полигон для тестирования ИИ-систем на безопасность
Для систем искусственного интеллекта (ИИ) высокого и критического уровня риска потребуется получать сертификат на соответствие требованиям безопасности Федеральной службы по техническому и экспертному контролю (ФСТЭК) и ФСБ. Об этом сообщает РБК со ссылкой на законопроект правительства "О применении систем искусственного интеллекта органами, входящими в единую систему публичной власти, и внесении изменений в отдельные законодательные акты".
Тестирование на соответствие ИИ-систем этим требованиям будет проходить на специальном полигоне, созданном Минцифры, рассказал источник РБК, знакомый с деталями инициативы, и подтвердил другой собеседник в IT-отрасли. Если тестирование пройдет успешно, системы будут допущены к использованию на объектах критической информационной инфраструктуры (к ней относятся сети связи и информационные системы госорганов, энергетических, транспортных, финансовых, телекоммуникационных и ряда других компаний). По словам еще одного собеседника, с предложением создать полигон для тестирования к министерству пришли игроки рынка информационной безопасности, но детали он обсуждать не стал.
Информационные технологии
ikt-35.ru
Новый законопроект вводит четыре уровня критичности ИИ-систем:
- минимальный, когда системы не оказывают существенного влияния на права и безопасность (например, рекомендательные системы);
- ограниченный, когда системы должны сообщать пользователям о том, что они работают с нейросетью;
- высокий, когда системы используются на объектах критической информационной инфраструктуры;
- критический, когда системы угрожают жизни или здоровью человека, безопасности государства, а также разработки, способные к принятию решений без вмешательства человека.
Определять уровень критичности той или иной системы будет новая структура – Национальный центр искусственного интеллекта в сфере госуправления при правительстве. Также центр будет вести реестр допущенных к критической информационной инфраструктуре систем. Требования для получения обязательного сертификата ФСБ и ФСТЭК для критических и ИИ-систем с высоким уровнем будут установлены позже отдельным документом, пояснил один из собеседников РБК. Одним из них станет присутствие ИИ-системы в реестре российского или евразийского софта.
Кроме того, законопроект вводит запрет на использование на критической информационной инфраструктуре ИИ-систем, права на которые принадлежат иностранным лицам. Такие меры, по мнению авторов документа, обеспечат технологический суверенитет и защитят от риска передачи ценных данных спецслужбам и разведке недружественных стран.
Представитель Минцифры на вопрос о полигоне для тестирования ИИ ответил лишь, что "в настоящее время министерство не разрабатывает законопроект", связанный с подобным полигоном, отказавшись от дальнейших комментариев.
По оценке аналитической компании Smart Ranking, в 2025 году объем рынка ИИ в России вырос на 25–30% и составил 1,9 трлн рублей. При этом 95% выручки от монетизации ИИ пришлось на топ-5 компаний: "Яндекс" (500 млрд рублей), "Сбер" (400 млрд), "Т-Технологии" (350 млрд), VK (119 млрд) и "Лабораторию Касперского" (более 49 млрд).
