В дальнейшем команда планирует продолжить тестирование новых поколений ускорителей
Институт искусственного интеллекта МФТИ провел исследование возможностей альтернативных GPU и создал Центр компетенций, который призван помочь бизнесу в построении инфраструктуры, независимой от решений Nvidia при работе с искусственным интеллектом.
В МФТИ рассказали:
Учёные провели комплексное исследование рынка альтернативных ускорителей, включая продукцию китайских производителей Moore Threads и MetaX. Они оценили архитектурные особенности оборудования, драйверы, совместимость с фреймворками и поведение под нагрузкой. Тестирование проводилось на задачах запуска больших языковых моделей, компьютерного зрения, инференса и распределенных вычислений.
Исследование показало, что альтернативные карты S4000 от Moore Threads и C500 от MetaX могут применяться в широком спектре сценариев без потери функциональности. Тесты продемонстрировали стабильный запуск популярных языковых моделей, корректную работу современных фреймворков и предсказуемую производительность. В отдельных типах вычислений показатели альтернативных карт достигли или превзошли результаты Nvidia A100. Оборудование также продемонстрировало устойчивость при длительных нагрузках.
В дальнейшем команда планирует продолжить тестирование новых поколений ускорителей, расширить перечень поддерживаемых моделей и подготовить отраслевые рекомендации для создания автономной ИИ-инфраструктуры.
