Аналитическая компания IDC, специализирующаяся на IT-индустрии, заявила о том, что сервисы генеративного искусственного интеллекта (ИИ) быстро превращаются в инструменты, которые кардинально меняют бизнес в организациях, однако обратить потенциал сервисов в измеряемую пользу по-прежнему является трудной задачей — об этом пишет во вторник cio.com.
IDC называет восемь основных проблем, препятствующих сегодня практическому использованию генеративного ИИ:
- обеспечение конфиденциальности данных и соблюдение юридических требований (решение: внедрение функциональных структур управления данными, принятие и обеспечение соблюдения законов о генеративном ИИ – в пример приводится GDPR);
- предвзятость и галлюцинации ИИ (решение: регулярный аудит и переобучение моделей на разнообразных и репрезентативных данных, внедрение инструментов для выявления предвзятости ИИ и устранения данной проблемы);
- высокая стоимость (решение: оптимизация моделей с точки зрения эффективности, использование облачных решений);
- трудная интеграция генеративного ИИ в существующую IT-инфраструктуру (решение: создание чёткого плана интеграции, инвестиции в промежуточные программные средства, обеспечение кросс-функционального взаимодействия);
- недостаточная универсальность генеративного ИИ (решение: проведение тщательных тестов на адекватность ИИ-систем их предназначению, использование модульных архитектур для более лёгкого масштабирования);
- отсутствие чётких примеров использования (решение: задействовать заинтересованных лиц в определении сфер применения, где ИИ может повысить отдачу);
- доверие и надзор (решение: использование объяснимого ИИ (XAI) и ведение чёткой документации процессов принятия решений посредством ИИ-системы);
- связанные с интеллектуальной собственностью риски (решение: внедрение жёсткой политики относительно источников используемых материалов, применение ИИ-инструментов, способных верифицировать оригинальность сгенерированного контента).
