Войти

В Microsoft назвали ИИ опасным

846
0
0
Фото: Shutterstock / Fotodom
Фото: Shutterstock / Fotodom.

Microsoft заметила, что распространение ИИ снижает безопасность, а не наоборот

Специалисты корпорации Microsoft оценили риски безопасности пользователей, связанные с искусственным интеллектом (ИИ). Исследование опубликовано на сервере препринтов arXiv.

Ученые проанализировали более 100 инструментов генеративного ИИ, оценив риски, которые с ними связаны. По их словам, ИИ «никогда не будет полностью безопасным», поэтому специалистам важно контролировать, на основе чего обучаются языковым модели (LLM), и предупреждать ошибки.

Специалисты пришли к выводу, что большие языковые модели (LLM) усиливают существующие риски безопасности и создают новые. Так, если обучать LLM на основе ошибочных или конфиденциальных данных, то модель будет распространять эту информацию среди пользователей. Также они назвали потенциальный вред от ИИ труднооценимым.

Чтобы повысить безопасность от использования ИИ, специалисты предложили контролировать каждый этап обучения LLM. В качестве одного из выводов исследования они отметили, что человеческий фактор в процессе обучения ИИ всегда будет решающим. Также в работе с искусственным интеллектом необходимы предметная экспертиза, культурная компетентность и эмоциональный интеллект.

В начале января швейцарские ученые связали частое использование инструментов ИИ со снижением навыков критического мышления. Они предсказали, что в долгосрочной перспективе ИИ будет неизбжено влиять на снижение когнитивных функций в обществе.

Права на данный материал принадлежат
Материал размещён правообладателем в открытом доступе
  • В новости упоминаются
Проекты
Хотите оставить комментарий? Зарегистрируйтесь и/или Войдите и общайтесь!
ПОДПИСКА НА НОВОСТИ
Ежедневная рассылка новостей ВПК на электронный почтовый ящик
  • Разделы новостей
  • Обсуждаемое
    Обновить
  • 19.04 05:22
  • 3
Военкор: без десантных операций мощного прорыва обороны ВСУ российской армией можно не ждать
  • 19.04 05:16
  • 8454
Без кнута и пряника. Россия лишила Америку привычных рычагов влияния
  • 19.04 02:48
  • 1
О Ту-22Мn, -95М, -160, Су-34, и ПАК ДА
  • 19.04 02:33
  • 1
19FortyFive: США могут забыть о F-47, поскольку Китай строит один истребитель-«невидимку» за другим
  • 19.04 01:05
  • 0
Ответ на "На Западе назвали украинские F-16 устаревшими"
  • 18.04 13:35
  • 2
Украинский БМПТ "Страж" на базе Т-64БВ оказался мертворожденным проектом
  • 18.04 04:20
  • 4
Ответ на "Российский бомбардировщик Ту-160М: самое неожиданное возвращение (19FortyFive, США)"
  • 17.04 06:53
  • 1
В НАСА заявили о готовности модулей станции Gateway
  • 17.04 06:33
  • 0
Ответ на "Будет ли военно-морской флот России сотрудничать с Китаем, чтобы бросить вызов гегемонии США на море? (Tencent, Китай)"
  • 17.04 02:04
  • 0
Ответ на " Названа новая задача Су-35С"
  • 17.04 01:58
  • 1
Будет ли военно-морской флот России сотрудничать с Китаем, чтобы бросить вызов гегемонии США на море? (Tencent, Китай)
  • 16.04 15:59
  • 1
Последний из могикан и летающие "китайцы": чем разочаровывают самолеты США 6-го поколения
  • 16.04 15:54
  • 1
Названа способная повлиять на ход СВО российская разработка
  • 16.04 15:43
  • 1
Управляемый из Москвы FPV-дрон «Овод» поразил объект ВСУ в ДНР
  • 16.04 13:54
  • 1474
Корпорация "Иркут" до конца 2018 года поставит ВКС РФ более 30 истребителей Су-30СМ