Войти

В Microsoft назвали ИИ опасным

902
0
0
Фото: Shutterstock / Fotodom
Фото: Shutterstock / Fotodom.

Microsoft заметила, что распространение ИИ снижает безопасность, а не наоборот

Специалисты корпорации Microsoft оценили риски безопасности пользователей, связанные с искусственным интеллектом (ИИ). Исследование опубликовано на сервере препринтов arXiv.

Ученые проанализировали более 100 инструментов генеративного ИИ, оценив риски, которые с ними связаны. По их словам, ИИ «никогда не будет полностью безопасным», поэтому специалистам важно контролировать, на основе чего обучаются языковым модели (LLM), и предупреждать ошибки.

Специалисты пришли к выводу, что большие языковые модели (LLM) усиливают существующие риски безопасности и создают новые. Так, если обучать LLM на основе ошибочных или конфиденциальных данных, то модель будет распространять эту информацию среди пользователей. Также они назвали потенциальный вред от ИИ труднооценимым.

Чтобы повысить безопасность от использования ИИ, специалисты предложили контролировать каждый этап обучения LLM. В качестве одного из выводов исследования они отметили, что человеческий фактор в процессе обучения ИИ всегда будет решающим. Также в работе с искусственным интеллектом необходимы предметная экспертиза, культурная компетентность и эмоциональный интеллект.

В начале января швейцарские ученые связали частое использование инструментов ИИ со снижением навыков критического мышления. Они предсказали, что в долгосрочной перспективе ИИ будет неизбжено влиять на снижение когнитивных функций в обществе.

Права на данный материал принадлежат
Материал размещён правообладателем в открытом доступе
  • В новости упоминаются
Проекты
Хотите оставить комментарий? Зарегистрируйтесь и/или Войдите и общайтесь!
ПОДПИСКА НА НОВОСТИ
Ежедневная рассылка новостей ВПК на электронный почтовый ящик
  • Разделы новостей
  • Обсуждаемое
    Обновить
  • 04.07 05:14
  • 9549
Без кнута и пряника. Россия лишила Америку привычных рычагов влияния
  • 04.07 04:16
  • 2
Эксперт Кузякин: Украина использует маркетинг для вербовки граждан России
  • 04.07 03:47
  • 1
Готова ли Европа к войне? (Financial Times, Великобритания)
  • 04.07 03:20
  • 1
Ростех запускает свой токен RUBx
  • 04.07 02:45
  • 1
Миронов предложил создать морские ЧВК для охраны торгового флота
  • 04.07 02:40
  • 0
Ответ на "«Полный провал конкурента С-400»: в индийской прессе раскритиковали дебют китайского ЗРК HQ-9B на поле боя"
  • 03.07 22:31
  • 2
В добавление к "Интеллектуальные способности высших военных командиров"
  • 03.07 18:39
  • 458
Израиль усиливает меры безопасности в связи с опасениями ударов со стороны Ирана
  • 03.07 17:40
  • 1100
Израиль "готовился не к той войне" — и оказался уязвим перед ХАМАС
  • 03.07 14:31
  • 6
«Возможен заказ на сотни машин»: на Украине проходят испытания словацкого противодронового бронеавтомобиля Wolf 25 AD
  • 03.07 09:20
  • 2
В России заметили огневую точку с корабельной пушкой
  • 03.07 02:02
  • 1
Ответ на "Утечки раскрыли тайный британский план “потопить весь Черноморский флот” (The Grayzone, США)"
  • 03.07 01:45
  • 1
Россия выдвинула жесткий ультиматум Британии: "Откровенно враждебно!" (Daily Express, Великобритания)
  • 03.07 00:33
  • 1
В США оценили создающую проблемы для НАТО ракету России
  • 03.07 00:26
  • 1
Короткие с очередями: новые автоматы «Калашников» испытывают в зоне СВО