Войти

В Microsoft назвали ИИ опасным

827
0
0
Фото: Shutterstock / Fotodom
Фото: Shutterstock / Fotodom.

Microsoft заметила, что распространение ИИ снижает безопасность, а не наоборот

Специалисты корпорации Microsoft оценили риски безопасности пользователей, связанные с искусственным интеллектом (ИИ). Исследование опубликовано на сервере препринтов arXiv.

Ученые проанализировали более 100 инструментов генеративного ИИ, оценив риски, которые с ними связаны. По их словам, ИИ «никогда не будет полностью безопасным», поэтому специалистам важно контролировать, на основе чего обучаются языковым модели (LLM), и предупреждать ошибки.

Специалисты пришли к выводу, что большие языковые модели (LLM) усиливают существующие риски безопасности и создают новые. Так, если обучать LLM на основе ошибочных или конфиденциальных данных, то модель будет распространять эту информацию среди пользователей. Также они назвали потенциальный вред от ИИ труднооценимым.

Чтобы повысить безопасность от использования ИИ, специалисты предложили контролировать каждый этап обучения LLM. В качестве одного из выводов исследования они отметили, что человеческий фактор в процессе обучения ИИ всегда будет решающим. Также в работе с искусственным интеллектом необходимы предметная экспертиза, культурная компетентность и эмоциональный интеллект.

В начале января швейцарские ученые связали частое использование инструментов ИИ со снижением навыков критического мышления. Они предсказали, что в долгосрочной перспективе ИИ будет неизбжено влиять на снижение когнитивных функций в обществе.

Права на данный материал принадлежат
Материал размещён правообладателем в открытом доступе
  • В новости упоминаются
Проекты
Хотите оставить комментарий? Зарегистрируйтесь и/или Войдите и общайтесь!
ПОДПИСКА НА НОВОСТИ
Ежедневная рассылка новостей ВПК на электронный почтовый ящик
  • Разделы новостей
  • Обсуждаемое
    Обновить
  • 29.03 12:00
  • 8238
Без кнута и пряника. Россия лишила Америку привычных рычагов влияния
  • 29.03 11:38
  • 1463
Корпорация "Иркут" до конца 2018 года поставит ВКС РФ более 30 истребителей Су-30СМ
  • 29.03 06:04
  • 310
Главком ВМФ России: проработан вопрос о создании нового авианосца
  • 29.03 06:02
  • 24
Показана работа российского наземного дрона «Тарик» в зоне СВО
  • 29.03 04:00
  • 3
«Мировое разделение труда — вещь очень ненадежная»
  • 29.03 00:54
  • 1
Люди гибнут за металл: ЕС напомнил о своих претензиях на украинские редкоземы - Мнения ТАСС
  • 29.03 00:15
  • 0
По поводу "В «Ростехе» оценили способность «Панциря» сбивать Storm Shadow"
  • 29.03 00:00
  • 1
Эксперт Эйсмонт: китайский проект "электромагнитного космодрома" бесперспективен
  • 28.03 20:45
  • 1
Участники встречи "Рамштайн" 11 апреля обсудят увеличение военной помощи Киеву
  • 28.03 18:05
  • 3
В США разрабатывается двигатель для высокоточных 120-мм реактивных боеприпасов
  • 28.03 15:09
  • 0
Белорусской армии нужны новые комплексы контрбатарейной борьбы
  • 28.03 11:31
  • 1
Американское командование отмечает резкое снижение расхода топлива у новой боевой техники
  • 28.03 10:55
  • 1
В «Ростехе» оценили способность «Панциря» сбивать Storm Shadow
  • 28.03 10:32
  • 2
В России впервые показали прототип лазерного ружья против беспилотников
  • 28.03 09:23
  • 1
ФСБ: украинские спецслужбы под прикрытием американской консалтинговой компании RAND Corporation вербуют связанных с военной службой граждан РФ