Войти

В Microsoft назвали ИИ опасным

968
0
0
Фото: Shutterstock / Fotodom
Фото: Shutterstock / Fotodom.

Microsoft заметила, что распространение ИИ снижает безопасность, а не наоборот

Специалисты корпорации Microsoft оценили риски безопасности пользователей, связанные с искусственным интеллектом (ИИ). Исследование опубликовано на сервере препринтов arXiv.

Ученые проанализировали более 100 инструментов генеративного ИИ, оценив риски, которые с ними связаны. По их словам, ИИ «никогда не будет полностью безопасным», поэтому специалистам важно контролировать, на основе чего обучаются языковым модели (LLM), и предупреждать ошибки.

Специалисты пришли к выводу, что большие языковые модели (LLM) усиливают существующие риски безопасности и создают новые. Так, если обучать LLM на основе ошибочных или конфиденциальных данных, то модель будет распространять эту информацию среди пользователей. Также они назвали потенциальный вред от ИИ труднооценимым.

Чтобы повысить безопасность от использования ИИ, специалисты предложили контролировать каждый этап обучения LLM. В качестве одного из выводов исследования они отметили, что человеческий фактор в процессе обучения ИИ всегда будет решающим. Также в работе с искусственным интеллектом необходимы предметная экспертиза, культурная компетентность и эмоциональный интеллект.

В начале января швейцарские ученые связали частое использование инструментов ИИ со снижением навыков критического мышления. Они предсказали, что в долгосрочной перспективе ИИ будет неизбжено влиять на снижение когнитивных функций в обществе.

Права на данный материал принадлежат
Материал размещён правообладателем в открытом доступе
  • В новости упоминаются
Проекты
Хотите оставить комментарий? Зарегистрируйтесь и/или Войдите и общайтесь!
ПОДПИСКА НА НОВОСТИ
Ежедневная рассылка новостей ВПК на электронный почтовый ящик
  • Разделы новостей
  • Обсуждаемое
    Обновить
  • 21.10 11:15
  • 1
Индонезия намерена приобрести 42 китайских истребителя J-10
  • 21.10 09:41
  • 1
В России объяснили выбор Т-90 вместо «Арматы»
  • 21.10 09:39
  • 12
Военкор: Мы сделали ЯО не для того, чтоб солдаты клали жизни от коптеров
  • 21.10 09:33
  • 1
Ответ на "«Неприятные ощущения». Какие проблемы отметили у российской «Арматы», которую называли провалом и описывали словами Шекспира?"
  • 21.10 08:55
  • 10948
Без кнута и пряника. Россия лишила Америку привычных рычагов влияния
  • 21.10 04:33
  • 0
Комментарий к "Зеленский строит планы по закупке очень большого количества ЗРК Patriot"
  • 21.10 03:14
  • 0
Комментарий к "Россия произвела революцию: украинцы в шоке от модернизированных ракет (Daily Express, Великобритания)"
  • 20.10 23:46
  • 0
Комментарий на "Су-34 во всей красе: Россия начала крупнейшую в истории военной операции бомбардировку по украинским целям (Military Watch Magazine, США)"
  • 20.10 22:04
  • 0
Комментарий к "Армия США получит новый «Абрамс» до конца года"
  • 20.10 21:25
  • 3
Не знает пощады - САУ на базе "Спартака" будет косить врага из 57-мм пушки
  • 20.10 20:19
  • 0
Комментарий к "Сможет ли Россия сбивать американские крылатые ракеты "Томагавк"? (The National Interest, США)"
  • 20.10 18:10
  • 3
Ответ на "ЗРК С-350 "Витязь" является идеальным уничтожителем ракет "Томагавк""
  • 20.10 16:49
  • 3
Лавров выдвинул мощную идею — создать аналог НАТО в Азии. Что стоит за этой китайско-российской шахматной партией (Sohu, Китай)
  • 20.10 16:01
  • 1
Российские сенаторы ознакомились с производством МС-21 в Иркутске
  • 20.10 15:58
  • 1
Слуцкий призвал Европу прекратить разжигать украинский конфликт