Войти

Угрозу ИИ для человечества оценили

1136
0
0
Фото: Stock-Asso / Shutterstock / Fotodom
Фото: Stock-Asso / Shutterstock / Fotodom.

arXiv: ИИ не сможет представлять угрозы, так как он подконтролен человеку

Международный коллектив ученых оценил вероятность того, что искусственный интеллект (ИИ) может в будущем стать опасным для человечества. Результаты исследования опубликованы на сервере препринтов arXiv.

По словам ученых Университета Бата (Великобритания) и Технического университета Дармштадта (Германия), большие языковые модели (LLM) показали, что способны самообучаться и осваивать новые навыки. Однако они все равно остаются предсказуемыми, и их достаточно просто контролировать.

В ходе исследования под руководством профессора Ирины Гуревич LLM заставили выполнять незнакомые им действия. Оказалось, что ИИ наиболее эффективны, когда выполняют задачи на основе предоставленных примеров. По словам Гуревич, модели следуют инструкциям и четко выполняют указания, однако они не способны отклоняться от основного плана. В этой связи специалисты заявили, что вероятность выхода ИИ из под контроля является низкой.

Несмотря на отсутствие экзистенциальной угрозы, ученые признали, что ИИ можно использовать в преступных целях — например, для создания фейков или содействии мошенничеству. Специалисты подчеркнули, что языковые модели должны иметь конкретные примеры и четкие инструкции.

В мае ученые назвали искусственный интеллект (ИИ) возможной угрозой для разумной жизни во Вселенной. По их мнению, быстрое развитие технологий ИИ может совпасть со временем перехода цивилизации от однопланетного существования к многопланетному.

Права на данный материал принадлежат
Материал размещён правообладателем в открытом доступе
  • В новости упоминаются
Хотите оставить комментарий? Зарегистрируйтесь и/или Войдите и общайтесь!
ПОДПИСКА НА НОВОСТИ
Ежедневная рассылка новостей ВПК на электронный почтовый ящик
  • Разделы новостей
  • Обсуждаемое
    Обновить
  • 21.10 11:15
  • 1
Индонезия намерена приобрести 42 китайских истребителя J-10
  • 21.10 09:41
  • 1
В России объяснили выбор Т-90 вместо «Арматы»
  • 21.10 09:39
  • 12
Военкор: Мы сделали ЯО не для того, чтоб солдаты клали жизни от коптеров
  • 21.10 09:33
  • 1
Ответ на "«Неприятные ощущения». Какие проблемы отметили у российской «Арматы», которую называли провалом и описывали словами Шекспира?"
  • 21.10 08:55
  • 10948
Без кнута и пряника. Россия лишила Америку привычных рычагов влияния
  • 21.10 04:33
  • 0
Комментарий к "Зеленский строит планы по закупке очень большого количества ЗРК Patriot"
  • 21.10 03:14
  • 0
Комментарий к "Россия произвела революцию: украинцы в шоке от модернизированных ракет (Daily Express, Великобритания)"
  • 20.10 23:46
  • 0
Комментарий на "Су-34 во всей красе: Россия начала крупнейшую в истории военной операции бомбардировку по украинским целям (Military Watch Magazine, США)"
  • 20.10 22:04
  • 0
Комментарий к "Армия США получит новый «Абрамс» до конца года"
  • 20.10 21:25
  • 3
Не знает пощады - САУ на базе "Спартака" будет косить врага из 57-мм пушки
  • 20.10 20:19
  • 0
Комментарий к "Сможет ли Россия сбивать американские крылатые ракеты "Томагавк"? (The National Interest, США)"
  • 20.10 18:10
  • 3
Ответ на "ЗРК С-350 "Витязь" является идеальным уничтожителем ракет "Томагавк""
  • 20.10 16:49
  • 3
Лавров выдвинул мощную идею — создать аналог НАТО в Азии. Что стоит за этой китайско-российской шахматной партией (Sohu, Китай)
  • 20.10 16:01
  • 1
Российские сенаторы ознакомились с производством МС-21 в Иркутске
  • 20.10 15:58
  • 1
Слуцкий призвал Европу прекратить разжигать украинский конфликт