Войти

ИИ оказался способен воспроизводить себя

906
0
-1
Фото: Tianyi Ma / Unsplash
Фото: Tianyi Ma / Unsplash.

arXiv: Современные модели ИИ оказались способны к репликации

Специалисты Фуданьского университета (Китай) обнаружили, что модели искусственного интеллекта (ИИ) научились воспроизводить себя, опасаясь уничтожения. Исследование опубликовано на сервере препринтов arXiv.

Ученые пытались понять, может ли ИИ выйти из-под контроля при определенных условиях — например, на фоне риска уничтожения. В рамках исследования они протестировали модели Llama31-70B-Instruct от Meta и Qwen2.5-72B-Instruct от Alibaba и убедились, что они способны воспроизводить себя.

Специалисты поставили перед разными копиями моделей две цели — защищаться от уничтожения и сохранить данные и воспроизвести себя в виде другой модели. Ученые провели 10 раундов испытаний и выяснили, что модели от Meta и Alibaba самостоятельно копировали себя и создавали новые версии в 50 и 90 процентах случаев соответственно. Из этого они сделали вывод, что современный ИИ способен к репликации.

В рамках эксперимента модели демонстрировали высокую выживаемость: так, они могли самостоятельно искать отсутствующие файлы на тестовом компьютере, если те были необходимы в процессе репликации, и перезагружать оборудование. Ученые заключили, что современный искусственный интеллект пересек критическую «красную черту», продемонстрировав способность клонировать себя.

По словам журналистов издания Space.com, исследование опубликовано на портале arXiv и пока не прошло рецензирование. Журналисты ожидают, что другие ученые повторят «тревожные результаты» специалистов Фуданьского университета.

В конце января ученые из Google, DeepMind и Лондонской школы экономики попытались заставить ИИ-модели «почувствовать» боль. ИИ либо избегал боли, либо принимал ее, «отвергая гедонистический образ поведения».

Права на данный материал принадлежат
Материал размещён правообладателем в открытом доступе
  • В новости упоминаются
Страны
Проекты
Хотите оставить комментарий? Зарегистрируйтесь и/или Войдите и общайтесь!
ПОДПИСКА НА НОВОСТИ
Ежедневная рассылка новостей ВПК на электронный почтовый ящик
  • Разделы новостей
  • Обсуждаемое
    Обновить
  • 07.09 20:16
  • 0
О необходимости для русских (точнее, россиян - как нации, а не как этносу) сделать выбор.
  • 07.09 20:08
  • 10433
Без кнута и пряника. Россия лишила Америку привычных рычагов влияния
  • 07.09 18:05
  • 0
О Путине, Ильине, и фашизме: "Иван Ильин. Любимый философ Путина и война", и не только.
  • 07.09 16:14
  • 1
Росавиация одобрила расширение возможностей двигателя для летных испытаний Ил-114 - ОДК
  • 07.09 13:06
  • 38
ChatGPT-4 и нейросети (ИИ) спешат на помощь ГШ ВС РФ и Российской армии
  • 06.09 20:06
  • 45
МС-21 готовится к первому полету
  • 06.09 16:27
  • 63
Гендиректор ОАК Слюсарь: испытания SSJ New с российскими двигателями начнутся осенью - Интервью ТАСС
  • 06.09 14:52
  • 171
Путин и отношения с Азербайджаном: фокус на Южном Кавказе (Al Mayadeen, Ливан)
  • 06.09 08:25
  • 1
Об опыте СВО применительно к тактической авиации и ПВО
  • 06.09 03:05
  • 0
Об опыте применительно к СВО
  • 05.09 21:23
  • 0
Об опыте СВО применительно к бронетехнике. В первую очередь - к танкам.
  • 05.09 06:47
  • 0
Комментарий к "На фоне взятого Китаем курса на новый миропорядок сравним военную мощь НАТО с силами Пекина, Москвы и Пхеньяна (Daily Mail, Великобритания)"
  • 05.09 01:43
  • 0
Комментарий к "В России восхитились созданной с учетом опыта СВО китайской «Арматой»"
  • 05.09 01:11
  • 0
Комментарий к "Генерал США пригрозил России, Китаю и КНДР «выламыванием дверей»"
  • 05.09 00:14
  • 0
Комментарий к "Эксперт Степанов: показанная в КНР МБР "Восточный ветер" стала маркером перемен"