Войти

ИИ оказался способен воспроизводить себя

930
0
-1
Фото: Tianyi Ma / Unsplash
Фото: Tianyi Ma / Unsplash.

arXiv: Современные модели ИИ оказались способны к репликации

Специалисты Фуданьского университета (Китай) обнаружили, что модели искусственного интеллекта (ИИ) научились воспроизводить себя, опасаясь уничтожения. Исследование опубликовано на сервере препринтов arXiv.

Ученые пытались понять, может ли ИИ выйти из-под контроля при определенных условиях — например, на фоне риска уничтожения. В рамках исследования они протестировали модели Llama31-70B-Instruct от Meta и Qwen2.5-72B-Instruct от Alibaba и убедились, что они способны воспроизводить себя.

Специалисты поставили перед разными копиями моделей две цели — защищаться от уничтожения и сохранить данные и воспроизвести себя в виде другой модели. Ученые провели 10 раундов испытаний и выяснили, что модели от Meta и Alibaba самостоятельно копировали себя и создавали новые версии в 50 и 90 процентах случаев соответственно. Из этого они сделали вывод, что современный ИИ способен к репликации.

В рамках эксперимента модели демонстрировали высокую выживаемость: так, они могли самостоятельно искать отсутствующие файлы на тестовом компьютере, если те были необходимы в процессе репликации, и перезагружать оборудование. Ученые заключили, что современный искусственный интеллект пересек критическую «красную черту», продемонстрировав способность клонировать себя.

По словам журналистов издания Space.com, исследование опубликовано на портале arXiv и пока не прошло рецензирование. Журналисты ожидают, что другие ученые повторят «тревожные результаты» специалистов Фуданьского университета.

В конце января ученые из Google, DeepMind и Лондонской школы экономики попытались заставить ИИ-модели «почувствовать» боль. ИИ либо избегал боли, либо принимал ее, «отвергая гедонистический образ поведения».

Права на данный материал принадлежат
Материал размещён правообладателем в открытом доступе
  • В новости упоминаются
Страны
Проекты
Хотите оставить комментарий? Зарегистрируйтесь и/или Войдите и общайтесь!
ПОДПИСКА НА НОВОСТИ
Ежедневная рассылка новостей ВПК на электронный почтовый ящик
  • Разделы новостей
  • Обсуждаемое
    Обновить
  • 18.09 09:42
  • 10538
Без кнута и пряника. Россия лишила Америку привычных рычагов влияния
  • 17.09 18:08
  • 0
Ответ на "Быстрее, компактнее, мощнее: новая концепция эскадры от BAE Systems"
  • 17.09 11:43
  • 1
Быстрее, компактнее, мощнее: новая концепция эскадры от BAE Systems
  • 17.09 10:26
  • 2
«Росэл» начинает выпуск новой линейки отечественных серверов для ИИ
  • 17.09 04:50
  • 0
Ответ на "На Западе предупредили о превосходстве России в возможностях ПКР"
  • 17.09 04:05
  • 0
Ответ на "В Госдуме рассказали о готовности применить против Европы мощное оружие"
  • 17.09 02:05
  • 0
Ответ на "Стало известно о превосходстве алжирских Су-34 над российскими"
  • 17.09 00:40
  • 0
Вот интересная тема: поверим, что евроНАТО готовится к "отражению российской агрессии".
  • 16.09 22:55
  • 0
Ответ на "«Крупнейшая модернизация в истории»: Чехия подвела итоги подготовки к войне"
  • 16.09 17:49
  • 1
«Крупнейшая модернизация в истории»: Чехия подвела итоги подготовки к войне
  • 16.09 16:53
  • 40
Горечь от потерь России в Сирии навеяла мысли о Калмыкии
  • 16.09 07:11
  • 83
ChatGPT-4 и нейросети (ИИ) спешат на помощь ГШ ВС РФ и Российской армии
  • 16.09 03:01
  • 1
Зима на Украине не за горами: что нужно сделать, чтобы свет не погас (CNN, США)
  • 16.09 00:18
  • 0
Ответ на "В США напомнили о провале разрекламированного «Команча»"
  • 16.09 00:05
  • 1
Демонстрация с силой: какое оружие показали на выставке DSEI-2025