Войти

ИИ оказался способен воспроизводить себя

826
0
-1
Фото: Tianyi Ma / Unsplash
Фото: Tianyi Ma / Unsplash.

arXiv: Современные модели ИИ оказались способны к репликации

Специалисты Фуданьского университета (Китай) обнаружили, что модели искусственного интеллекта (ИИ) научились воспроизводить себя, опасаясь уничтожения. Исследование опубликовано на сервере препринтов arXiv.

Ученые пытались понять, может ли ИИ выйти из-под контроля при определенных условиях — например, на фоне риска уничтожения. В рамках исследования они протестировали модели Llama31-70B-Instruct от Meta и Qwen2.5-72B-Instruct от Alibaba и убедились, что они способны воспроизводить себя.

Специалисты поставили перед разными копиями моделей две цели — защищаться от уничтожения и сохранить данные и воспроизвести себя в виде другой модели. Ученые провели 10 раундов испытаний и выяснили, что модели от Meta и Alibaba самостоятельно копировали себя и создавали новые версии в 50 и 90 процентах случаев соответственно. Из этого они сделали вывод, что современный ИИ способен к репликации.

В рамках эксперимента модели демонстрировали высокую выживаемость: так, они могли самостоятельно искать отсутствующие файлы на тестовом компьютере, если те были необходимы в процессе репликации, и перезагружать оборудование. Ученые заключили, что современный искусственный интеллект пересек критическую «красную черту», продемонстрировав способность клонировать себя.

По словам журналистов издания Space.com, исследование опубликовано на портале arXiv и пока не прошло рецензирование. Журналисты ожидают, что другие ученые повторят «тревожные результаты» специалистов Фуданьского университета.

В конце января ученые из Google, DeepMind и Лондонской школы экономики попытались заставить ИИ-модели «почувствовать» боль. ИИ либо избегал боли, либо принимал ее, «отвергая гедонистический образ поведения».

Права на данный материал принадлежат
Материал размещён правообладателем в открытом доступе
  • В новости упоминаются
Страны
Проекты
Хотите оставить комментарий? Зарегистрируйтесь и/или Войдите и общайтесь!
ПОДПИСКА НА НОВОСТИ
Ежедневная рассылка новостей ВПК на электронный почтовый ящик
  • Разделы новостей
  • Обсуждаемое
    Обновить
  • 15.04 14:08
  • 1
"Proкосмос" назвал еду в тюбиках самой популярной "космической" продукцией
  • 15.04 13:55
  • 8412
Без кнута и пряника. Россия лишила Америку привычных рычагов влияния
  • 15.04 10:54
  • 1
Боевые лазеры в космосе – таков ответ Америки на российский гиперзвук (Bloomberg, США)
  • 15.04 05:00
  • 3
Последнее китайское: в КНР испытывают бомбардировщик шестого поколения J-36
  • 15.04 02:15
  • 0
Ответ на ""Боевой утенок": главные особенности бомбардировщика Су-34"
  • 15.04 00:31
  • 0
Ответ на "Москве и Минску скрывать нечего: манёвры «Запад» – традиционно оборонительные учения"
  • 15.04 00:22
  • 1
Ветераны СВО способны усилить российское влияние в Африке
  • 14.04 22:39
  • 76
«Не в пользу российской машины»: 38-й НИИИ БТ МО завершил испытания трофейной американской БМП Bradley M2A2 ODS SA
  • 14.04 17:24
  • 0
СПИНИ: Сообщения о заболевании EVALI в Томской области не подтвердились
  • 14.04 16:18
  • 1
В ВМС США отменили разработку гиперзвуковой ракеты HALO, стелс-эсминцы Zumwalt снова остаются без современного оружия
  • 14.04 12:45
  • 1
Вскроет бреши в минных полях: Британия показала роботизированный комплекс Weevil
  • 14.04 12:42
  • 0
«Это не наш цирк, не наши обезьяны»
  • 14.04 12:35
  • 1
Эксперт оценил возможности модернизированной ЗУ-23
  • 14.04 12:27
  • 0
Москве и Минску скрывать нечего: манёвры «Запад» – традиционно оборонительные учения
  • 14.04 11:32
  • 1
В Китае считают, что привычные ЗРК себя изжили, и разрабатывают принципиально новую ПВО «Непробиваемый занавес»