Войти

ИИ оказался способен воспроизводить себя

799
0
-1
Фото: Tianyi Ma / Unsplash
Фото: Tianyi Ma / Unsplash.

arXiv: Современные модели ИИ оказались способны к репликации

Специалисты Фуданьского университета (Китай) обнаружили, что модели искусственного интеллекта (ИИ) научились воспроизводить себя, опасаясь уничтожения. Исследование опубликовано на сервере препринтов arXiv.

Ученые пытались понять, может ли ИИ выйти из-под контроля при определенных условиях — например, на фоне риска уничтожения. В рамках исследования они протестировали модели Llama31-70B-Instruct от Meta и Qwen2.5-72B-Instruct от Alibaba и убедились, что они способны воспроизводить себя.

Специалисты поставили перед разными копиями моделей две цели — защищаться от уничтожения и сохранить данные и воспроизвести себя в виде другой модели. Ученые провели 10 раундов испытаний и выяснили, что модели от Meta и Alibaba самостоятельно копировали себя и создавали новые версии в 50 и 90 процентах случаев соответственно. Из этого они сделали вывод, что современный ИИ способен к репликации.

В рамках эксперимента модели демонстрировали высокую выживаемость: так, они могли самостоятельно искать отсутствующие файлы на тестовом компьютере, если те были необходимы в процессе репликации, и перезагружать оборудование. Ученые заключили, что современный искусственный интеллект пересек критическую «красную черту», продемонстрировав способность клонировать себя.

По словам журналистов издания Space.com, исследование опубликовано на портале arXiv и пока не прошло рецензирование. Журналисты ожидают, что другие ученые повторят «тревожные результаты» специалистов Фуданьского университета.

В конце января ученые из Google, DeepMind и Лондонской школы экономики попытались заставить ИИ-модели «почувствовать» боль. ИИ либо избегал боли, либо принимал ее, «отвергая гедонистический образ поведения».

Права на данный материал принадлежат
Материал размещён правообладателем в открытом доступе
  • В новости упоминаются
Страны
Проекты
Хотите оставить комментарий? Зарегистрируйтесь и/или Войдите и общайтесь!
ПОДПИСКА НА НОВОСТИ
Ежедневная рассылка новостей ВПК на электронный почтовый ящик
  • Разделы новостей
  • Обсуждаемое
    Обновить
  • 25.03 07:23
  • 2
Ответ на "DE: Британия хочет независимости от США в применении ядерного оружия против РФ"
  • 25.03 06:41
  • 18
Показана работа российского наземного дрона «Тарик» в зоне СВО
  • 25.03 01:57
  • 2
Военкор: после поражения Киева в СВО на Украине может начаться гражданская война
  • 25.03 01:34
  • 1
Трамп может многое предложить России даже без сделки по Украине (The New York Times, США)
  • 24.03 21:35
  • 0
Ответ на "Украинский кошмар c ATACMS только начинается (The National Interest, США)"
  • 24.03 20:56
  • 8193
Без кнута и пряника. Россия лишила Америку привычных рычагов влияния
  • 24.03 16:26
  • 1
Иран получил российские высокоточные «Орсисы»
  • 24.03 15:13
  • 71
Как «Иноходец» вернул себе место в спецоперации
  • 24.03 12:35
  • 0
Польский «миграционный мост» к соседним странам
  • 24.03 05:54
  • 0
Ответ на "В ожидании "фантастических новостей": к чему ведут переговоры США и Украины - Мнения ТАСС"
  • 24.03 04:57
  • 0
Ответ на "Эксперт Мойта: ВСУ истощены, поэтому России может быть невыгодно перемирие"
  • 24.03 04:40
  • 1
Удары Москвы по "миротворчеству" Франции и Британии приведут к развалу ЕС
  • 24.03 04:28
  • 0
Ответ на "NI: провал контрнаступления ВСУ летом 2023 года стал переломным"
  • 24.03 02:48
  • 0
Ответ на "Франция и Британия не намерены ограничиваться вводом на Украину только наземных сил, в планах также авиация и флот"
  • 24.03 02:39
  • 1
Уолтц: политика Байдена по Украине могла привести к третьей мировой войне