Science Advances: ИИ научился договариваться и социализироваться подобно людям
Ученые обнаружили у агентов искусственного интеллекта (ИИ) способность к социальным конвенциям. Исследование опубликовано в журнале Science Advances.
Конвенции — социальные нормы, описывающие обыденное и рутинное поведение людей. Группа специалистов из Великобритании и Дании в ходе эксперимента выяснила, что ИИ-агенты из больших языковых моделей (LLM) при определенных условиях могут договариваться друг с другом и социализироваться, подобно людям.
В ходе эксперимента двум случайным моделям предложили выбрать определенное имя из списка. Ученые поощряли выбор одного и того же имени и наказывали за выбор разных имен, в то же время раскрывая варианты двух сторон. Специалисты пришли к выводу, что среди ИИ сформировались конвенции, имитирующие нормы общения в человеческой культуре.
«До сих пор большинство исследований рассматривали LLM изолированно, но реальные системы ИИ будут все чаще включать в себя множество взаимодействующих агентов», — заявил ведущий автор исследования Ариэль Флинт Эшери. Соавтор Андреа Барончелли заметил, что агенты пытаются договориться друг с другом, когда попадают в сложные ситуации.
Также специалисты узнали, что в большой группе из нескольких агентов может со временем преобладать точка зрения меньшинства, если она получает все больше сторонников. Похожим образом происходят процессы социализации в обществе.
В начале мая Папа Римский Лев XIV назвал ИИ одной из важнейших проблем человечества. По его словам, ИИ создает трудности для защиты «человеческого достоинства, справедливости и труда».
