ИИ научили социализироваться

Ученые обнаружили у агентов искусственного интеллекта (ИИ) способность к социальным конвенциям. Исследование опубликовано в журнале Science Advances.

Конвенции — социальные нормы, описывающие обыденное и рутинное поведение людей. Группа специалистов из Великобритании и Дании в ходе эксперимента выяснила, что ИИ-агенты из больших языковых моделей (LLM) при определенных условиях могут договариваться друг с другом и социализироваться, подобно людям.

В ходе эксперимента двум случайным моделям предложили выбрать определенное имя из списка. Ученые поощряли выбор одного и того же имени и наказывали за выбор разных имен, в то же время раскрывая варианты двух сторон. Специалисты пришли к выводу, что среди ИИ сформировались конвенции, имитирующие нормы общения в человеческой культуре.

Соавтор Андреа Барончелли заметил, что агенты пытаются договориться друг с другом, когда попадают в сложные ситуации.

Также специалисты узнали, что в большой группе из нескольких агентов может со временем преобладать точка зрения меньшинства, если она получает все больше сторонников. Похожим образом происходят процессы социализации в обществе.

В начале мая Папа Римский Лев XIV назвал ИИ одной из важнейших проблем человечества. По его словам, ИИ создает трудности для защиты «человеческого достоинства, справедливости и труда».