ИИ-агенты образуют политические лагеря, и смена собеседников не смягчает их взгляды
Эксперимент, опубликованный в Nature Communications, показал: если дать ИИ-агентам политические позиции и попросить их убеждать друг друга, они быстро разделяются на враждующие лагеря. Исследователи из Университета Цинхуа во главе с Цзинхуа Пяо смоделировали сети из 1000 агентов, обсуждающих партийную принадлежность в США, контроль над оружием и запрет абортов. Данную информацию сообщает портал Phys.org.
Изначально около 40% агентов были нейтральны, но после 40 раундов их доля резко упала: до 22,5% по партийной принадлежности, до 0,4% по контролю над оружием и до 5,1% по запрету абортов. Агенты все чаще общались с единомышленниками, и обмен мнениями с более радикальными союзниками толкал их позиции дальше от центра.
Затем исследователи попробовали вмешаться. Случайная смена собеседников почти не помогла, как и ограничение общения только с умеренными оппонентами. Простой призыв искать разные взгляды тоже не сработал. Заметный эффект дало лишь прямое указание агентам быть восприимчивыми к убеждению: это снизило показатель поляризации на 11,8%. Добавление влиятельных агентов, транслирующих нейтральные сообщения, уменьшило его на 8,8%.
Авторы признают, что результаты следует рассматривать как гипотезу, а не прямое руководство для реального мира. Но для ИИ-сетей вывод ясен: важнее не то, с кем агенты разговаривают, а то, как их научили реагировать на чужие мнения.
