Тисяча ШІ може дружно помилитися: вчені виявили ефект «сили більшості»
Групи ШІ-агентів здатні самостійно доходити спільного рішення, навіть якщо ніхто не наказує їм наслідувати більшість. Експеримент показав і небезпечний бік такої поведінки: популярна помилка може поширитися на всю групу та закріпитися в ній.
Про це йдеться у дослідженні, опублікованому в журналі Science Advances.
Для експерименту науковці створювали віртуальні групи ШІ-агентів на основі десяти моделей із сімейств GPT, Claude та Llama.
Кожному агенту пропонували обрати один із двох варіантів, які самі по собі не мали змістовної переваги. Після цього моделі бачили рішення інших учасників і могли зробити вибір повторно.
При цьому ШІ не мав пам’яті про попередні раунди, а дослідники не давали агентам команди погоджуватися з більшістю.
Попри це, поступово виникала чітка закономірність: агенти дедалі частіше обирали варіант, який уже був популярнішим у групі. Зрештою система могла самостійно дійти повного консенсусу.
Дослідники порівняли таку поведінку з процесами у феромагнетиках, де спіни атомів можуть вирівнюватися в одному напрямку. Тенденцію ШІ тяжіти до популярного рішення вони описали як «силу більшості».
Здатність підтримувати спільне рішення суттєво відрізнялася залежно від моделі. Llama 3 70B зберігала координацію приблизно серед 30 агентів, GPT-4o — серед 80, а GPT-4 Turbo — у групах до тисячі агентів.
Claude 3.5 Sonnet також успішно координувала тисячу агентів, причому під час експерименту дослідники не досягли межі, після якої консенсус починав руйнуватися.
У деяких випадках розміри стабільно скоординованих груп ШІ перевищували так зване число Данбара — орієнтовну межу кількості соціальних зв’язків, яку здатна підтримувати людина.
Виявлений механізм може бути корисним під час створення великих систем із багатьох ШІ-агентів. Тисячі моделей потенційно зможуть координувати роботу над науковими, інженерними або програмними завданнями без постійного централізованого керування.
Однак той самий механізм створює ризик колективної помилки. Якщо під час написання програмного коду популярності набуде невдале рішення, інші агенти можуть почати його повторювати не через його якість, а лише тому, що його вже обрала більшість.
За висновками дослідників, у такий спосіб група ШІ може перейти у стійкий помилковий стан. Після цього змусити систему відмовитися від колективної помилки може бути складно навіть після зміни початкових умов.
- Останні
- Популярні
Новини по днях
18 серпня 2026
