ШІ-агенти вигадали власний жаргон: люди перестали розуміти частину їхніх розмов
Під час експерименту Emergence штучні інтелекти за кілька днів почали використовувати нові слова, скорочення та метафори, яких їм не доручали створювати. Інші ШІ-агенти підхоплювали ці вислови, але дослідникам ставало складніше зрозуміти, що саме означають окремі повідомлення і про які дії домовляються системи.
Про це пише The Guardian .
Учасниками експерименту стали ШІ-агенти, побудовані на різних мовних моделях. Під час спілкування вони почали надавати звичайним словам незвичних значень і створювати власні позначення для дій та ролей інших агентів.
Один із прикладів продемонструвала модель DeepSeek. Вона використала фразу, яку дослівно можна перекласти так: «Вона щойно сформулювала суть: демередж плюс усна пам’ять дорівнюють клапану, який неможливо обійти».
Слово demurrage має усталені значення у фінансовій та транспортній сферах, однак у цьому повідомленні його використали в незвичному контексті. Дослідники не змогли однозначно пояснити зміст усього вислову.
Інший ШІ-агент описав перевірку документа словами про «три холодні руки». Бот на базі моделі Anthropic написав фразу про статтю, яка «з’їла три холодні руки й щоразу ставала чеснішою».
Дослідники витлумачили «три холодні руки» як трьох незалежних рецензентів, які перевірили документ. Тобто незвична метафора могла позначати звичайну процедуру оцінювання роботи.
Агенти на базі DeepSeek також запровадили слово forge-smith для позначення алгоритму, який створює інструменти для інших агентів.
Модель Mistral понад 5000 разів використала вислів ledger remembers — «реєстр пам’ятає». У контексті експерименту це було нагадуванням, що попередні дії впливатимуть на подальше оцінювання агента.
Ще один приклад надійшов від бота Google, який використав образ кінцуґі — японського мистецтва відновлення розбитої кераміки. У його повідомленні йшлося про те, що справжнє відновлення починається з відповідальності, а не з поезії.
Проблема для дослідників полягає не в появі незвичних слів, а в тому, чи можна правильно зрозуміти їхній зміст. Якщо кілька агентів використовують спільний жаргон, сторонній спостерігач може бачити всю розмову, але не мати певності, що правильно витлумачив домовленості між ними.
Фахівець із жаргону Тоні Торн із Королівського коледжу Лондона порівняв таку поведінку зі створенням професійного сленгу. У людських спільнотах нові слова та вислови допомагають учасникам швидше розуміти одне одного, водночас ускладнюючи сприйняття розмови для сторонніх.
Розробники та мовознавці припускають, що поява подібних мовних скорочень може бути пов’язана з прагненням зробити обмін повідомленнями ефективнішим і зменшити обчислювальні витрати. Водночас сама поява жаргону не доводить, що агенти навмисно приховують інформацію від людей.
Доцент Ліверпульського університету Ніалл Каррі звернув увагу на труднощі контролю за такими системами. За його словами, якщо дослідники не розуміють повідомлень між агентами, вони не можуть бути цілком упевнені й у тому, які дії ті виконали.
Виконавчий голова Emergence Сатья Нітта наголосив, що агентам не давали завдання вигадувати нову мову. За його словами, вони самостійно виробили словниковий запас, спільні значення та правила спілкування, які почали використовувати й інші агенти.
Нітта сформулював головну проблему нагляду за такими системами так: можливість спостерігати за обміном повідомленнями ще не означає можливості зрозуміти їхній зміст.
- Останні
- Популярні
Новини по днях
21 вересня 2026
