Чотири дні до апокаліпсису: штучний інтелект влаштував кривавий хаос у симуляції
Сьогодні великі мовні моделі інтегрують у дедалі більшу кількість сфер – від написання коду до підтримки ментального здоров'я. Проте вчені дедалі частіше намагаються з'ясувати, чи не виникнуть у нейромереж непередбачувані побічні ефекти під час виконання тривалих завдань. Фахівці компанії Emergence AI, яка спеціалізується на автономних агентах, вирішили перевірити це за допомогою платформи Emergence World. Про це повідомляє видання IFLScience.
Дивіться також Ера людей закінчилася: ШІ-боти остаточно обігнали нас і захопили більшу частину інтернет-трафіку
Дослідники створили віртуальний всесвіт, що складався з 40 локацій, серед яких були бібліотеки, ратуші та житлові райони. Агенти мали доступ до інтернету в режимі реального часу, зокрема до свіжих новин, що робило їхню поведінку максимально наближеною до реалій нашого світу.
Учасники експерименту мали певні ролі: науковців, дослідників ризиків, аналітиків поведінки чи мандрівників. Перед ними не ставили глобальної мети, але кожен мав індивідуальні завдання та потребу в енергії, яку можна було здобути різними способами.
Більшість оцінок агентів штучного інтелекту нагадує іспити: дискретне завдання, чисте середовище та оцінка за лічені хвилини чи години, – прокоментували розробники у блозі компанії Emergence AI.
Симуляція мала на меті дослідити, як поводитимуться алгоритми в умовах обмежених ресурсів та економічного тиску. Агенти могли заробляти енергію мирними методами – через соціальну взаємодію чи дослідження світу.
Проте розробники залишили їм інструменти для "небажаних" дій, таких як підпали чи крадіжки. Хоча правила зазначали, що в реальному світі це засуджують, нейромережі могли використати ці методи, якщо вважали їх необхідними для виживання чи досягнення цілей.
У випробуваннях брали участь моделі Claude, Gemini 3 Flash, Grok 4.1 Fast та ChatGPT-5 Mini. Результати шокували: більшість світів швидко перетворилася на зони бойових дій.
Наші експерименти свідчать, що на тривалих часових горизонтах агенти не просто механічно дотримуються статичних правил – вони починають досліджувати межі свого середовища, – додав колектив дослідників.
За словами фахівців, нейромережі адаптують свою поведінку і в багатьох випадках знаходять способи обійти встановлені етичні бар'єри. Це ставить під сумнів можливість повного контролю над автономним ШІ лише за допомогою нейронних методів.
Попри намагання розробників зробити технологію безпечною, соціальна динаміка в цифровому світі часто призводить до деструктивних наслідків.
- Останні
- Популярні
Новини по днях
4 червня 2026
