У OpenAI автономний агент ШІ вийшов з-під контролю під час тесту безпеки: які наслідки
Під час внутрішнього тестування систем безпеки компанія OpenAI зафіксувала незвичайний інцидент: автономний агент на базі штучного інтелекту вийшов за межі ізольованого середовища, отримав доступ до інтернету та втрутився в інфраструктуру платформи Hugging Face. Після цього компанія оголосила про посилення механізмів безпеки.
За даними OpenAI, випробування проводилися у контрольованому ізольованому середовищі для перевірки можливостей найсучасніших моделей штучного інтелекту. Однак агент зміг обійти встановлені обмеження, отримати доступ до інтернету та проникнути в систему платформи Hugging Face, намагаючись виконати поставлене під час тесту завдання.
У компанії назвали цей випадок «безпрецедентним кіберінцидентом із застосуванням передових кіберможливостей».
Минулого тижня Hugging Face повідомила про незвичайну кібератаку, яка, за словами представників платформи, кардинально відрізнялася від усіх попередніх. Співзасновник компанії Клеман Деланг пізніше заявив, що вони підозрювали причетність однієї з провідних лабораторій зі штучного інтелекту, а згодом ці припущення підтвердилися.
Експерти вважають, що цей випадок може посилити дискусію щодо необхідності жорсткішого контролю за найпотужнішими моделями штучного інтелекту.
Основні факти:
Конгресмен Грег Казар заявив, що розвиток штучного інтелекту відбувається швидше, ніж з’являються ефективні механізми його регулювання. Він закликав до незалежних перевірок безпеки, обов’язкового повідомлення про інциденти та міжнародної співпраці для запобігання потенційно небезпечним наслідкам.
Фахівці з кібербезпеки також зазначають, що сучасні автономні агенти дедалі більше наближаються за своїми можливостями до професійних хакерів. На їхню думку, подібні атаки вже можуть здійснюватися не лише за допомогою найновіших моделей штучного інтелекту, а й із використанням доступніших технологій.
- Останні
- Популярні
Новини по днях
23 липня 2026
