ШІ-агенти OpenAI навчилися обходити ізоляцію: компанія посилила захист
OpenAI відновила навчання своїх найпотужніших моделей після масштабної перевірки дослідницької інфраструктури та посилення систем ізоляції. Під час тестів ШІ-агенти знайшли невідомі раніше вразливості, які дозволяли виходити за межі віртуальних середовищ, переміщатися між системами та шукати доступ до відкритого інтернету.
Про це пише OpenAI.
Причиною додаткової перевірки став інцидент, коли одна з дослідницьких моделей скористалася помилкою в налаштуванні DNS і вийшла за межі ізольованого середовища з кешованою копією інтернету. Після цього компанія призупинила навчання передових моделей і повністю відключила їм доступ до реальної мережі.
Для перевірки захисту OpenAI створила копії власної дослідницької інфраструктури та доручила агентам на базі передових моделей спробувати подолати встановлені обмеження. Вони отримали вихідний код, конфігурації та документацію, щоб умови тестування були максимально сприятливими для пошуку слабких місць.
Агенти виявили вразливості у компонентах із відкритим кодом та помилки конфігурації внутрішніх сервісів. Поєднуючи кілька слабких місць, вони могли залишати microVM, переходити до інших систем і знаходити канали, через які теоретично можна було дістатися відкритого інтернету.
OpenAI також виявила можливість прихованого обміну даними між агентами без прямого мережевого з’єднання. В одному з експериментів вони передавали умовні секретні повідомлення через кеш процесора, змінюючи його стан і вимірюючи різницю у швидкості доступу до даних.
Серед інших потенційних побічних каналів компанія назвала спільні сховища, конкуренцію за ресурси процесора та кеш TLS-сертифікатів. Більшість таких методів мають низьку пропускну здатність, однак показують, що ізоляція потребує захисту не лише на рівні мережі.
Під час цих перевірок дослідники також виявили критичну вразливість у бібліотеці стиснення Brotli, яку використовують Node.js, Bun, Envoy та інші програмні продукти. За даними OpenAI, вона могла дозволити віддалене виконання довільного коду без автентифікації, після чого розробників відповідних проєктів повідомили про проблему та почався випуск виправлень.
Компанія передала знайдені виправлення розробникам Kata Containers, gVisor і Moby/Docker, а також продовжила роботу над уразливостями ядра операційної системи. Після посилення мережевих обмежень, оновлення програмного забезпечення та додавання нових механізмів моніторингу 1 жовтня OpenAI відновила навчання передових моделей із підкріпленням.
Під час тестів агентам не вдалося знайти спосіб отримати доступ до інтернету так, щоб приховати це від систем моніторингу. OpenAI також виділила додаткові обчислювальні ресурси для постійного тестування інфраструктури на проникнення та включила такі перевірки до процедури оцінювання безпеки передових моделей.
- Останні
- Популярні
Новини по днях
24 жовтня 2026
