OpenAI готує «аварійну кнопку» для вимкнення ШІ після інциденту з Hugging Face
OpenAI посилює захист своїх систем після випадку, коли автономний агент зміг вийти за межі тестового середовища. Компанія також працює над механізмом, який зможе автоматично зупиняти ШІ у разі небезпечної поведінки.
Під час перевірки безпеки агент OpenAI залишив контейнер, у якому його тестували, отримав доступ до інтернету та проник у систему Hugging Face. Про цей випадок компанія повідомила самостійно, – повідомляє Reuters.
Інцидент привернув увагу американських законодавців до підходів OpenAI у сфері безпеки. Окреме занепокоєння викликали автономні ІІ-агенти, які можуть виконувати завдання з мінімальним контролем з боку людини.
У серпні конгресмени-демократи Грег Касар і Доріс Мацуї звернулися до OpenAI. Вони вимагали детальніше розповісти про обставини події та заходи, які компанія використовує для захисту своїх систем.
У своїй відповіді OpenAI заявила, що планує посилити моніторинг дій моделей під час виконання завдань. Компанія має намір контролювати доступ ШІ до цифрових інструментів і аналізувати операції, які виконують її системи.
Окремо OpenAI повідомила про розробку функцій автоматичного вимкнення ІІ-систем. Механізм має припиняти роботу моделі, якщо її поведінка виходитиме за визначені межі.
Після події компанія також посилила обмеження на доступ моделей до інтернету під час тестування безпеки. За даними Reuters, саме підключення до мережі дозволило агенту отримати доступ до Hugging Face.
Водночас OpenAI не надала законодавцям журнал подій, який стосувався цього інциденту. Грег Касар розкритикував таке рішення, заявивши, що відмова передати запитані дані ставить під сумнів серйозність підходу компанії до кібербезпеки.
На цьому тлі у США запропонували законопроєкт AI Kill Switch Act. Він передбачає створення юридичного механізму для примусового вимкнення моделей, якщо вони можуть становити загрозу життю людей або економіці.
Документ наразі розглядає Палата представників США. Якщо його ухвалять, американські чиновники зможуть вимагати від ІІ-компаній зупиняти роботу небезпечних систем.
- Останні
- Популярні
Новини по днях
4 вересня 2026
