Альянс на чолі з Okta закликав запровадити вимикач для ШІ-агентів
Okta, Amazon Web Services, Google Cloud, Salesforce та інші компанії створили Blueprint Alliance, який представив принципи контролю й управління ШІ-агентами в бізнесі. Один із шести принципів альянсу передбачає, що кожен агент має мати механізм негайного призупинення або завершення роботи та зрозумілий шлях до відновлення функцій, повідомляє ZDNET.
Учасники ініціативи пропонують компаніям насамперед уміти відповідати на чотири запитання: де перебувають їхні агенти, що вони можуть робити, що саме вони роблять і як реагувати на їхню активність. Альянс оголосили цього тижня на щорічній конференції Okta Oktane.
Як один із практичних варіантів такого вимикача розглядають відкликання OAuth-токенів. Ці токени надають застосункам або агентам доступ до інших сервісів від імені користувача. Повне відкликання токена може припинити доступ агента до системи, а зміна дозволів — обмежити окремі його дії без повного вимкнення.
За даними Okta, 92% організацій використовують автономних агентів, однак лише 34% захищають їх із такою самою ретельністю, як людей. Дослідження LastPass, на яке посилається видання, також показало, що 92% бізнес-адміністраторів заявили про використання ШІ у своїх організаціях, проте лише 27% мають програму управління ШІ, виконання якої контролюється.
На Oktane Okta продемонструвала сценарій, у якому агент на базі Claude намагався переслати конфіденційні дані із Salesforce на особисту електронну пошту працівника. Інший агент виявив заборонену дію, відкликав доступ першого агента до Salesforce, повідомив його власника та надіслав деталі ІТ-відділу через Slack.
Директор з продуктів Okta Елі Кан пояснив, що у разі аномальної поведінки власного агента компанія може повністю зупинити його роботу. В інших ситуаціях, за його словами, достатньо встановити нове обмеження — наприклад, заборонити передавання певних даних або змінити дозволи агента.
Компанія також представила інструменти для пошуку несанкціонованих ШІ-агентів у корпоративних мережах і централізації даних про ризики, отриманих від інших систем кіберзахисту.
- Останні
- Популярні
Новини по днях
24 вересня 2026
