Infosys окреслила правила безпечного впровадження автономних ШІ-агентів
Компанія Infosys вважає, що підприємствам для впровадження автономних ШІ-агентів потрібно контролювати не лише якість створеного штучним інтелектом контенту, а й рішення та дії, які такі системи можуть виконувати. Про це в інтерв’ю TechRadar заявив виконавчий віцепрезидент і керівник підрозділу хмарних, інфраструктурних та безпекових сервісів Infosys у регіоні EMEA Умашанкар Лакшміпаті.
За його словами, автономні агенти відрізняються від ШІ-асистентів тим, що здатні отримувати доступ до корпоративних даних, застосунків та інструментів, взаємодіяти з іншими агентами й діяти від імені працівників або бізнес-процесів. Через це помилка, маніпуляція або компрометація системи можуть мати більший вплив на роботу компанії.
Кожному агентові слід визначити бізнес-призначення, відповідального власника та обмеження щодо доступних даних, систем і дій, зазначив Лакшміпаті. Для операцій із чутливою інформацією або високим потенційним впливом, на його думку, необхідні посилені запобіжники. Компанії також мають мати змогу простежити результат до особи чи процесу, який ініціював дію, самого агента та використаних ним інструментів.
Рівень автономності має залежати від бізнес-наслідків дій агента, чутливості інформації та можливості скасувати виконані операції. Агент, що аналізує відкриті дані або готує внутрішній підсумок, може працювати за м’якшого контролю. Натомість доступ до даних клієнтів, зміна виробничої інфраструктури, регуляторні рішення чи фінансові операції потребують жорсткіших обмежень.
Infosys звертає увагу на зростання ролі нелюдських ідентичностей — застосунків, API, сервісних облікових записів, засобів автоматизації та ШІ-агентів. Компаніям потрібен точний перелік таких ідентичностей, розуміння їхнього призначення, відповідальних осіб і прав доступу. Надмірні дозволи, довгострокові облікові дані та активні ідентичності, потреба в яких уже зникла, створюють ризики для безпеки.
Взаємодія між агентами може автоматизувати складні процеси в роботі з клієнтами, операційній діяльності, розробці програмного забезпечення та кіберзахисті. Водночас скомпрометований або неналежно керований агент може передати недостовірні дані іншому учаснику процесу, вплинути на його рішення або спробувати залучити агента з ширшими правами для виконання дії, недоступної йому самому.
Лакшміпаті вважає, що чинні підходи, зокрема Zero Trust, управління ідентичностями, контроль привілейованого доступу та управління ризиками ШІ, залишаються основою, але потребують адаптації. Для агентів слід постійно контролювати ідентичність, повноваження та дії, а також вести записи, що пов’язують ініціатора процесу, залучених агентів, дані, інструменти, виконані операції та їхній результат.
- Останні
- Популярні
Новини по днях
9 листопада 2026
