IEEE Spectrum оприлюднив шість принципів управління ШІ в компаніях
Технологічний керівник Lowe’s Шраван Вадігепаллі запропонував шість принципів управління системами штучного інтелекту в компаніях. У публікації для IEEE Spectrum він наголошує, що фахівцям дедалі частіше доводиться не лише створювати ШІ-системи, а й визначати межі їхньої автономії, випадки обов’язкової ескалації до людини та дії, які системам заборонено виконувати.
Автор називає цю зміну переходом від безпосереднього виконання завдань до встановлення намірів, принципів і обмежень для систем, що діють самостійно. На його думку, бізнес-оператори мають визначати, які винятки, наприклад у ціноутворенні, ШІ-агент може схвалювати, а які повинен передавати людині.
Першою рекомендацією Вадігепаллі називає розпізнавання ролі «людського проміжного шару» — працівника, який вручну переносить, переформатовує та передає інформацію між різними системами. Такі операції, за його оцінкою, ШІ-агенти вже здатні автоматизувати, тоді як оцінка ризиків, важливості показників і компромісів лишається людською функцією.
Автор також пропонує замінювати детальні правила принципами, розставленими за пріоритетом. Це має допомогти системам розв’язувати конфліктні ситуації, які неможливо передбачити в інструкціях для кожного окремого випадку. Серед прикладів принципів він називає заборону шкодити клієнтові, вимогу говорити правду навіть ціною втрати продажу та потребу захищати економічні інтереси бізнесу.
Цінності й політики компанії, за цією логікою, мають бути оформлені як машинозчитувані інструкції. Вадігепаллі описує три рівні: «конституцію» з непорушними обмеженнями, «доктрину» з допустимими бізнес-компромісами та «плейбук» із тактиками для конкретних завдань.
Замість повної автономії ШІ або ручної перевірки кожної дії автор радить застосовувати «термостат довіри». За цією моделлю кожне рішення отримує оцінку впевненості: вище погодженого порога система діє самостійно, нижче — передає справу людині. Рішення людини мають повертатися в цикл навчання, а сам процес — лишатися прозорим, придатним до аудиту та пояснення.
Окремо Вадігепаллі звертає увагу на контекст даних. Він зазначає, що інформація в компаніях часто розпорошена між несумісними застосунками, через що ШІ не бачить повної картини. Автор описує цикл Connections, Context, Reasoning, Actions and Governance: підключення даних, формування контексту, ухвалення рішень, виконання дій та управління.
Шостий принцип — керувати за винятками: не перевіряти кожен рутинний процес, а зосереджуватися на неоднозначних, незнайомих або високоризикових ситуаціях, які система не змогла впевнено розв’язати. Автор вважає, що в умовах поширення ШІ ключовими людськими ресурсами стають судження та здатність обрати найкращий варіант серед кількох прийнятних.
Вадігепаллі посилається на звіт Project NANDA при MIT Media Lab за 2025 рік: попри оцінені інвестиції бізнесу в генеративний ШІ на рівні 30–40 млрд доларів, лише близько 5% інтегрованих пілотних проєктів у вибірці створювали суттєву цінність. Дослідники назвали цей розрив GenAI Divide.
- Останні
- Популярні
Новини по днях
5 жовтня 2026
