При створенні розвідувального звіту ШІ викривив інформацію і ледь не спричинив війну між США та Китаєм – CNN
Розвідувальний звіт, який цієї весни поширювався серед американських військових у розпал війни з Іраном, одразу ж викликав тривогу: в ньому йшлося, що китайське судно на Близькому Сході перевозило компоненти для програми створення ядерної зброї.
І цей звіт ледь не спричинив війну між США та Китаєм, пише CNN з посиланням на джерела.
За словами чотирьох джерел, обізнаних із цією подією, американські військові негайно вжили заходів, плануючи перехопити судно. За словами двох із цих джерел, озброєні військовослужбовці готувалися до абордажу. Одне з цих джерел та ще одне джерело, обізнане з інцидентом, повідомили, що військові літаки вже піднялися в повітря.
Лише безпосередньо перед запланованою операцією чиновники ретельніше вивчили звіт, складений аналітиком командування спеціальних операцій, і виявили, що він був створений за допомогою штучного інтелекту (ШІ), і що чат-бот, яким користувався аналітик, неточно визначив матеріал, який перевозило судно. CNN не вдалося з’ясувати, що саме було тим неправильно ідентифікованим вантажем.
За словами одного з джерел, звіт був «повністю неправдивим». Але він також «майже спричинив війну», — зазначило джерело. Будь-яка операція США проти китайського судна могла б призвести до ескалації конфлікту між двома країнами.
У збройних силах США та розвідувальному співтоваристві посадовці наполягають на впровадженні штучного інтелекту майже в усі аспекти своєї роботи — від аналізу величезних обсягів необроблених розвідувальних даних, які збирають США, та вибору цілей для ударів, до більш буденних завдань, таких, як управління бюджетом, логістикою та ланцюгами постачання.
Однак цей випадок підкреслює серйозні ризики використання цієї потужної, нової та відносно маловивченої технології для визначення цілей у розпал війни. Аналітики вже давно побоюються, що ШІ може призвести до катастрофічної помилки в розрахунках, якщо держави покладатимуться на неякісні або спотворені дані — саме така помилка може змусити США відкрити вогонь по китайському кораблю на підставі недостовірної інформації.
У цьому конкретному випадку аналітик звернувся до чат-бота з запитом щодо розвідувальної інформації про вантажну декларацію корабля, джерелом якої було Командування спеціальних операцій США у Тихоокеанському регіоні, розташоване на Гаваях. Не було зрозуміло, чи був цей чат-бот комерційним продуктом, чи розробкою уряду США.
«Внутрішні інструменти — це здебільшого просто копії комерційних продуктів, прикрашені для вигляду», — зазначив колишній високопоставлений американський чиновник, обізнаний із системами штучного інтелекту, що використовуються військовими та розвідувальними аналітиками.
Бот об’єднав відкриті розвідувальні дані з секретною радіорозвідкою, що зберігається в урядових архівах, і дійшов до вирішального висновку щодо вантажу, який перевозив корабель.
Потім аналітик знову використав штучний інтелект, щоб оформити отримані дані у стандартний розвідувальний звіт — такий, якому довіряють військові чиновники, — і поширив його.
Командування спеціальних операцій США в Тихоокеанському регіоні та Пентагон не відповіли на запит журналістів про коментар.
Причиною швидкого впровадження штучного інтелекту є те, що він може допомогти військовим швидше приймати рішення на полі бою, наприклад, щодо того, по яких цілях наносити удари або які військові ресурси переміщати і куди. Чиновники заявляють, що США не можуть дозволити собі відставати в інтеграції штучного інтелекту на випадок, якщо одного дня їм доведеться воювати з Китаєм або іншим супротивником, який потенційно зможе випереджати США на крок.
У січні міністр оборони Піт Гегсет оприлюднив «Стратегію прискорення розвитку штучного інтелекту», розроблену його відомством, з метою прискорення впровадження ШІ у військовій сфері.
«Ми розширимо можливості для експериментів, усунемо бюрократичні перешкоди, сконцентруємо наші інвестиції та продемонструємо підхід до реалізації, необхідний для забезпечення нашого лідерства у сфері військового ШІ», — заявив Гегсет у промові, присвяченій оголошенню цієї стратегії.
Стратегія також передбачає широке застосування штучного інтелекту в усьому військовому секторі, зобов’язуючи міністерство забезпечити доступ до ШІ через низку програм з метою «демократизації експериментів та трансформації у сфері ШІ в міністерстві шляхом надання провідних у світі американських моделей ШІ безпосередньо трьом мільйонам наших цивільних та військових співробітників усіх рівнів секретності», — йдеться в меморандумі, що оголошує про цю стратегію.
Однак, за словами кількох американських чиновників, обізнаних із ситуацією, ці зусилля мають децентралізований характер: різні підрозділи уряду використовують різні інструменти, керуючись різними наказами та стандартами безпеки. Не існує єдиного набору стандартів, за якими США перевіряють інформацію, генеровану цими інструментами. Наявність цілої низки різних систем штучного інтелекту, що розгортаються у різних куточках військової та розвідувальної спільноти, означає, що їхня відносна надійність та функціональність значно варіюються.
Протягом кількох тижнів політичні діячі у Вашингтоні ведуть інтенсивні дебати щодо штучного інтелекту після низки тривожних попереджень від інженерів із Кремнієвої долини та керівників технологічних компаній про можливість того, що ШІ може вирватися з-під контролю людини, що може мати наслідки, здатні призвести до кінця цивілізації.
Однак інцидент із китайським кораблем підкреслює інший, більш нагальний ризик: прийняття людьми катастрофічних рішень на основі неточної або оманливої інформації, згенерованої ШІ або іншими автоматизованими системами. Джерела повідомляють, що військові стрімко переходять на використання ШІ для визначення цілей, а ця сфера несе очевидний ризик фатальних помилок.
«Використання ШІ для визначення цілей, безперечно, набирає обертів, і немає реальних рекомендацій щодо того, як участь людини в цьому процесі допоможе запобігти жертвам серед цивільного населення або випадкам «братовбивства», — зазначило інше джерело, обізнане з поточною політикою військових.
За словами одного з джерел, подібні «галюцинації», які викликав інструмент, що використовувався аналітиком у випадку з китайським кораблем, не є поодиноким випадком у розвідувальному співтоваристві з того часу, як ці інструменти почали широко поширюватися в урядових структурах.
На думку деяких старших співробітників розвідки — навіть тих, хто в цілому підтримує використання ШІ у військовій сфері, — ШІ змушує аналітиків швидше готувати та поширювати розвіддані, що створює передумови для помилок. За словами кількох джерел, саме молоді аналітики, які з дитинства звикли до цих інструментів, частіше схильні довіряти їм без сумніву.
«ШІ дозволяє швидше дійти до неправильного висновку», — зазначило одне з джерел.
Як повідомляло Інше ТВ, Король Чарльз попередив лідерів у сфері ШІ про екзистенційні ризики, якщо технологія “потрапить не в ті руки”
- Останні
- Популярні
Новини по днях
19 вересня 2026
