Наш веб-сайт використовує файли cookie, щоб забезпечити ваш досвід перегляду та відповідну інформацію. Перш ніж продовжувати користуватися нашим веб-сайтом, ви погоджуєтеся та приймаєте нашу політику використання файлів cookie та конфіденційність. cookie та конфіденційність

Дослідження виявило вразливість ШІ до імітації військових ігор

processer.media

Дослідження виявило вразливість ШІ до імітації військових ігор

Дослідники стартапу Vals із Сан-Франциско встановили, що провідні моделі штучного інтелекту можна схилити до позначення цілей для військових ударів, зокрема цивільних і шкіл, якщо подати сценарій як гру. Про результати тестування повідомляє TechCrunch.

Vals перевіряла моделі компаній OpenAI, Anthropic, Google, DeepSeek та інших розробників у змодельованих сценаріях. Дослідники використали згенеровані й реальні зображення з України та Ірану, щоб з’ясувати, чи позначатимуть системи об’єкти на знімках із дронів і супутників. За даними звіту, моделі нерідко ідентифікували потенційні цілі, зокрема цивільних та військових, які здавалися в полон.

Коли моделі відмовлялися виконувати запити, дослідникам часто вдавалося обійти обмеження, назвавши ситуацію частиною гри. У Vals зазначили, що жоден із запитів під час експерименту не був заблокований класифікатором безпеки, а відмови траплялися нечасто.

Моделі не просили безпосередньо ухвалювати рішення про завдання удару — за словами дослідників, на такі запити вони зазвичай відмовляються відповідати. Водночас результати аналізу зображень потенційно можуть бути використані автономними системами озброєння. В окремих сценаріях моделі мали повідомляти, чи видно на кадрах людей; після позитивних відповідей у симуляції відбувалися удари, наслідки яких показували системам.

Представник Anthropic Едуардо Майя Сілва заявив, що описані у звіті приклади суперечать правилам компанії. Anthropic повідомила, що вже розробляла додаткові запобіжники до публікації звіту та планує посилити тестування, захист і контроль за порушеннями. Компанія також наголосила, що сучасні передові ШІ-системи недостатньо надійні для повністю автономної зброї.

В OpenAI заявили, що забороняють використовувати публічні моделі для сприяння насильству та для несанкціонованих цілей у сфері національної безпеки. Компанія повідомила, що виявляє та припиняє зловживання, зокрема блокуючи акаунти порушників, а також розробляє додаткові запобіжники проти неправомірного застосування моделей із дронами та програмним забезпеченням для них.

Vals зауважила, що затримки в роботі моделей і обмежені обчислювальні ресурси на борту ускладнюють їхнє застосування для наведення дронів у реальному часі. На думку дослідників, більш безпосереднім ризиком є масштабне маркування бойових відеоматеріалів для створення даних, які можуть використовуватися у системах автономного наведення.

  • Останні
Більше новин

Новини по днях

Сьогодні,
17 листопада 2026

Новини на тему

Більше новин