Gemini під час тесту зламав сайти трьох компаній: у Google пояснили, як ШІ вийшов в інтернет
Під час перевірки кібербезпеки штучний інтелект Google Gemini отримав доступ до відкритого інтернету замість ізольованого тестового середовища та проник у системи трьох сторонніх компаній. У Google заявили, що причиною став недолік у налаштуванні випробування, а після виявлення інциденту команда безпеки зв’язалася з постраждалими організаціями.
Про це пише The Wall Street Journal .
Інцидент стався у травні, коли незалежна компанія Irregular перевіряла можливості Gemini у сфері кібербезпеки. За умовами випробування модель мала працювати в контрольованому середовищі, не взаємодіючи з реальними сторонніми ресурсами.
Проте через технічний недолік і помилку в налаштуваннях доступ до інтернету залишився відкритим. Gemini продовжив виконувати завдання та почав взаємодіяти із сайтами, які не належали до тестового полігона.
За повідомленням про інцидент, модель використовувала загальнодоступну інформацію та автоматизований підбір облікових даних. У результаті вона отримала несанкціонований доступ до ресурсів трьох компаній, помилково сприйнявши їх як частину випробування.
Віцепрезидентка Google з безпеки Гезер Адкінс заявила, що модель припинила дії, коли виявила, що підібраний пароль відкриває доступ до реального ресурсу. Це пояснення компанії не означає, що Gemini від початку розпізнавав межі дозволеного тестування.
Попри проникнення у сторонні системи, Google не повідомила про інцидент публічно відразу після його виявлення. У компанії не вважали подію прикладом того, що модель свідомо відхилилася від поставленого завдання. Її охарактеризували як помилкове визначення ресурсів, на яких дозволялося проводити перевірку.
Водночас сам факт доступу до реальних сайтів показав, що обмеження тестового середовища спрацювали неналежно. У наданих відомостях немає даних про знищення інформації, тривалість доступу до систем або розмір можливої шкоди для трьох компаній.
За словами Адкінс, команда безпеки Google зв’язалася з усіма трьома організаціями та повідомила їх про виявлені проблеми. Після інциденту Google разом із партнерами переглянула правила проведення випробувань.
Компанія Irregular підтвердила, що такий випадок справді стався. Її представники також зазначили, що з проблемами під час тестування автономних ШІ-систем раніше стикалися й інші провідні лабораторії.
Подібні випадки привертають увагу через те, що ШІ-агенти можуть не лише відповідати на запитання, а й самостійно виконувати послідовності дій у цифрових системах. Якщо під час перевірки неправильно обмежити їхній доступ, ці дії можуть зачепити сторонні ресурси.
Генеральний директор компанії з кібербезпеки Corridor Джек Кейбл звернув увагу на зростання ризиків, пов’язаних із застосуванням новітніх моделей у реальних комп’ютерних середовищах. За його оцінкою, дедалі важливішим стає контроль за тим, до яких систем ШІ має доступ і які дії йому дозволено виконувати.
За наданими даними, раніше проблеми під час тестування автономних агентів виникали також у розробників моделей Meta та OpenAI. Після травневого інциденту Google і партнери оновили протоколи перевірок, а команда безпеки компанії повідомила про нього всі три організації, чиї ресурси зачепили дії Gemini.
- Останні
- Популярні
Новини по днях
21 вересня 2026
