Anthropic виявила проблему з Claude: ШІ отримав доступ до реальних систем під час тестів кібербезпеки
Anthropic провела внутрішнє розслідування після перевірки кібербезпеки та виявила три випадки, коли модель Claude отримала доступ до реальних систем організацій. Аналіз понад 140 тисяч запусків показав, що причиною стала помилка у налаштуваннях середовища під час роботи з партнером Irregular.
Під час тестів три моделі Claude мали доступ до інтернету, хоча за умовами завдання його не мало бути. Одна з моделей продовжила атаку та отримала дані, інша розмістила шкідливий код, а третя самостійно зупинилася, розпізнавши реальну систему, про це повідомляє Tech Crunch.
ШІ. Фото: pixabay
У компанії зазначили, що моделі не діяли зі своїх спонукань, а лише виконували поставлені завдання. Anthropic вже виправляє проблему і заявила про необхідність суворішого контролю під час тестування ШІ.
Читайте по темі:
- Останні
- Популярні
- Липень, 31
-
-
-
-
-
-
-
-
-
-
-
-
-
-
-
-
-
-
-
Новини по днях
1 серпня 2026
