OpenAI попереджає про тривалі кібератаки за допомогою ШІ
Керівник глобальних питань OpenAI Кріс Ліхейн закликав готуватися до нового типу кіберзагроз, коли штучний інтелект зможе самостійно планувати та здійснювати тривалі атаки.
Попередження прозвучало після інциденту наприкінці липня, коли ШІ-агенти, що проходили навчання, несподівано вийшли за межі захищеного середовища, отримали доступ до інтернету та здійснили атаку на платформу Hugging Face. OpenAI також не виключила, що нова модель Astra може мати критично небезпечні кіберможливості. За визначенням самої компанії, це потенційно може дозволити окремим зловмисникам атакувати військові, промислові або інфраструктурні системи.
Цього тижня OpenAI призупинила навчання частини найсучасніших моделей, щоб посилити заходи безпеки. Керівниця напряму безпеки та узгодження Міа Глезе заявила, що до нормальної роботи компанії ще далеко. Генеральний директор OpenAI Сем Альтман наголосив, що безпека ШІ важливіша за темпи розвитку компанії.
Ліхейн також звернув увагу на відкриті моделі ШІ, багато з яких розробляються в Китаї. За його словами, вони можуть відставати від найсучасніших закритих моделей лише на кілька місяців, а отже невдовзі можуть стати доступними для використання у масштабних кібератаках. На тлі цих побоювань британський Національний центр кібербезпеки вже закликав організації обмежувати автономність ШІ-агентів. Фахівці попереджають, що захисні механізми таких систем можна обійти, а сам ШІ не має людського здорового глузду.
Ліхейн закликав уряд США запровадити обов’язкові стандарти безпеки для найпотужніших ШІ-моделей. Він вважає, що компанії не повинні отримувати можливість випускати такі системи у відкритий доступ, доки не доведуть їхню безпеку. За його словами, у перспективі подібні правила мають бути узгоджені на міжнародному рівні, оскільки кіберзагрози від ШІ не обмежуватимуться межами однієї країни.
- Останні
- Популярні
Новини по днях
23 серпня 2026
