Кіберфахівці розкритикували обмеження нової моделі Claude Fable 5
Фото: pexels
Компанія Anthropic представила модель Claude Fable 5, яку позиціонує як публічну та обмежену версію потужнішої моделі Mythos. Вона має бути доступною для ширшого кола користувачів, однак її захисні механізми вже викликали критику серед фахівців із кібербезпеки.
Дослідниця Валентина Пальміотті з IBM X-Force заявила, що Fable може відхиляти запити, які навіть частково стосуються кібертематики. За її словами, модель блокує не лише потенційно небезпечні завдання, а й прості запити, наприклад аналіз тематичного блогу.
Обмеження спрацьовують, якщо система виявляє ключові слова, пов’язані з кібербезпекою або біологією. У такому разі модель зупиняє діалог і повідомляє про активацію захисних механізмів. Anthropic пояснює це прагненням запобігти використанню ШІ для створення шкідливого програмного забезпечення або біологічної зброї.
Фахівець із кібербезпеки Метт Суїч зі стартапу Tolmo також повідомив, що модель іноді неправильно класифікує завдання. Наприклад, запит на написання безпечного коду може сприйматися не як звичайна практика програмування, а як робота з кібербезпекою.
За словами Суїча, Fable значною мірою реагує на ключові слова. Якщо у запиті з’являються терміни з лексики кібербезпеки, система може активувати обмеження або перейти на Claude Opus 4.8.
Водночас експерт зазначив, що такі правила можна зрозуміти на ранньому етапі запуску технології. Він припустив, що з часом Anthropic та інші розробники ШІ можуть адаптувати обмеження, щоб краще розрізняти безпечні й небезпечні запити.
Інші дослідники також повідомляли про схожі проблеми. Зокрема, у соцмережі X один із фахівців написав, що навіть прохання перевірити код може активувати захисні механізми моделі.
Anthropic наразі не коментувала критику. Водночас компанія має “Програму кіберверифікації”, через яку фахівці з кібербезпеки можуть подати заявку й після схвалення отримати доступ до менш обмеженого використання Claude для професійних завдань.
До слова, Garmin Fenix зміг зчитувати показники саморобного бігового датчика.
Юлія Люшньова - pravdatutnews.com
- Останні
- Популярні
Новини по днях
11 червня 2026
