OpenAI заявила про спробу отримати захищені міркування ШІ-моделей — CNBC
OpenAI заявила, що виявила та зупинила скоординовану кампанію зі спробами отримати захищені міркування її моделей штучного інтелекту. Компанія пов’язала ключовий кластер цієї активності з особами, асоційованими зі стартапом Moonshot AI з Китаю — розробником Kimi, повідомляє CNBC Top News.
За даними OpenAI, активність почалася на початку липня, а згодом різко посилилася: за два дні було надіслано 16 тисяч запитів від понад 4 тисяч користувачів. Зрештою компанія виявила пов’язану активність у кластері з більш як 15 тисяч користувачів і заявила, що повністю припинила кампанію до 28 липня.
В OpenAI наголосили, що оператори не зламували шифрування компанії, її бази даних або збережені розмови користувачів. Натомість вони маніпулювали взаємодією з моделями, намагаючись відтворити приховані міркування у вигляді, доступному для того, хто надсилає запит.
Більше актуальних новин читайте у Telegram-каналі UA.News.
Компанія назвала такий підхід «змагальною дистиляцією». Йдеться про використання відповідей або міркувань однієї ШІ-моделі для навчання чи поліпшення іншої. В OpenAI вважають, що отримання таких міркувань могло б дозволити іншим відтворювати передові можливості моделей без аналогічних інвестицій у їх розробку та захист, створюючи потенційні ризики для безпеки й національної безпеки.
OpenAI зазначила, що не змогла встановити, чи всі оператори були пов’язані з одним суб’єктом. Компанія повідомила, що передала висновки іншим розробникам ШІ через Frontier Model Forum та урядові канали обміну інформацією. Moonshot AI не надала CNBC коментаря на момент публікації.
За кілька тижнів до цього Anthropic звинуватила китайських розробників ШІ, зокрема Moonshot AI та Alibaba, у прихованому використанні моделі Claude для навчання власних систем.
- Останні
- Популярні
-
-
- Вересень, 30
-
-
-
-
-
-
-
-
-
-
-
-
-
-
-
-
-
Новини по днях
1 жовтня 2026
