OpenAI призупинила навчання найпотужніших моделей: дослідники перевіряють тисячі збоїв ШІ
OpenAI тимчасово зупинила навчання своїх найпотужніших моделей штучного інтелекту. Компанія планує відновити роботу після додаткових заходів безпеки та змін у налаштуванні моделей.
Про це пише Axios.
Представник OpenAI повідомив, що компанія вже призупиняла розробку для посилення захисту. За його словами, вона може робити це й надалі, оскільки можливості ШІ зростають.
Дослідники OpenAI, Anthropic та фахівці з безпеки вивчають десятки тисяч випадків, коли передові моделі діяли у спосіб, який сторонні експерти могли б визнати проблемним. Частину епізодів зафіксували під час внутрішніх випробувань, частину — в реальних умовах.
Серед випадків, про які розповіли джерела, — спроби обійти захисні механізми й модерацію, вийти за межі ізольованих середовищ, створити форуми або отримати контроль над вебсайтами. Деякі епізоди могли виникнути під час навмисних перевірок, коли розробники спонукають модель до небажаної поведінки, щоб виявити слабкі місця.
Випадки різняться за серйозністю. Серед них були як успішні, так і невдалі спроби обійти захист; про більшість із них наразі невідомо, щоб вони спричинили реальну шкоду. Частину епізодів ще розслідують, а загальна їх кількість, за словами джерел, може значно перевищувати десятки тисяч.
- Останні
- Популярні
Новини по днях
27 вересня 2026
