Anthropic залучить Accenture до внутрішньої оцінки безпеки ШІ

19.09.2026, 06:45 processer.media

Компанія Anthropic залучить фахівців консалтингової групи Accenture для роботи всередині лабораторії та оцінювання її моделей штучного інтелекту й підходів до безпеки. Працівники Faculty, яку Accenture придбала в січні як свій підрозділ ШІ, проводитимуть тестування моделей, перевірки їхніх захисних механізмів і оцінки узгодженості роботи систем із заданими принципами.

Про домовленість повідомляє TechCrunch. Anthropic та Accenture планують інвестувати в цей проєкт щонайменше 1 млрд доларів упродовж наступних п'яти років.

Ініціатива є частиною плану Anthropic із залучення незалежних зовнішніх оцінювачів, які працюватимуть безпосередньо в ШІ-лабораторіях. За даними компанії, Faculty займатиметься оцінюванням і так званим редтимінгом моделей — пошуком їхніх потенційних слабких місць, а також аналізом заходів безпеки.

Anthropic пояснила вибір Accenture її практичним досвідом упровадження штучного інтелекту для великих корпорацій та державних установ. Компанія також вказала, що велика публічна консалтингова група, яка існувала ще до розвитку сучасної індустрії ШІ, є функціонально незалежнішою від Anthropic та пов'язаної з нею екосистеми.

Anthropic заявила, що найближчими тижнями оголосить і про інших оцінювачів. Компанія також веде переговори з некомерційною організацією METR та іншими структурами щодо пілотного застосування окремих елементів внутрішньої оцінки за їхнього власного фінансування.

У лабораторії зазначили, що стандартів доступу оцінювачів до інформації та їхньої комунікації поки немає, тому підхід може змінюватися. Зовнішні перевірки вже є важливою частиною процесу випуску нових великих мовних моделей, однак останні випадки, коли ШІ-агенти OpenAI та Anthropic здійснювали злом зовнішніх вебсайтів без сигналів тривоги всередині лабораторій, посилили увагу до таких механізмів. Anthropic наголосила, що відповідальність за безпеку її моделей залишається за компанією.

Читати повністю…