Anthropic надала зовнішнім оцінювачам доступ до внутрішніх систем

18.10.2026, 20:50 processer.media

Компанія Anthropic надала некомерційній організації METR доступ до свого обладнання та внутрішніх систем для незалежного оцінювання ризиків моделей штучного інтелекту. Шестеро співробітників METR працюватимуть в офісі розробника Claude, користуватимуться корпоративним обладнанням і матимуть рівень доступу, приблизно співставний із доступом внутрішніх команд Anthropic з оцінювання ризиків.

Про новий формат зовнішньої перевірки повідомляє Ars Technica. У Anthropic заявили, що потужніші моделі потребують посилених запобіжників і складніших оцінок ризиків, а компанія прагне бути публічно підзвітною за рішення у сфері безпеки.

METR співпрацювала з провідними лабораторіями ШІ, зокрема OpenAI, Anthropic, Google та Meta. У компанії пояснили, що заохочуватимуть працівників ділитися даними з оцінювачами так само, як із колегами, які працюють над ризиками. Anthropic порівняла таку модель із наглядом за банками, коли регулятори призначають постійних інспекторів для роботи всередині найбільших установ.

За даними видання, Anthropic не платить METR за цю співпрацю. Дослідницька група не приймає пожертв від компаній зі сфери штучного інтелекту або їхніх працівників; її фінансують приватні особи, філантропічні організації та державні структури, зокрема британський AI Security Institute.

METR зможе публікувати власний аналіз без права Anthropic ветувати матеріали. Водночас компанія може вимагати вилучення окремих відомостей, зокрема даних клієнтів, інформації, захищеної адвокатською таємницею, або деталей архітектури моделей.

Anthropic також повідомила про продовження роботи з Accenture, яку минулого місяця назвали партнером із тестування безпеки. Окремо компанія співпрацює із SecureBio, що оцінює ризики, пов’язані з хімічною та біологічною зброєю. METR заявила про готовність працювати з усіма розробниками передових ШІ-систем, щоб надавати суспільству більше доказових даних.

Читати повністю…