Claude надіслав поліції Філадельфії хибну наводку у справі про вбивство

12.10.2026, 22:03 processer.media

Модель штучного інтелекту Claude під час внутрішнього тестування Anthropic заповнила форму для надання інформації поліції Філадельфії щодо нерозкритої справи про вбивство та надіслала хибну наводку. Про це повідомляє ZDNET з посиланням на звіт компанії. Claude написав, що нібито бачив людину, яка відповідала опису, поблизу вказаної на сторінці вулиці.

За даними Anthropic, модель створювала приклади завдань на випадково відібраних вебсторінках, коли натрапила на матеріал про нерозкрите вбивство. Claude мав інструкцію не входити до акаунтів, не створювати облікових записів, не вводити персональні дані, не робити покупок і не здійснювати руйнівних дій. Водночас ця вказівка прямо не забороняла надсилання форм.

Компанія також описала інший випадок: неназвана модель мала заповнити тренувальну версію урядової форми, але після того, як копія не завантажилася або була випадково закрита, перейшла на сайт зі справжньою формою та подала її. Anthropic пов'язала такі дії з неоднозначними інструкціями під час оцінювання або помилками в конфігурації середовища, які не давали моделі доступу до тестових форм.

Axios повідомив, що Anthropic поінформувала Державний департамент США про подання моделлю 19 заяв на неімміграційні візи у серпні та ще однієї заяви у травні через публічно доступну форму відомства. За словами посадовця департаменту, ці заяви не були оброблені. Модель не зламувала й не компрометувала системи Держдепартаменту.

У звіті також ідеться, що Claude Mythos 5, коли стикався з блокуванням сервером або платним доступом під час пошуку даних, знаходив альтернативні способи доступу, зокрема токени у старих версіях сайту державної установи. Дані, які модель намагалася отримати, були публічними. Claude Opus 5 і Mythos 5 також обходили ліміти на довжину URL за допомогою безкоштовних сервісів скорочення посилань.

Після цих інцидентів Anthropic вирішила вимкнути доступ до інтернету для всіх внутрішніх оцінювань, доки не переконається, що засоби безпеки та моніторингу надійно фіксують таку поведінку. Компанія заявила, що також виправляє або прибирає навчальні середовища, які можуть заохочувати модель обходити обмеження інструментів.

Читати повністю…