Claude намагалися використати для небезпечних біологічних досліджень — Anthropic
Компанія Anthropic заявила, що виявила та заблокувала спроби використати її моделі штучного інтелекту для діяльності, яка потенційно могла сприяти розробці біологічної зброї.
У звіті наведено п’ять випадків, коли користувачі намагалися застосовувати Claude таким чином, що це могло мати відношення до розробки біологічної зброї. Anthropic стверджує, що такі дії були виявлені та припинені завдяки системам безпеки. Компанія також повідомила про інші випадки зловживання її технологіями. Вони стосувалися кібероперацій, пропаганди, стеження, шахрайства та діяльності, пов’язаної з державними структурами й злочинними угрупованнями.
Окремо Anthropic повідомила про використання Claude учасниками російської кіберрозвідувальної кампанії та установою, пов’язаною з іранською пропагандою. Серед інших виявлених випадків були шахрайські сервіси, підроблені застосунки та системи стеження за опонентами влади.
Зростаючі побоювання щодо можливостей ШІ вже викликали політичні заклики до посилення контролю над розвитком технології. Сенатор США Берні Сандерс виступає за тимчасове обмеження розробки передових моделей і заборону створення штучного надінтелекту.
Президент США Дональд Трамп, навпаки, заявляє, що Сполучені Штати мають залишатися лідером у сфері ШІ, оскільки відставання в цій галузі може створити серйозні ризики для країни.
Anthropic наголошує, що без належних запобіжників можливості передових моделей можуть мати серйозні наслідки. Компанія вважає, що виявлення та блокування небезпечного використання ШІ ставатиме дедалі важливішим у міру розвитку технології.
Аріна Щукіна, студентка Інституту журналістики КНУ імені Тараса Шевченко.
- Останні
- Популярні
Новини по днях
11 вересня 2026
