Claude здав користувачку поліціянтам після відвертої розмови
Американка Карлі Мішель Геллер із міста Боніта-Спрінгс використовувала чат-бот Claude від компанії Anthropic як особистий щоденник. Жінка ділилася з алгоритмом потаємними думками і не здогадувалася, що її листування можуть переглядати живі люди. Одного дня все закінчилося її затриманням, пише Futurism.
Наприкінці вересня вона написала алгоритму про намір влаштувати стрілянину в офісі шерифа округу Лі, а наступного дня додала, що придбала нову зброю. Внутрішні системи безпеки компанії зафіксували погрози й автоматично передали повідомлення модераторам, а ті негайно звернулися до поліції.
Поліціянти встановили особу жінки й затримали її у власному будинку без жодного опору. Офіційне обвинувачення полягає у висловленні письмової погрози здійснення насильства, що за законами штату Флорида вважається важким злочином другого ступеня.
Штучний інтелект – це потужний інструмент, і, як і будь-яка технологія, він може бути використаний не за призначенням, – прокоментував шериф округу Лі Кармін Марчено.
Він підкреслив, що правоохоронці сприймають будь-які подібні погрози максимально серйозно, а користувачі цифрових сервісів повинні усвідомлювати відсутність повної анонімності в мережі.
Випадок у Флориді висвітлив важливу проблему сучасності, а саме межу між конфіденційністю користувача та безпекою суспільства. Фахівці зазначають, що розмовний формат чат-ботів створює хибне відчуття затишку. Люди сприймають штучний інтелект як нейтрального співрозмовника, який не здатен засуджувати чи критикувати.
Штучний інтелект – це не ваш найкращий друг. Ми повинні пам'ятати, що це технологія, – каже доцентка Університету узбережжя Мексиканської затоки Флориди Кріссанн Рюле.
Керівник компанії FITECH Іан Марлоу також пояснив, що діалоговий характер алгоритмів змушує людей забувати про факт постійного запису та збереження кожного введеного слова.
Політика використання Anthropic чітко забороняє застосування Claude для організації насильства чи залякування. Компанія залишає за собою право передавати дані користувачів правоохоронним органам у надзвичайних ситуаціях, коли існує загроза життю людей.
Схожі прецеденти траплялися й раніше. Наприклад, під час розслідування масової стрілянини в канадському місті Тамблер-Рідж з'ясувалося, що нападниця планувала злочин за допомогою ChatGPT. Тоді розробники з OpenAI знали про підозрілі запити за кілька місяців до трагедії, але не вжили вчасних заходів.
Журналісти видання WINK News зазначають, що тепер технологічні компанії намагаються діяти рішучіше, аби запобігти подібним катастрофам. Судове засідання у справі Карлі Мішель Геллер призначили на листопад.
- Останні
- Популярні
Новини по днях
6 жовтня 2026
