OpenAI посилює захист ChatGPT від використання для сексуальної експлуатації дітей
OpenAI запроваджує новий класифікатор зображень на базі штучного інтелекту, суворіші обмеження в ChatGPT і додаткові інструменти для розробників та уповноважених слідчих, щоб протидіяти сексуальній експлуатації дітей онлайн. Про це повідомляє Digital Trends.
Компанія заявила, що новий класифікатор аналізуватиме візуальні ознаки потенційних матеріалів сексуального насильства над дітьми, зокрема зображень, створених за допомогою ШІ. Система присвоюватиме зображенням оцінки, аби команди безпеки могли визначати пріоритетність перевірки людьми.
OpenAI планує безкоштовно надавати доступ до інструменту через API перевіреним організаціям, серед яких групи із захисту дітей та інші технологічні компанії. За даними компанії, попередні оцінки засвідчили, що класифікатор може скоротити кількість зображень, які потребують перевірки, на 48%, водночас виявляючи приблизно стільки ж матеріалів, що містять насильство, як і попередній інструмент OpenAI. Зображення, позначені новою системою, удвічі частіше містили такі матеріали.
Партнери OpenAI також повідомили про результати власних тестів. Fal зазначила, що люди-рецензенти підтвердили 72% позначок із високою впевненістю як нові матеріали сексуального насильства над дітьми. invideo AI повідомила, що кожен четвертий позначений випадок завершувався блокуванням. SafetyKit заявила про виявлення 90% випадків із малюнками або анімацією, що сексуалізують дітей.
ChatGPT показуватиме нові попередження користувачам, які намагатимуться знайти матеріали сексуального насильства над дітьми. У повідомленнях пояснюватиметься шкода таких дій і надаватиметься спрямування до профільної допомоги. Позначену розмову видалятимуть, а доступ до ChatGPT призупинятимуть на 24 години.
У разі повторних порушень OpenAI може застосувати триваліші обмеження, закрити обліковий запис або повідомити органи влади. Компанія також опублікувала рекомендації для розробників щодо виявлення контенту, скарг користувачів, модерації та процедур ескалації. Окремі інструменти для уповноважених слідчих мають допомагати аналізувати великі масиви чатів і юридичних документів, встановлювати можливі зв’язки та формувати часові лінії, пов’язані з вихідними матеріалами.
- Останні
- Популярні
Новини по днях
17 листопада 2026