OpenAI запроваджує водяні знаки для текстів ШІ: тепер їх легше буде розрізнити
OpenAI починає впроваджувати невидиме цифрове маркування текстів, які генерують ChatGPT та Codex. Технологія допоможе визначати, чи був матеріал створений або оброблений за допомогою моделей компанії. Про це OpenAI повідомила 5 жовтня.
Нову систему під назвою textGrain поступово впроваджуватимуть для користувачів ChatGPT і Codex у Європейському Союзі. Компанія пояснює це необхідністю виконувати вимоги Європейського акта про штучний інтелект, який передбачає машинне розпізнавання контенту, створеного ШІ.
textGrain не додає до тексту прихованих символів, зайвих пробілів чи спеціальних знаків. Натомість система змінює статистичний розподіл вибору слів і частин слів під час генерації. Спеціальний детектор зможе перевіряти текст на наявність такого сигналу.
За даними OpenAI, точність розпізнавання залежить від обсягу та характеру тексту. У тестах система виявляла маркування приблизно у 80% текстів на 200 токенів та у 95% матеріалів на 400 токенів. Для математичних текстів показники були нижчими через обмежену кількість варіантів формулювань.
Водночас редагування може суттєво послабити цифровий слід. Якщо замінити синонімами 10% слів, показник виявлення знижувався приблизно з 92% до 66%. Після заміни 25% слів він падав до 17%.
OpenAI наголошує, що маркування не показує, скільки саме людина працювала над текстом, хто є його автором або власником. Воно також не дозволяє встановити особу користувача, його обліковий запис чи промпт.
Відсутність водяного знака теж не означає, що текст точно написала людина. Сигнал може не визначатися через малий обсяг матеріалу, редагування, переклад або інші фактори.
Спочатку доступ до детектора отримають лише схвалені дослідники та профільні організації. OpenAI планує згодом зробити технологію textGrain відкритою, щоб інші розробники могли використовувати її та вдосконалювати систему.
Для користувачів API текстове маркування вже доступне за бажанням у всьому світі для окремих моделей. За замовчуванням воно там вимкнене.
- Останні
- Популярні
Новини по днях
6 жовтня 2026
