Дослідники закликали до незалежної перевірки водяних знаків ШІ
Дослідники Вейбінь Ху та Сюеру Чжан закликали забезпечити незалежну публічну перевірку технологій невидимих водяних знаків для текстів, створених за допомогою штучного інтелекту. У листі, опублікованому Nature, вони зазначили, що такі позначки можуть бути сигналом прозорості, однак мають обмеження як доказ можливих порушень.
Автори наголосили, що водяні знаки самі можуть ставати ціллю атак. За їхніми словами, під час випробувань попередніх підходів зловмисники визначали закономірності маркування через запити до мовних моделей. Після цього вони могли підробляти водяні знаки або вилучати їх із тексту.
Ху та Чжан послалися на дослідження, представлене на 41-й Міжнародній конференції з машинного навчання у 2024 році. У ньому атаки на попередні системи водяних знаків коштували менш як 50 доларів США, а їхній рівень успішності становив приблизно 80%.
Автори листа пов'язали ці результати з потребою незалежного громадського контролю за системами маркування ШІ-текстів. Вони звернули увагу на те, що вразливість таких технологій слід враховувати, коли водяні знаки використовують як інструмент для підвищення прозорості походження контенту.
- Останні
- Популярні
Новини по днях
27 жовтня 2026
