ШІ-створені вигадані автори з’явилися у сотнях фальшивих наукових робіт
Дослідники виявили сотні фальшивих наукових рукописів на платформах Zenodo та ResearchGate, серед авторів яких вказані вигадані ШІ персонажі. Як повідомляє Nature, такі імена регулярно генерують мовні моделі Claude, Gemini та GPT у відповідь на запити про створення вигаданих експертів.
Комп’ютерні науковці Нео Крістофер Чунг і Міхал Бжозовський із Samsung AI Center Warsaw описали результати аналізу в препринті, опублікованому в червні. Зокрема, Claude створювала образи вулканологів Елени Васкес і Маркуса Чена, Gemini — Аріса Торна та Лени Петрової, а моделі GPT часто використовували ім’я Елара Восс.
За даними дослідників, деякі з таких рукописів отримали справжні цифрові ідентифікатори DOI. Це означає, що записи потенційно можуть потрапляти до баз даних і пошукових систем, які агрегують наукову літературу. В окремих публікаціях «співавторами» були персонажі, згенеровані різними мовними моделями.
Чунг і Бжозовський протестували дев’ять версій Claude, десять версій GPT і одну версію Gemini, випущених у 2024–2026 роках. Вони просили моделі, зокрема, створити історії про двох біологів або партнерів-дослідників.
Автори зафіксували, що поява таких персонажів залежала і від конкретної моделі, і від її версії. У відповідях Claude Sonnet 4, випущеної у травні 2025 року, пара Елена Васкес і Маркус Чен траплялася приблизно у 23% запитів. У вибірці відповідей Claude Sonnet 4.6, випущеної у 2026 році, ці імена вже не з’являлися.
Єдина протестована версія Gemini генерувала пару Аріс Торн і Лена Петрова у 37% випадків. Моделі GPT не демонстрували сталих пар персонажів, але часто використовували ім’я Елара Восс. Бжозовський припустив, що виникнення таких повторюваних образів може бути пов’язане з особливостями пізніших етапів навчання моделей.
- Останні
- Популярні
Новини по днях
3 жовтня 2026
