Наш веб-сайт використовує файли cookie, щоб забезпечити ваш досвід перегляду та відповідну інформацію. Перш ніж продовжувати користуватися нашим веб-сайтом, ви погоджуєтеся та приймаєте нашу політику використання файлів cookie та конфіденційність. cookie та конфіденційність

ШІ може створювати правдоподібні фальшиві наукові статті

processer.media

ШІ може створювати правдоподібні фальшиві наукові статті

Генеративний штучний інтелект здатен створювати наукові статті, що виглядають правдоподібно, практично одним натисканням кнопки, а академічні видавці намагаються виявляти такі тексти за допомогою рецензування та програм перевірки доброчесності. Про це пише IEEE Spectrum.

Видання описало експеримент позаштатного журналіста й доктора прикладної математики Бенджаміна Скуза, який намагався подати згенеровані ШІ роботи через захисні механізми IEEE. За словами редакторки тематичних матеріалів і ШІ Елізи Стрікленд, для одного з експериментів він фактично запустив створення досліду та написання статті, не редагуючи результат перед поданням.

За результатами експерименту, поєднання людського рецензування IEEE і програм для перевірки дослідницької доброчесності наразі дозволяє протидіяти матеріалам, створеним за допомогою безкоштовних інструментів. Водночас видання зазначає, що потужніші великі мовні моделі вже не припускаються тих самих очевидних помилок, що й безкоштовні версії.

Це перетворює перевірку на своєрідне змагання між дедалі переконливішими згенерованими матеріалами та системами, призначеними для їх виявлення. Автор публікації наголошує, що навіть корисні відповіді сучасних чатботів потребують перевірки, адже моделі можуть упевнено надавати неправдиву, але правдоподібну інформацію.

Подібну проблему має Вікіпедія. Еліза Стрікленд поспілкувалася з Еллією Леблеу — співзасновницею WikiProject AI Cleanup, волонтерської ініціативи з виявлення та вилучення створених ШІ матеріалів з енциклопедії. Команда проєкту працює з меншими ресурсами й меншою кількістю інструментів, ніж комерційні видавці.

Стрікленд зазначила, що Вікіпедія прагне зберегти статус сховища інформації, створеної людьми. На думку автора IEEE Spectrum, поширення недостовірних згенерованих матеріалів може послабити довіру до наукового доробку та інституцій, які перевіряють і систематизують знання.

  • Останні
Більше новин

Новини по днях

Сьогодні,
16 листопада 2026

Новини на тему

Більше новин