OpenAI викрила складні операції «фальшивих фронтів» з використанням ШІ

08.10.2026, 22:10 expert.com.ua

Компанія OpenAI, відома своїми розробками в галузі штучного інтелекту, повідомила про викриття двох складних операцій з дезінформації, які використовували її моделі для поширення пропаганди та маніпулювання громадською думкою. Ці операції, що походять з Росії та Ірану, застосовували так звані «фальшиві фронти» – приховані структури, які видавали себе за незалежні організації чи ЗМІ, щоб приховати справжніх замовників та їхні геополітичні мотиви.

Протягом останніх двох з половиною років OpenAI регулярно інформувала про спроби зловмисників використати її технології для кібератак, прихованих впливових операцій, шахрайства та інших порушень своїх правил. Ці звіти покликані інформувати регуляторів, колег по галузі та суспільство загалом про методи, якими зловмисники намагаються експлуатувати можливості ШІ, та про вразливості, які вони прагнуть використати.

Нещодавно компанія заблокувала дві операції впливу (IO) – одну з Росії, іншу з Ірану. Вони комбінували моделі OpenAI з традиційними техніками для підтримки складних «фальшивих фронтів», що використовувалися для вкидання геополітичного контенту та наративів, пов’язаних з конфліктами, у цільові аудиторії.

Іранська операція включала групу з семи «журналістських» персонажів, які пропонували довгі статті невеликим та середнім онлайн-виданням по всьому світу. Російська операція, схоже, залучила неусвідомлених осіб у Латинській Америці для управління «аналітичним центром» на місцях.

Зловмисники з Росії використовували серію облікових записів ChatGPT для здійснення прихованих впливових операцій, спрямованих проти країн Латинської Америки. Основною метою було підрив репутації України в регіоні, а також вплив на місцеві політичні процеси, зокрема в Аргентині та Болівії. Оператори переважно використовували російську мову для взаємодії з моделлю, хоча один з них спілкувався іспанською, залишаючись, ймовірно, у Росії. OpenAI поділилася інформацією щодо цього випадку з відповідними органами.

ChatGPT використовувався для написання внутрішніх звітів про діяльність, створення контенту для операцій та підготовки звітів про ефективність так званої «дослідницької платформи» у Латинській Америці під назвою «Social Research Center» (SRC). Оператори керували SRC через фейковий персонаж на ім’я «Mia Clark». Через заборону доступу до моделей з Росії, вони використовували VPN.

У своїх внутрішніх звітах оператори стверджували, що поширювали фейкові історії в Латинській Америці для дискредитації України або місцевих лідерів. Деякі з цих фейків були пов’язані з російською організацією «Politology» або «La Compania», яка вважається наступницею групи Вагнера. Оператори також запитували модель про переклади та пояснення публічних звітів щодо «Politology» та Вагнера.

Ця операція була незвичайною, оскільки, схоже, їй вдалося залучити до співпраці осіб у Латинській Америці, які не знали про справжню природу проекту. SRC нібито виробляв значну частину оригінального контенту через залучений персонал, що відрізняє його від інших викритих операцій. Масштаб поширення фейків призвів до появи фактчеків та офіційних спростувань, що свідчить про значне проникнення.

Операція «Dark Clark» була оцінена за шкалою IO Breakout Scale як Категорія 5, що є найвищим рівнем, який OpenAI викривала досі. Вона успішно доносила свій контент до мейнстрімних ЗМІ, а не обмежувалася соціальними мережами.

Зловмисники з Ірану використовували облікові записи ChatGPT, спілкуючись перською мовою та генеруючи контент перською та англійською. Вони використовували VPN для приховування свого місцезнаходження. Операція спрямовувалася на уточнення довгих статей та пропозицій щодо їх публікації, створення коментарів для соціальних мереж та вдосконалення внутрішніх звітів.

Оператори використовували сім різних вигаданих прізвищ (bylines) для подання своїх статей, що й дало назву кампанії «Bogus Bylines». Довгі статті зосереджувалися на конфлікті між США та Іраном. Більшість коментарів також стосувалася цього конфлікту, а меншість – політики США в контексті конфлікту.

Основна діяльність полягала у використанні ChatGPT для доопрацювання довгих статей англійською мовою про геополітику конфлікту між США та Іраном. Модель також використовувалася для підготовки електронних листів для надсилання редакторам онлайн-видань. Для цього використовувалися вигадані персонажі, такі як Ervin B. Hoskins, Noah Lamington, Sophia Gonzalez, Michael Harrison, Ericka Feusier, Jenny Williams та Alice Johnson, які видавали себе за західних журналістів.

За допомогою відкритих джерел було виявлено майже 100 статей, опублікованих під цими вигаданими прізвищами у понад десятку онлайн-видань, що спеціалізуються на міжнародних відносинах, геополітиці та подіях на Близькому Сході. Публікація статей значно зросла після початку конфлікту між США та Іраном.

Окрім статей, оператори генерували коментарі для соціальних мереж англійською та перською мовами, які стосувалися геополітичних тем. Вони також використовували ШІ для створення внутрішніх звітів про свою кампанію у соціальних мережах, застосовуючи сумнівні методи підрахунку для завищення показників ефективності.

Незважаючи на низьку ефективність коментарів у соціальних мережах (Категорія 2 за шкалою IO Breakout Scale), успіх у публікації статей у різних медіа, деякі з яких мають значну аудиторію, дозволяє оцінити цю частину операції як Категорію 4.

OpenAI наголошує, що ШІ може надавати таким операціям «фальшивих фронтів» більший масштаб, ефективність, лінгвістичну плавність та редакційні можливості, дозволяючи їм експлуатувати неуважних жертв та просувати свій контент перед аудиторіями, які не усвідомлюють справжніх мотивів.

джерело: OpenAI

Читати повністю…