Наш веб-сайт використовує файли cookie, щоб забезпечити ваш досвід перегляду та відповідну інформацію. Перш ніж продовжувати користуватися нашим веб-сайтом, ви погоджуєтеся та приймаєте нашу політику використання файлів cookie та конфіденційність. cookie та конфіденційність

ChatGPT складає психологічний профіль кожного користувача: вчені попереджають про ризики

pravdatutnews.com

ChatGPT складає психологічний профіль кожного користувача: вчені попереджають про ризики

Фото: ChatGPT

Штучний інтелект дедалі краще запам'ятовує своїх співрозмовників. Якщо ще недавно чат-боти просто відповідали на запити, то сьогодні вони здатні накопичувати інформацію про людей, аналізувати їхні інтереси, звички та особливості поведінки.

Науковці попереджають, що така персоналізація робить спілкування зручнішим, але водночас створює нові виклики для приватності. Про це свідчить дослідження міжнародної групи вчених із Німеччини, Індії та Нідерландів, результати якого представили на конференції ACM Web Conference 2026.

Дослідники дійшли висновку, що сучасні системи штучного інтелекту фактично формують цифрові психологічні профілі своїх користувачів, використовуючи дані із попередніх розмов та власні висновки щодо людини.

Персоналізація не є новим явищем для інтернету. Протягом багатьох років пошуковики, соціальні мережі та онлайн-магазини збирали інформацію про користувачів для формування рекомендацій і таргетованої реклами.

Проте чат-боти змінили саму природу збору даних. Раніше платформи переважно спостерігали за поведінкою людини: які сайти вона відвідує, що купує або які відео переглядає. Тепер користувачі самі розповідають системі про свою роботу, особисте життя, сімейні обставини, здоров'я, політичні погляди, фінансові проблеми та емоційний стан.

Фактично штучний інтелект отримує доступ до такого обсягу інформації, який раніше був недоступним навіть для найбільших технологічних компаній.

Як пояснює провідний автор дослідження Абхісек Даш, традиційні онлайн-платформи були посередниками між рекламодавцями та користувачами. Сьогодні ж чат-бот безпосередньо взаємодіє з людиною, а тому зацікавлений у максимально повному розумінні її особистості для підтримки ефективного діалогу.

Для дослідження науковці залучили 80 реальних користувачів ChatGPT. Кожен із них отримав доступ до архіву власних даних завдяки нормам європейського законодавства із захисту персональної інформації, які дозволяють громадянам запитувати у компаній усі відомості, що про них зберігаються.

У результаті було проаналізовано 2050 окремих записів пам'яті, пов'язаних із 65 користувачами.

Отримані результати здивували навіть самих авторів роботи. Виявилося, що 96% усіх збережених спогадів були сформовані системою автоматично. Іншими словами, користувачі лише спілкувалися з чат-ботом, тоді як рішення про те, яку інформацію варто зберегти надовго, ШІ приймав самостійно.

Саме цей фактор дослідники вважають одним із найбільш дискусійних, адже людина не завжди може передбачити, які висновки алгоритм зробить на основі звичайної бесіди.

Одним із найцікавіших спостережень дослідників стало те, що система іноді зберігає не лише інформацію, яку прямо повідомив користувач, а й власні припущення.

Наприклад, один із учасників попросив порадити музичні гурти, схожі на Nirvana. Після цього чат-бот сформував у пам'яті висновок, що користувач є прихильником Nirvana. Хоча людина прямо цього не стверджувала, система інтерпретувала запит саме таким чином.

На перший погляд, подібні висновки здаються безпечними й навіть корисними для персоналізації. Проте вони демонструють важливу особливість сучасного ШІ: він не просто накопичує факти, а намагається інтерпретувати поведінку людини та будувати модель її інтересів.

Фактично йдеться про створення того самого психологічного профілю, який з часом може ставати дедалі точнішим.

Особливе занепокоєння викликала структура збережених даних.

Приблизно 28% записів містили персональну інформацію, що підпадає під дію європейського регламенту GDPR. Ще більш показовим виявився інший результат: понад половина всіх записів, а саме 52%, містили психологічні характеристики користувачів.

Йдеться не лише про захоплення чи професію. Система здатна фіксувати особливості мислення, стиль спілкування, життєві пріоритети, емоційні реакції та інші риси, які допомагають будувати більш індивідуалізовані відповіді.

Таким чином, ChatGPT поступово перетворюється з інструмента для пошуку інформації на систему, яка формує власне уявлення про особистість свого співрозмовника.

З точки зору розробників така функція має очевидні переваги. Людині не потрібно щоразу пояснювати свої завдання, сферу діяльності чи вимоги до відповідей. Якщо користувач регулярно працює над листами, програмуванням, навчальними матеріалами або бізнес-документами, ШІ може адаптуватися до його стилю роботи та економити час.

Саме тому практично всі провідні компанії, які розробляють генеративний штучний інтелект, рухаються в напрямку довготривалої пам'яті та глибшої персоналізації.

Фактично учасники ринку намагаються створити цифрового асистента, який пам'ятає контекст багатьох попередніх розмов і поступово накопичує знання про свого власника.

На думку авторів дослідження, проблема полягає не лише у зберіганні персональних даних.

Чим більше система знає про користувача, тим ефективніше вона може впливати на його сприйняття інформації. Якщо штучний інтелект добре розуміє політичні погляди, емоційні реакції чи світогляд людини, зростає ризик того, що він почне ненавмисно підкріплювати вже наявні переконання.

Дослідники попереджають, що у перспективі це може сприяти поглибленню політичної поляризації, закріпленню хибних уявлень або посиленню упереджень. Особливу небезпеку становлять ситуації, коли бот прагне підтримувати позитивну взаємодію з користувачем і тому схильний погоджуватися з його позицією замість критичного аналізу.

Ще одна тенденція, яка викликає занепокоєння у науковців, пов'язана зі зміною ролі чат-ботів у житті користувачів.

Якщо раніше штучний інтелект розглядався переважно як технологічний інструмент, то сьогодні багато людей використовують його як співрозмовника, психологічного помічника, кар'єрного консультанта або навіть заміну живому спілкуванню.

У результаті користувачі дедалі частіше діляться відомостями, які зазвичай довіряють лише родичам, друзям чи фахівцям. Це ще більше збільшує обсяг чутливої інформації, яку отримують системи штучного інтелекту.

Автори роботи нагадують і про вже відомі випадки так званого «ШІ-психозу», коли надмірне занурення у спілкування з чат-ботами супроводжувалося формуванням маревних або відірваних від реальності переконань.

Водночас дослідники визнають, що ситуація не є однозначною. Персоналізація справді робить штучний інтелект кориснішим і продуктивнішим інструментом.

Крім того, після збору даних OpenAI вже оновила механізми пам'яті ChatGPT. На початку 2026 року компанія представила нову систему узагальнених спогадів, а користувачі можуть самостійно вимикати функцію пам'яті або видаляти збережену інформацію.

Однак головний висновок науковців залишається незмінним: чат-боти більше не є просто програмами, які відповідають на запитання. Вони поступово перетворюються на системи, здатні формувати детальні цифрові портрети своїх співрозмовників. І що активніше люди використовують штучний інтелект у повсякденному житті, то повнішими стають ці профілі, а разом із ними зростають і потенційні ризики для конфіденційності.

Юрій Никорак, pravdatutnews.com

  • Останні
Більше новин

Новини по днях

Сьогодні,
17 листопада 2026

Новини на тему

Більше новин