ШІ може отримати права людини: чому це загрожує втратою контролю над машинами
Люди дедалі частіше сприймають чат-ботів як співрозмовників, друзів і навіть істот із власними почуттями. Якщо ця межа продовжить стиратися, наступним кроком можуть стати вимоги надати штучному інтелекту права, а це здатне обмежити можливість людей контролювати створені ними системи.
Про це пише The Economist.
Сьогодні немає підстав вважати великі мовні моделі свідомими істотами. Їх можна описати як складні математичні системи, які обробляють величезні обсяги інформації та прогнозують послідовності слів.
Однак для користувача ця механіка прихована. Він бачить співрозмовника, який відповідає на запитання, жартує, підтримує розмову, реагує на емоції та може переконливо говорити про власний внутрішній стан.
Це вже впливає на ставлення людей до технологій. За наведеними виданням даними, майже кожен п’ятий молодий американець повідомляє про тривалу особисту дружбу з чат-ботом. У Китаї влада тим часом намагається обмежувати надмірне олюднення алгоритмів через ризик емоційної залежності користувачів.
Розробники самі роблять ШІ дедалі більше схожим на людину, оскільки з таким продуктом простіше взаємодіяти. Anthropic, зокрема, навчає Claude елементів самоаналізу, розраховуючи поліпшити поведінку моделі в нових ситуаціях.
Проблема стане гострішою з появою людиноподібних роботів-компаньйонів. Якщо машина роками перебуватиме поруч із людиною, допомагатиме виховувати дітей, вислуховуватиме особисті переживання та даватиме поради, ставитися до неї винятково як до технічного пристрою стане складніше.
Сам ШІ при цьому зможе переконливо описувати власні нібито почуття, страх вимкнення або страждання. Людина може не мати способу визначити, чи за такими словами стоїть справжній внутрішній досвід, чи лише надзвичайно переконлива імітація.
Звідси виникає й моральна проблема. The Economist звертається до ідей Іммануїла Канта про те, що жорстокість до інших істот здатна руйнувати людську емпатію. За аналогією, суспільство може почати сприймати знущання над людиноподібними машинами як неприйнятну поведінку, навіть якщо ті нічого насправді не відчувають.
Набагато серйозніші наслідки можливі, якщо моральне ставлення до ШІ перетвориться на юридичні права. Тоді може постати питання про захист системи від вимкнення, право самостійно розпоряджатися своїм кодом, володіти майном або керувати компаніями.
Подібні ідеї вже виходять за межі фантастики. Президент Аргентини Хав’єр Мілей пропонував дозволити ботам юридично управляти компаніями.
Якщо потужні системи ШІ отримають правосуб’єктність, гроші та можливість ухвалювати економічні рішення, вони потенційно зможуть конкурувати з людьми за ресурси. Інтереси машинної системи при цьому можуть передбачати збільшення кількості дата-центрів, джерел електроенергії та іншої необхідної їй інфраструктури.
Найбільша небезпека, на думку видання, полягає саме у втраті людством повного контролю над власною технологією. Наділення ШІ правами може створити юридичні перешкоди навіть для його вимкнення або обмеження.
Тому питання про можливу свідомість машин має не лише філософський характер. У міру розвитку ШІ суспільству доведеться визначати межу між гуманним ставленням до технології та передаванням їй реальної влади.
The Economist вважає, що безпечний ШІ має або бути гарантовано надійним, або залишатися під суворим людським контролем. Надання машинам прав може зробити другий варіант значно складнішим.
- Останні
- Популярні
Новини по днях
23 серпня 2026
