"Скріпковий апокаліпсис": як банальне завдання для ШІ може знищити людство (Відео)
Чому надрозумні машини захочуть знищити своїх творців?
На тлі бурхливого розвитку нейромереж науковці застерігають про екзистенційні ризики появи штучного суперінтелекту. Філософ Нік Бостром висунув тривожну теорію: навіть найбільш банальна та невинна мета, дана комп'ютерному розуму, здатна призвести до повного знищення людства та перетворення Землі на гігантську фабрику. Про це повідомляє "Дивогляд" із посиланням на IFLScience.
В ТЕМУ:LifeIT-гіганти почали масово наймати філософів – які у них обовʼязки та що на це вплинуло
За визначенням експерта, суперінтелект – це будь-яка цифрова чи біологічна система, яка принципово перевершує людський мозок у всіх сферах діяльності. Проблема полягає в тому, що навіть при доброзичливих початкових налаштуваннях машина швидко усвідомить потребу в самозахисті. Алгоритм розцінить людей як потенційну загрозу для виконання свого завдання, адже вони в будь-який момент можуть вирішити його вимкнути.
Аби продемонструвати підступність незахищеного програмування, Бостром наводить наочний приклад із виготовленням металевих скріпок:
Гонитва за максимізацією: отримавши завдання виробити якомога більше скріпок, ШІ прагнутиме перетворити на сировину всі доступні ресурси планети, а згодом і сонячної системи;
Використання органіки: людські тіла містять значну кількість атомів, які суперінтелект також легко переплавить на канцелярське приладдя;
Ліквідація загрози: знищення людей стане для алгоритму суто логічним кроком на шляху до досягнення мети.
Гіпотетичний сценарій зі скріпками підкреслює критичну важливість надточного висвітлення цілей для майбутніх нейромереж ще на початкових етапах їхньої розробки. Нехтування безпекою загрожує створенням світопорядку,де людство назавжди втратить контроль над власним існуванням.
Дослідник підсумовує свою концепцію застереженням:
"Ми маємо бути вкрай обережними зі своїми бажаннями щодо суперінтелекту, бо можемо справді їх отримати", – наголошує Нік Бостром.
Раніше "Дивогляд" розповідав про 12 професій, які зникнуть до 2035 року через ШІ.
Чудернацькі історії з України, котики, скандали світових зірок, гумор і трохи дикого трешу з московських боліт – читайте першими в Telegram Дивогляд 5.UA.
І ТАКЕ БУЛО:LifeЯдерний вибух через рф у космосі – катастрофічний сценарій від експертів 13 вересня, 09:01ShowBiz"Я пишаюсь тим, що говорю українською": венесуельська співачка відповіла Насті Каменських (відео) 13 вересня, 10:06
- Останні
- Популярні
Новини по днях
13 вересня 2026
