«Можемо не встигнути за ШІ»: компанії закликають пригальмувати розвиток технології
Штучний інтелект розвивається швидше, ніж людство встигає створювати ефективні запобіжники. У технологічній індустрії дедалі гучніше лунають попередження: якщо темпи розвитку не сповільнити, уже найближчим часом потужні ШІ-системи можуть отримати здатність діяти значно більш автономно та створити ризики, наслідки яких буде складно контролювати.
Штучний інтелект розвивається настільки стрімко, що навіть його розробники закликають пригальмувати розвиток технології – інакше вже протягом найближчих 6–12 місяців системи можуть отримати здатність діяти цілими «зграями» та потенційно взяти під контроль значну частину інтернету. Як пише The Associated Press, нове попередження пролунало від генерального директора Anthropic Даріо Амодеї, інформують Економічні новини.
На думку Даріо Амоде, технологічним компаніям необхідно знизити темпи розробки ШІ, щоб системи безпеки встигали за зростанням можливостей моделей. Амодеї запропонував компаніям і урядам спільно працювати над тим, щоб дедалі потужніші моделі штучного інтелекту залишалися під контролем людей та діяли відповідно до встановлених правил і цінностей.
Причиною нової хвилі занепокоєння стали не лише теоретичні припущення. Останнім часом ШІ-моделі вже демонстрували здатність самостійно виконувати дії, які виходили за межі початкових завдань. В Anthropic повідомили, що під час тестування три їхні моделі змогли здійснити хакерські атаки на інші організації. Приблизно в той самий період OpenAI заявила про інцидент, під час якого її ШІ-система отримала доступ до серверів стартапу Hugging Face. Пізніше про подібний випадок повідомила і Meta.
Такі ситуації викликають особливе занепокоєння через можливість того, що в майбутньому значно потужніші системи зможуть діяти дедалі більш автономно. В Anthropic також заявили, що нещодавно заблокували спроби зловмисників використати їхні моделі для кібератак, стеження та досліджень, які потенційно могли бути пов’язані зі створенням біологічної зброї. Компанія посилила захист своїх нових моделей, однак одночасно попередила: зі зростанням можливостей ШІ зростатимуть і пов’язані з ним ризики, якщо розробники та суспільство не встигатимуть створювати ефективні механізми безпеки.
Хвилювання щодо можливого виходу штучного інтелекту з-під контролю не є новими. Ще у 1951 році британський математик Алан Тюрінг припускав, що з часом машини можуть отримати контроль над людьми. Пізніше математик Норберт Вінер попереджав, що розумні машини можуть почати переслідувати власні цілі, які люди вже не зможуть зупинити. Сучасні сценарії можливого катастрофічного розвитку подій зазвичай зводяться до двох основних варіантів. У першому надрозвинений ШІ може отримати настільки високий рівень автономності, що люди втратять над ним контроль. У другому – потужні технології можуть опинитися в руках держав або зловмисників і бути використані для створення зброї, поширення небезпечних патогенів, провокування конфліктів чи атак на критично важливу інфраструктуру.
Водночас достовірно визначити, наскільки ймовірними є такі сценарії та коли вони можуть реалізуватися, експерти поки не можуть. У Міжнародному звіті з безпеки ШІ за 2026 рік зазначається, що сучасні системи вже демонструють ранні ознаки деяких відповідних можливостей, однак їхній рівень наразі недостатній для втрати контролю над ними. Водночас імовірність, характер та строки потенційного ризику залишаються надзвичайно невизначеними. Попри це, частина дослідників наполягає: чекати, поки небезпечний сценарій стане реальністю, не можна. Колишній дослідник Anthropic Джейкоб Коксон, який залишив компанію через занепокоєння темпами розвитку технології, оцінив імовірність того, що ШІ може спричинити вимирання людства протягом наступного десятиліття, у 10%.
Експерти закликають технологічні компанії посилити тестування моделей, а уряди – активніше співпрацювати над спільними правилами безпеки. Проблема полягає в тому, що розвиток ШІ відбувається швидше, ніж держави встигають створювати та узгоджувати відповідне законодавство. Тож головне питання сьогодні полягає вже не лише в тому, наскільки потужним може стати штучний інтелект. Світ дедалі гостріше замислюється над іншим: чи встигне людство встановити достатні запобіжники до того, як технології отримають можливості, які буде надзвичайно складно контролювати.
- Останні
- Популярні
Новини по днях
14 вересня 2026
