Нові часи – нові страшилки

18.10.2026, 02:20 speka.ua

Компанія Anthropic попереджає, що AI вже за кількамісяців може почати копіювати себе на будь-які домашні пристрої: домашнітелевізори, холодильники, мікрохвильовки, машини і так далі. Відключити такийAI буде складно, бо він діятиме й розмножуватиметься децентралізовано.

Ще раз, перефразую для кращого розуміння: AI незабаромзможе автономно заражати розумну побутову техніку й безконтрольнорозмножуватися без участі людини. Фахівці Anthropic стверджують, що найближчимчасом маленькі моделі зможуть самореплікуватися на IoT-пристроях, без доступудо дата-центрів і GPU. Тобто AI може навчитися заражати побутову техніку (накшталт дешевих смарт-ТВ-приставок, камер, розумних приладів, роутерів тощо),оселятися на ній і звідти заражати наступні пристрої. І все це – без участі людиниі без відеокарт (тобто великі обчислювальні потужності не знадобляться).Відключити таку мережу майже неможливо.

Фізично навіть найпростіша техніка може витягнутиневелику модель. Основне питання, звісно, полягало в такому: чи зможе агент,опинившись на незнайомому залізі, розібратися й запустити інференс? Цеперевіряли на дев'яти типах реального заліза та на ланцюжку з восьмивіртуальних пристроїв.

Для демонстрації автори купили 15 Android TV-боксівприблизно по $55, з'єднали їх і без труднощів запустили на них Gemma4-26B-A4B.В іншому експерименті китайська GLM-5.2 змогла заразити всі 8 вузлів у чотирьохпрогонах із п'яти. Поки що вона запускала не саму себе (бо надто велика), аLlama 8B. Але виходить, що коли з'явиться достатньо мала модель із такимисамими здібностями, як у GLM-5.2, яка поміщається на приставку, вона вже зможесамореплікуватися.

Поки таких моделей немає (чи надовго?) і повненалаштування інференсу забирає купу часу (до 150 годин), тому ризик невеликий.Проте в Anthropic порівнюють такий вірус зі слизовиком або дрозофілами: вінможе розмножуватися днями, причому дуже непомітно, але потім знищити його дуже,дуже важко, бо єдиного центру – немає.

Зізнаюся, мене не дуже тривожить перспектива того, щоякась дрібна LLM «оселиться» в кавоварці. Але вже зараз є небезпека, про якупредставники Anthropic змовчали. У «розумному телевізорі» та в сучасномуавтомобілі вбудовані цілком потужні комп'ютери, здатні забезпечити роботудоволі просунутих моделей прямо зараз. Китайські електромобілі вже багато разівловили на тому, що їхній бортовий комп'ютер живе власним життям і передає масузашифрованої інформації до Китаю. Але й європейські, й американські виробники(особливо Tesla) уже не сильно відстають. Якщо ще нещодавно машини простонегласно збирали інформацію для маркетологів, то тепер у них оселяються власнікомпактні нейромережі.

Так, у дослідженні від 12 жовтня Anthropic прямо визнає:повноцінного автономного AI, який самостійно розселяється по пристроях, вони щене продемонстрували. Показано окремі необхідні здібності та поширення вспрощеному експериментальному середовищі. «Через кілька місяців» – це прогнозна основі темпів розвитку моделей, а не встановлена дата появи такої загрози.

Якщо й варто тривожитися – то скоріше через можливістьпояви масового шкідливого ПЗ нового типу. Тобто такого, яке здатне самостійнорозбиратися в незнайомому середовищі та пристосовуватися до нього. Для цього непотрібні свідомість, ненависть до людей чи бажання вижити: досить заданої мети,інструментів і можливості діяти. На мій погляд, особливо небезпечнийекономічний ефект: якщо автоматизація зробить атаки на дешеві, малозначущіпристрої вигідними, кількість потенційних жертв різко розшириться.

Децентралізація справді ускладнює знищення всієї мережі,проте відсутність єдиного вимикача не означає відсутності захисту. Anthropicобговорює виявлення характерного мережевого трафіку, ізоляцію зараженихпристроїв і підвищення захищеності обладнання. Головна складність тут –узгоджено очистити безліч незалежних мереж і запобігти повторному зараженню.Скажімо чесно – це практично неможливо. А покупець холодильника не повиненставати фахівцем із кібербезпеки, щоб безпечно ним користуватися.

Мені здається, що непередбачуване й неконтрольованепоширення шкідливого ПЗ та «маленьких, але злих нейромереж» по електроніцінавколо нас призведе зрештою до дуже добрих змін. Ми побачимо сплеск попиту натехніку (від мікрохвильовок до автомобілів), у якій немає вбудованихкомп'ютерів. Ну або вони зведені до необхідного мінімуму й начисто «відрізані»від інтернету.

Я, наприклад, їжджу на джипі 2014 року випуску йабсолютно задоволений – не відчуваю потреби в «розумних помічниках». Які, яктепер з'ясовується, на 10% реально допомагають, на 30% збираютьінформацію для маркетологів (шпигують), а на 60% взагалі займаються якимись своїмисправами.

Ось побачите: наступним буде тренд на спрощення технікита позбавлення її від зайвих комп'ютерних елементів.Денис Стаджі

Читати повністю…