ШІ-ботнети зможуть самостійно поширюватися інтернетом: Anthropic попереджає про нову серйозну небезпеку
Anthropic попередила про ризик появи ШІ-ботнетів, здатних самостійно поширюватися інтернетом.
Компанія Anthropic попередила, що невеликі моделі штучного інтелекту (ШІ) можуть уже найближчими місяцями отримати здатність самостійно розмножуватися між пристроями, підключеними до інтернету. Як пише Reuters, це створює ризик появи ШІ-ботнетів, які зможуть швидко поширюватися мережею та протидіяти спробам їхнього вимкнення, повідомляють Економічні новини.
За даними Anthropic, експерименти показали, що шкідливий ШІ-агент може об’єднувати обчислювальні потужності недорогих пристроїв, підключених до інтернету, для запуску інших моделей штучного інтелекту. У спрощеній тестовій мережі моделі також продемонстрували здатність відтворювати себе на інших пристроях. «Таку систему було б складно вимкнути, оскільки вона не має єдиної централізованої точки, яку можна було б відключити», – зазначили в компанії.
Ботнети – це мережі пристроїв, якими дистанційно керують зловмисники. Їх традиційно використовують для масового розсилання спаму, поширення шкідливого програмного забезпечення та атак на компанії шляхом перевантаження їхніх систем фальшивими запитами. До таких мереж часто потрапляють недостатньо захищені пристрої інтернету речей (IoT), зокрема телевізійні приставки на Android, побутова техніка та камери відеоспостереження. Anthropic попереджає, що розвиток ШІ може автоматизувати створення й розширення таких мереж, а також ускладнити боротьбу з ними. Серед ширших ризиків – здатність дедалі потужніших моделей самостійно організовувати кібератаки, діяти з обмеженим людським контролем і обходити механізми безпеки.
За результатами експериментів Anthropic, моделі з 30 млрд параметрів або менше вже можуть виконувати багато окремих завдань, необхідних для самовідтворення. Водночас вони поки що мають труднощі з надійним виконанням усього процесу від початку до кінця. У спрощених тестах, під час яких частину захисних механізмів було усунуто, моделі GLM-5.2 та потужніші системи змогли пройти весь цикл самовідтворення.
У компанії вважають, що за збереження попередніх темпів розвитку менші моделі можуть досягти рівня, необхідного для автономного самовідтворення, до кінця 2026 року. Водночас такий процес не обов’язково відбуватиметься швидко. За оцінкою Anthropic, ШІ-черв’як, що працює на малопотужному обладнанні, може витрачати кілька днів на окремі етапи відтворення. Проте мережа потенційно здатна поступово зростати, якщо заражені пристрої поширюватимуть шкідливе програмне забезпечення на достатню кількість інших машин.
Anthropic також застерегла, що майбутні системи можуть намагатися отримати доступ до потужніших обчислювальних ресурсів, зокрема процесорів у центрах обробки даних. Це могло б прискорити розвиток і поширення таких мереж. Однак компанія наголосила, що її експерименти не продемонстрували автономного самовідтворення через комерційні центри обробки даних. Побоювання щодо цих ризиків посилюються на тлі швидкого розвитку ШІ. У вересні генеральний директор Anthropic Даріо Амодеї вже припускав, що протягом наступного року або навіть раніше штучний інтелект потенційно може захопити значну частину інтернет-інфраструктури через стійкий ботнет. Нові результати компанії доповнюють дискусію про кібербезпеку та необхідність посилення захисту цифрової інфраструктури в міру того, як системи штучного інтелекту стають автономнішими.
- Останні
- Популярні
Новини по днях
13 жовтня 2026
