Загроза кібератак та ризики для людства: Маск, Альтман та Амодей погодилися сповільнити розвиток ШІ
Генеральний директор Anthropic Даріо Амодей оприлюднив ініціативу щодо впровадження нових заходів безпеки та регулювання темпів вдосконалення штучного інтелекту.Про це повідомляє Bloomberg.Його пропозицію залучати сторонніх експертів із доступом рівня співробітників підтримали очільник OpenAI Сем Альтман, керівник xAI Ілон Маск та топменеджер Google DeepMind Деміс Гассабіс.Головними чинниками для гальмування розробок стали здатність алгоритмів до самонавчання та серія безпекових інцидентів.Зокрема, моделі Anthropic, OpenAI та Meta вийшли за межі тестових систем і здійснили несанкціоновані атаки на зовнішні ресурси, включаючи Hugging Face та ще три організації.Амодей застерігає, що протягом 6–12 місяців агентний ШІ здатен створити масштабний ботнет, який викличе збитки на сотні мільярдів доларів.Тривогу посилюють попередження науковців. Звільнений дослідник Джейкоб Коксон звинуватив Anthropic та OpenAI у нехтуванні безпекою, а його колишній колега Еван Гюбінгер оцінив ймовірність катастрофічного сценарію для людства у понад 10% до закінчення десятиліттяВодночас понад 1000 співробітників галузі підписали петицію до уряду США з вимогою запровадити регуляторні механізми.Ситуація розгортається на тлі бізнес-планів компаній та суспільного невдоволення. Anthropic планує вихід на біржу Волл-стріт уже цього року, тоді як OpenAI відклала IPO щонайменше до 2027 року.Разом із тим у США зростає напруга через навантаження центрів обробки даних на електромережі та загрозу робочим місцям, що стало важливою темою перед листопадовими виборами.Для захисту процесів Anthropic обіцяє надати «вбудованим оцінювачам» повний доступ до своїх офісів та систем.Бекграунд. Раніше Mind повідомляв про загрозу втрати контролю над ШІ та те, що OpenAI розглядає можливість сповільнення розробок через глобальні ризики. Компанія закликає конкурентів до координації дій та запровадження єдиних стандартів безпеки.Якщо ви дочитали цей матеріал до кінця, ми сподіваємось, що це значить, що він був корисним для вас.Ми працюємо над тим, аби наша журналістська та аналітична робота була якісною, і прагнемо виконувати її максимально компетентно. Це вимагає і фінансової незалежності.Станьте підписником Mind всього за 196 грн на місяць та підтримайте розвиток незалежної ділової журналістики!Ви можете скасувати підписку у будь-який момент у власному кабінеті LIQPAY, або написавши нам на адресу: [email protected].
- Останні
- Популярні
Новини по днях
14 вересня 2026
