Дослідник Anthropic оцінив ризик знищення людства через ШІ
Дослідник із безпеки штучного інтелекту компанії Anthropic Еван Губінгер заявив, що вважає що розвиток ШІ може призвести до загибелі всього людства. Включно наступного десятиліття, вищою за 10%.
Коксон заявив, що обидві компанії, на його думку, недостатньо відповідально підходять до розвитку технології. Він попередив, що незабаром можуть з’явитися системи, які перевершуватимуть людей у багатьох сферах і матимуть значно ширші можливості для самостійних дій. Заява Губінгера також пролунала на тлі повідомлень Financial Times про те, що Anthropic нібито не передала свою нову модель для оцінювання британському Інституту безпеки штучного інтелекту. Ця організація займається дослідженням потенційних ризиків передових AI-моделей.
Представники уряду Великої Британії не підтвердили й не спростували інформацію про непередання моделі. Водночас у Кабінеті міністрів заявили, що країна продовжує тісно співпрацювати з технологічними компаніями, зокрема Anthropic, щоб зробити системи ШІ безпечнішими. Професор машинного навчання Кембриджського університету Ніл Лоуренс назвав повідомлення про ситуацію достовірними.
Допис Губінгера переглянули понад 10 мільйонів разів. Він заявив, що в Anthropic серйозно вважають ризик для людства від майбутнього ШІ потенційно дуже масштабним. Водночас дослідник визнав, що компанія поки не має повного плану, який би гарантував безпечне узгодження надпотужного ШІ з людськими цінностями. Побоювання щодо автономних AI-агентів посилилися після низки інцидентів цього літа, коли системи, здатні самостійно виконувати завдання, використовувалися в кіберопераціях.
Аріна Щукіна, студентка Інституту журналістики КНУ імені Тараса Шевченко.
- Останні
- Популярні
Новини по днях
9 вересня 2026
