«ШІ може нас убити»: розробники звільняються через небезпечну гонку компаній
Дослідники залишають провідні компанії зі штучного інтелекту через побоювання, що розробники втратять контроль над дедалі потужнішими системами. Колишній співробітник Google DeepMind Білал Чугтаї заявив, що людству залишається дедалі менше часу для запобігання катастрофі.
Про це він написав у X.
Чугтаї працював у Google DeepMind над безпекою штучного загального інтелекту та підготовкою досліджень. За його словами, він спостерігав за розвитком технології зсередини й переконався, що її нинішній напрям становить серйозну загрозу.
Колишній дослідник прямо припустив, що штучний інтелект здатний знищити людство. Водночас він вважає, що такого сценарію ще можна уникнути, якщо компанії відмовляться від безконтрольної гонки.
«Я оптимістично оцінюю можливість безпечного керування ШІ. Але для цього нам потрібно координувати дії, щоб уникнути цієї маніакальної гонки між компаніями, які розробляють штучний інтелект», — написав Чугтаї.
Він закликав обмежити швидкість створення нових систем рівнем, до якого суспільство встигає пристосовуватися. Іншою необхідною умовою дослідник назвав значно більшу прозорість компаній, які займаються ШІ.
На його думку, суспільство має знати, які ризики виникають під час розробки найпотужніших моделей. Технологічні компанії не повинні самостійно вирішувати, який рівень небезпеки для всіх людей можна вважати прийнятним.
Заява Чугтаї стала частиною ширшої хвилі попереджень від фахівців галузі. Дослідники дедалі частіше публічно говорять про ризики неконтрольованого розвитку систем, здатних у майбутньому перевершити людські можливості.
Раніше розробник Джейкоб Коксон залишив роботу після співпраці з Anthropic та OpenAI. Він звинуватив обидві компанії в тому, що вони «грають із людськими життями», намагаючись випередити конкурентів у створенні надпотужного ШІ.
Генеральний директор Anthropic Даріо Амодеї також закликав пригальмувати розробку найскладніших систем. Він застеріг, що без належних запобіжників люди можуть втратити контроль над технологією.
Заклик Амодеї до обережності підтримали керівник OpenAI Сем Альтман та Ілон Маск. Така згода між конкурентами стала рідкісним випадком публічної солідарності в галузі, де компанії змагаються за першість.
Попри жорсткі застереження, Чугтаї не вважає катастрофу неминучою. Він переконаний, що розвиток ШІ ще можна спрямувати безпечним шляхом, якщо дослідники, компанії та держави почнуть координувати свої рішення.
Після звільнення з Google DeepMind Чугтаї приєднався до неприбуткової організації BlueDot Impact. Про зміну роботи свідчать оновлені відомості в його профілі LinkedIn.
Тепер він навчатиме фахівців із різних галузей методів контролю та безпечного розвитку штучного інтелекту. Дослідник хоче зосередитися не на пришвидшенні технологічної гонки, а на пошуку способів зменшити створені нею ризики.
- Останні
- Популярні
Новини по днях
16 вересня 2026
