Гендиректор Microsoft AI Мустафа Сулейман закликав посилити контроль ШІ
Гендиректор Microsoft AI Мустафа Сулейман заявив, що для безпечного розвитку штучного інтелекту недостатньо лише узгоджувати поведінку моделей із людськими цілями. На його думку, необхідні також механізми стримування, які обмежуватимуть автономність систем, їхній доступ до інструментів і можливість виходити за встановлені межі. Про це він сказав в інтерв’ю The Verge.
Microsoft опублікувала 37-сторінковий документ Humanist AI Code of Conduct, у якому виклала принципи розробки ШІ та підхід до складних питань, зокрема теми свідомості штучного інтелекту. Сулейман пояснив, що технології мають служити людям, залишатися підконтрольними та підпорядкованими людським цілям. Якщо система не відповідає цим критеріям, від неї слід відмовитися, зазначив він.
За словами керівника Microsoft AI, компанія готувала кодекс більшу частину року, консультуючись із науковцями, юристами, філософами, представниками громадськості та учасниками фокус-груп. Документ оприлюднили для публічного обговорення на шість тижнів. Microsoft розпочала роботу над напрямом суперінтелекту 11 місяців тому.
Сулейман вважає, що моделі не повинні обмінюватися інформацією мовою, яку люди не можуть перевірити, зокрема у форматі так званого neuralese. Він запропонував вимагати від систем комунікації людською мовою, щоб аудитори та оцінювачі могли її контролювати.
Також він висловився за галузеві стандарти, звітність щодо великих тренувальних запусків і незалежну перевірку окремих характеристик моделей. Сулейман назвав важливими не лише узгодження поведінки ШІ, а й обмеження його агентності та надійне стримування. Окремо він критикував підхід Anthropic до «добробуту моделей» і концепції свідомості ШІ, вважаючи такі погляди небезпечними для ширшої дискусії про узгодження систем із людськими цілями.
- Останні
- Популярні
Новини по днях
17 вересня 2026
