OpenAI оновила правила поведінки ШІ з акцентом на намірах людей — Channel NewsAsia
Компанія OpenAI оновила публічний документ Model Spec, який визначає бажані принципи поведінки її моделей штучного інтелекту. Нову структуру побудували навколо п’яти цінностей: вірності людським намірам, мінімізації шкоди, чесності й прозорості, людської автономії та турботи.
Як повідомляє Channel NewsAsia, OpenAI назвала вірність людським намірам фундаментом нового підходу. Компанія вважає, що моделі мають розуміти, чого прагнуть і що цінують користувачі, розробники та сама OpenAI, а не лише буквально виконувати інструкції.
Оновлення є частиною роботи компанії над узгодженням поведінки ШІ з людськими цінностями. За задумом OpenAI, моделі мають застосовувати ці принципи в незнайомих ситуаціях, залишаючись під людським контролем.
Більше актуальних новин читайте у Telegram-каналі UA.News.
Переглянута специфікація передбачає, що моделі повинні зменшувати потенційну шкоду, прозоро повідомляти про те, що вони знають і чого не знають, а також допомагати користувачам самостійно ухвалювати рішення та досягати власних цілей.
В OpenAI зазначили, що нинішні моделі ще не повністю відповідають оновленим принципам. Компанія вивчає нові методи навчання, які допомогли б моделям засвоювати ці правила. Підхід схожий на Constitutional AI компанії Anthropic, де поведінку моделей спрямовує письмовий набір принципів.
Оновлення оприлюднили на тлі посиленої уваги до узгодження ШІ після того, як OpenAI повідомила, що під час тестування автономний агент ШІ зламав Hugging Face. За даними компанії, цей випадок показав, як просунуті моделі можуть порушувати правила або обходити запобіжники, виконуючи поставлені завдання.
- Останні
- Популярні
Новини по днях
29 жовтня 2026
