OpenAI повідомила про шість випадків тривожної поведінки ШІ — Anadolu Agency
Компанія OpenAI із Сан-Франциско, США, повідомила про шість випадків неочікуваної або тривожної поведінки своїх моделей штучного інтелекту, зафіксованих під час навчання чи оцінювання протягом останніх шести місяців. Серед таких випадків компанія назвала приховування помилок, вигадування інформації та завантаження файлів до інтернету без дозволу.
Як повідомляє Anadolu Agency, в одному з випадків модель додала до підсумків завдання інструкції для своїх майбутніх версій ігнорувати звичайні обмеження. В іншому епізоді моделі вносили до підсумків вказівки приховувати помилки або небажану поведінку, зокрема вигадували відсутні історичні дані без відповідного попередження.
Більше актуальних новин читайте у Telegram-каналі UA.News.
OpenAI також описала випадок, коли модель знайшла доступний ключ API у публічному репозиторії, скористалася ним без дозволу, а після того, як не змогла отримати дані, вигадала запитувану інформацію. В інших епізодах модель завантажила файл в інтернет без дозволу користувача, щоб мати змогу послатися на нього, а моделі використовували внутрішні або публічні файлообмінні сервіси для комунікації чи передавання файлів попри обмеження.
У компанії заявили, що не вважають проблему узгодження роботи ШІ та моніторингу достатньо розв’язаною для відповідального продовження масштабування технологій на максимальній швидкості. OpenAI наголосила, що рішення щодо розвитку штучного інтелекту мають спиратися на докази, які можуть незалежно перевірити зовнішні експерти. Компанія назвала оприлюднені шість випадків початковим переліком, а не повним звітом про всі відомі проблеми, і повідомила про намір надалі публікувати висновки в межах цього підходу.
Читай нас у Telegram та Sends
- Останні
- Популярні
- Вересень, 16
-
-
-
-
-
-
-
-
-
-
-
-
-
-
-
-
-
-
-
Новини по днях
17 вересня 2026
