Навіть головний науковець OpenAI закликає пригальмувати розвиток ШІ
Головний науковець OpenAI Якуб Пачоцький заявив, що стрімкий розвиток штучного інтелекту створює ризики, до яких суспільство може виявитися неготовим. На його думку, компаніям варто не лише працювати над безпекою технологій, а й розглянути можливість уповільнення подальших досліджень. Про це пише Techradar.
У дописі на сайті OpenAI Пачоцький попередив, що сучасні системи штучного інтелекту "створюють очевидні нові небезпеки" для комп'ютерної безпеки. Водночас, за його словами, ніхто не готовий до наслідків подальшого стрімкого зростання машинного інтелекту.
Його заява пролунала невдовзі після запуску GPT-6 Astra – бізнес-орієнтованої моделі OpenAI. Саме тому заклик одного з найвищих керівників компанії до стриманішого розвитку ШІ виглядає особливо показово.
Пачоцький пов'язує проблему не лише з конкретними моделями, а з тим, наскільки мало людство насправді розуміє процес розвитку сучасного машинного інтелекту. Він зазначає, що світ опинився в історичному моменті, коли машинний інтелект починає перевершувати людські можливості у важливих і трансформаційних сферах. При цьому дослідження ШІ на основі глибокого навчання значною мірою залишається експериментальною наукою.
Однією з ключових проблем є те, що розвиток ШІ протягом багатьох років будувався навколо збільшення обчислювальних потужностей.
Саме масштабування обчислень допомогло прискорити розвиток систем штучного інтелекту. Паралельно з'являлися нові алгоритми й методи навчання, які робили моделі ефективнішими. Однак загальна тенденція залишалася незмінною – індустрія продовжувала збільшувати потужність систем. Цей підхід дозволив досягти результатів, які ще кілька років тому здавалися малоймовірними. Але разом із можливостями зростають і ризики.
"Я стурбований тим, що ніхто не готовий до наслідків подальшого стрімкого зростання машинного інтелекту", – написав Пачоцький.
Йдеться не лише про витрати електроенергії, охолодження дата-центрів або протести проти будівництва нової інфраструктури. Значно серйозніше питання полягає в тому, чи зможуть люди зберегти достатній рівень контролю над дедалі потужнішими системами.
Особливу увагу Пачоцький приділяє перспективі створення систем, здатних самостійно допомагати у проведенні досліджень і навіть удосконалювати наступні покоління ШІ. OpenAI вже працює над автоматизованим дослідницьким помічником, а сама компанія експериментує з концепцією рекурсивного самовдосконалення. Йдеться про ситуацію, коли штучний інтелект допомагає створювати або покращувати свої наступні версії.
Пачоцький не закликає повністю припинити дослідження штучного інтелекту. Його позиція полягає в тому, що людство має діяти обережніше та паралельно з розвитком технологій створювати механізми контролю.
Він називає два основні шляхи. Перший – продовжувати розвиток ШІ, але одночасно посилювати механізми узгодження поведінки моделей із людськими цілями, системи моніторингу та способи залишати людей залученими до ухвалення важливих рішень. Другий – за потреби координувати уповільнення майбутнього розвитку технологій, щоб отримати більше впевненості в ефективності механізмів безпеки.
На думку Пачоцького, найкращим варіантом може стати поєднання обох підходів. Окремо він наголошує на необхідності міжнародної координації. Оскільки розвитком передових моделей займаються компанії з різних країн, рішення лише однієї організації буде недостатньо. На його думку, урядам доведеться координувати підходи до подальшого розвитку технології.
Проблема полягає в тому, що уповільнення однієї компанії не обов'язково означатиме уповільнення всієї індустрії. Якщо конкуренти продовжать збільшувати потужність моделей, у розробників з'явиться сильний стимул не відставати.
Тому заклик головного науковця OpenAI фактично стосується не лише його компанії. Він порушує значно ширше питання: чи готова вся індустрія штучного інтелекту тимчасово зменшити швидкість розвитку, щоб краще зрозуміти можливості та ризики технології. Поки що очевидних ознак такого колективного рішення немає. Навпаки, конкуренція між найбільшими розробниками ШІ продовжує стимулювати створення дедалі потужніших моделей.
- Останні
- Популярні
Новини по днях
12 вересня 2026
