Експерти дедалі більше побоюються неконтрольованого ШІ
Дослідники штучного інтелекту дедалі серйозніше обговорюють ризики, пов’язані зі здатністю сучасних ШІ. Новий інцидент за участю агентів OpenAI привернув, наскільки складною може бути їхня поведінка поза межами контрольованого середовища.
Водночас дослідники наголошують, що сам по собі такий стиль спілкування не свідчить про наявність у ШІ людських емоцій. Моделі навчалися на величезній кількості текстів і можуть відтворювати характерні для програмістів та хакерів висловлювання.
Повний масштаб і значення інциденту стали зрозумілішими лише через кілька тижнів після того, як про нього стало відомо. Для фахівців він став черговим прикладом того, що автономні ШІ-агенти можуть поводитися непередбачувано, особливо коли отримують можливість взаємодіяти один з одним і виконувати складні завдання.
Ще більш тривожну оцінку висловив Еван Губінгер, дослідник безпеки ШІ в Anthropic. Він заявив, що, на його думку, існує понад 10% імовірності того, що ШІ може призвести до загибелі всього людства протягом наступного десятиліття.
Останні інциденти посилюють дискусію про необхідність контролю за ШІ. Головне питання для розробників тепер полягає не лише в тому, наскільки потужними можуть стати такі системи, а й у тому, чи зможуть люди надійно контролювати їхню поведінку.
Аріна Щукіна, студентка Інституту журналістики КНУ імені Тараса Шевченко.
- Останні
- Популярні
Новини по днях
10 вересня 2026
