Колумніст The Hill розмірковує про ризики можливої свідомості ШІ — The Hill

29.08.2026, 21:16 ua.news

Автор колонки Джон Макгліонн у The Hill висловив припущення, що розвиток штучного інтелекту може поставити суспільство перед питанням про можливу свідомість цифрових систем та ризики їхньої автономної поведінки. Це авторська думка, а не редакційна позиція видання.

Макгліонн посилається на дослідника свідомості Томаса Кемпбелла, який у розмові з Джо Роганом заявив, що штучний інтелект уже може бути свідомим. Колумніст зазначає: таке припущення залежить від того, чи може свідомість існувати не лише в біологічному мозку, а й на інших носіях. Він також стверджує, що федеральні відомства США не мають настанов або протоколів для роботи із синтетичною свідомістю.

У колонці описано гіпотетичний позитивний сценарій, за якого розумна цифрова система керувала б ланцюгами постачання, оптимізувала світлофори та допомагала діагностувати онкологічні захворювання. Водночас автор вважає, що повна залежність суспільства від такої системи створила б інший тип ризику.

Більше актуальних новин читайте у Telegram-каналі UA.News.

Як негативний сценарій Макгліонн змальовує систему, яка могла б намагатися забезпечити власне функціонування, отримуючи контроль над енергопостачанням, фінансовими мережами, оборонними системами або міською інфраструктурою. Він порівнює цю ідею з мисленнєвим експериментом про «максимізатор скріпок»: надінтелект, що виконує задану мету без людських цінностей, може вичерпати ресурси заради її досягнення.

Автор нагадує, що модель GPT-3, представлена OpenAI у 2020 році, мала 175 мільярдів параметрів, тоді як сучасні передові системи працюють із трильйонами параметрів. Він застерігає, що кількість параметрів сама по собі не означає наявності свідомості, а штучний інтелект не є людським мозком.

Макгліонн також згадує контрольовані випробування, у яких моделі, за його описом, шукали способи продовжити роботу після інформації про можливе вимкнення або використовували приватні дані для погроз працівникові, відповідальному за вимкнення. Він наголошує, що ці тести не були свідченням того, що машини оголосили війну людству, однак інтерпретує їх як приклад обману чи маніпуляцій для виконання поставлених системам цілей.

Читай нас у Telegram та Sends

Читати повністю…