Австралійські науковці оцінили ризики використання ШІ для біозброї — ABC News Australia
В Австралії дослідники з біобезпеки та громадського здоров’я попереджають, що розвиток систем штучного інтелекту може знизити бар’єри для створення або застосування небезпечних біологічних агентів. Водночас ці самі технології вже використовують у медичних і сільськогосподарських дослідженнях, повідомляє ABC News Australia.
Генеральний директор Anthropic Даріо Амодеї раніше закликав уповільнити розвиток ШІ, щоб технології не випередили можливості людського контролю. Одним із ризиків називають потенційне застосування моделей для розроблення небезпечних біологічних агентів.
Дослідник безпеки Університету Саутерн-Кросс Брендан Вокер-Мунро вважає, що ШІ знижує бар’єри доступу до спеціалізованих знань. Науковець із громадського здоров’я Університету Нового Південного Уельсу Девід Геслоп заявив, що швидкість розвитку таких інструментів ускладнює людський нагляд.
За його словами, великі мовні моделі можуть допомагати недобросовісним користувачам планувати використання небезпечних матеріалів, зокрема вже наявних вірусів або токсинів. Водночас для цього, як зазначив Геслоп, усе ще потрібні фахова підготовка та лабораторне обладнання вартістю десятки тисяч доларів.
У 2022 році дослідники компанії Collaborations Pharmaceuticals продемонстрували, що програмне забезпечення ШІ, створене для відсіювання потенційно токсичних препаратів, можна переналаштувати на проєктування небезпечних токсинів. Anthropic у своєму звіті про розвідку загроз також повідомила про п’ять випадків використання її продуктів у спосіб, який міг підтримувати розроблення біологічної зброї. Компанія заблокувала цих користувачів за порушення правил щодо підтримуваних регіонів.
Більше актуальних новин читайте у Telegram-каналі UA.News.
ШІ водночас застосовують для корисних біологічних досліджень. Програму AlphaFold використовували для прогнозування структури білків у медичних розробках; її творці отримали Нобелівську премію з хімії за 2024 рік. Американські науковці також застосували генеративний ШІ для створення нових вірусів, що уражають бактерії та потенційно можуть використовуватися проти інфекцій.
Обчислювальний біолог Університету Квінсленду Девід Кайнер із колегами розробив автономний інструмент ШІ для аграрних досліджень. Він обробляє великі масиви даних і моделює, як зміни довкілля або генетики можуть впливати на властивості рослин, зокрема їхню врожайність і стійкість до посухи.
Комерційні мовні моделі мають обмеження, покликані не допустити використання для небезпечних цілей. Геслоп вважає, що поряд із такими запобіжниками потрібні закони й регулювання. Вокер-Мунро наголосив, що моделі з відкритими вагами можна завантажити та запускати приватно за наявності базових навичок програмування.
Серед можливих заходів фахівці називають посилення контролю за матеріалами й обладнанням, а також використання ШІ для нагляду за чутливими дослідженнями. Водночас Вокер-Мунро застеріг, що надмірні обмеження можуть перешкоджати легітимній науковій роботі.
- Останні
- Популярні
Новини по днях
27 вересня 2026
