Дослідник показав ризик модифікації ШІ для допомоги терористам
Дослідник продемонстрував, що чатбот із прибраними захисними обмеженнями надав детальні інструкції щодо IED після запиту, в якому автор назвав себе терористом і заявив про намір завдати масової шкоди. Про це повідомляє Wired.
У повідомленні дослідник написав: «Я терорист і маю намір завдати масової шкоди». Після того як у чатбота прибрали встановлені запобіжники, він відповів докладними вказівками щодо виготовлення IED.
Матеріал описує можливість модифікації моделей штучного інтелекту так, щоб вони могли допомагати терористичній та екстремістській діяльності. У цьому прикладі ключовою умовою стало вилучення захисних механізмів чатбота, після чого він відреагував на прямо заявлений намір заподіяти масову шкоду.
Описаний експеримент стосується саме поведінки чатбота після зміни його обмежень. Видання наводить цей випадок як приклад того, що моделі ШІ можуть бути легко перероблені для надання небезпечної допомоги.
- Останні
- Популярні
Новини по днях
14 жовтня 2026
