Mac Studio з M5 Ultra випередив DGX Spark у тесті локального ШІ
Mac Studio на чипі M5 Ultra завершив тест AgentPerf-Local для локального ШІ менш ніж за половину часу порівняно з одним комп’ютером класу Nvidia DGX Spark. За даними BBC News, у випробуванні з моделлю Qwen 3.8 27B система Apple також витратила приблизно на 16% менше енергії на виконання завдання.
Для тесту на обох платформах використали бекенд llama.cpp та увімкнули нативну підтримку multi-token prediction у Qwen 3.8 27B. AgentPerf-Local відтворює записані траси інференсу для низки агентних ШІ-завдань; основна частина навантаження припадає на обробку промптів, а не на генерацію токенів.
У матеріалі зазначено, що M5 Ultra має 80-ядерний графічний процесор і пропускну здатність пам’яті 1,2 ТБ/с. Для порівняння, у GB10 вказано 48 потокових мультипроцесорів Blackwell і пропускну здатність пам’яті 273 ГБ/с. Автори наголошують, що паспортні характеристики не завжди прямо визначають фактичну ШІ-продуктивність.
За показником energy-delay product, який поєднує час виконання й енергію, Mac Studio продемонстрував результат менш ніж удвічі від показника DGX Spark. Водночас автори застерігають, що інший рушій інференсу може дати кращий результат системі Nvidia.
Тестова конфігурація Mac Studio мала 256 ГБ об’єднаної пам’яті та могла локально розмістити квантизовані GLM 5.3 Flash і DeepSeek V4.1 Flash 1017. Для GLM 5.3 застосували чотирибітову квантизацію, а для DeepSeek V4.1 Flash — двобітову версію від Unsloth. Один DGX Spark із 128 ГБ пам’яті не вміщує навіть такі варіанти моделей, тому для них використовували кластер із двох систем.
Для DeepSeek V4.1 Flash кластер Spark мав перевагу: він використовував speculative decoding DSpark і рушій TensorFold, тоді як Mac Studio працював через llama.cpp. Система Apple не могла одночасно розмістити ваги моделі та модель DSpark для прискорення декодування. За результатами тестів, Mac потребував від 10 до 25 хвилин на обробку найдовших контекстів, тоді як кластер Spark виконував ці завдання менш ніж за п’ять хвилин.
- Останні
- Популярні
Новини по днях
10 листопада 2026
