Qwen 3.5-122B работает в daily driver на Mac Studio — исправлены 3 бага, тихий переход

Строительство Jul 12, 2026 at 11:178В закладки

Инженер документирует на своём блоге три патча, которые превращают большую модель Qwen 3.5 (через MLX) в надёжного повседневного помощника на Mac Studio. Локальное оборудование продвигается на практике, патч за патчем.

Простыми словами. Инженер задокументировал (mrzk.io, июль 2026) три бага, которые он исправил в стеке MLX, чтобы запустить большую модель Qwen 3.5 с открытыми весами как ежедневный инструмент на Mac Studio. Слабый, но ощутимый сигнал: локальные решения догоняют, исправление за исправлением.

Контекст

MLX — это фреймворк Apple для инференса на чипах M-series; он использует unified memory. Теоретически возможно разместить модель Qwen 3.5 (от ~100 до 235 млрд параметров в зависимости от варианта) на хорошо настроенном Mac Studio (до 512 ГБ unified RAM на M3 Ultra) с помощью квантизации. В блоге задокументированы практические проблемы — точное название протестированного варианта нужно уточнить в посте.

Под капотом — природа патчей

Согласно посту, три бага блокировали ежедневное использование:

Баг длинного контекста — генерация деградировала после определённого количества токенов.
Баг квантизации — конвертация в 4-битный формат давала некорректные выходные данные на некоторых слоях модели.
Баг семплинга — крайний случай в выборе токена влиял на качество.

Точные детали (запатченный слой, механизм фикса, апстримный PR) — в посте; стоит прочитать тем, кто хочет воспроизвести.

Анализ

Что важно в посте, помимо патчей, — это то, что стек Apple + Qwen достиг уровня, когда стоит заниматься отладкой. Это переход от «работает в демке» к «я использую это каждый день». Аппаратные затраты остаются значительными — Mac Studio для этой задачи стоит несколько тысяч долларов, — но становятся доступными для профессионала, чьи данные не могут покинуть его машину.

Сценарии

Базовый (55 %) : стек Apple + Qwen/DeepSeek/Llama становится жизнеспособным выбором для 3-5 % разработчиков с высокой чувствительностью к данным к середине 2027 года. Оптимистичный (25 %) : модель Qwen или аналогичная достигает уровня frontier-class на массовом железе; уравнение меняется. Пессимистичный (20 %) : фрагментация стека (MLX, llama.cpp, vLLM, exllama) ослабляет позиции; для каждой модели нужен свой патч.

Последствия для сборки

Локальные решения получают чёткий кейс использования: чувствительность к данным + задержка + предельные затраты, стремящиеся к нулю.
Внимание смещается с бенчмарков на time-to-fix — сколько багов между релизом модели и её надёжностью в реальной эксплуатации.
Экосистема open weights расширяет поверхность для вклада: каждый апстримный патч важен.

Риски

Зависимость от MLX (Apple может сломать API), качество 4-битной квантизации на больших моделях, стабильность весов под длительной нагрузкой.

Итог

Спор «облако vs локаль» не идеологический. Он технический и решается баг за багом. Посты такого типа — неброские, но очень конкретные — лучший индикатор грядущего сдвига.