Parallax: ИИ-сервер из офисных ноутбуков и ПК, что выйдет

Четыре ноутбука, два ПК и желание получить один ИИ-сервер

Директор слышал, что компьютеры можно «сложить» в один ИИ и не покупать сервер. Ответ зависит от одного числа: сколько памяти занимают веса нужной модели.

Путают два разных инструмента. NVIDIA PAIR раздаёт разные запросы разным машинам, и каждую модель держит целиком на одной. Parallax решает обратную задачу: одну модель разрезает между машинами. Сколько памяти нужно под модель, я считал в статье про железо для локального ИИ.

Что такое Parallax и что я проверил

Проверял 21.10.2026 по репозиторию GradientHQ/parallax и документации внутри него. Описание репозитория: фреймворк распределённого запуска моделей для сборки своего ИИ-кластера где угодно. Файл LICENSE содержит текст Apache License 2.0. Репозиторий создан 22 сентября 2025 года, не архивирован, около 1400 звёзд и 150 форков. Последний релиз v0.1.2 вышел 2 декабря 2025, последний коммит датирован 1 июля 2026.

Внутри: связь узлов на библиотеке Lattica, на видеокартах SGLang и vLLM, на Mac MLX LM. В README перечислены DeepSeek, MiniMax, GLM, Kimi-K2, Qwen3.6-35B-A3B, gpt-oss-120b. Модели по умолчанию скачиваются с Hugging Face, доступность из России уточняйте. Установка: Python от 3.11 до 3.13, Linux из исходников или Docker, macOS из исходников, Windows установщиком с запуском терминала от администратора. Минимальных требований к памяти и сети в документации нет. Заработает ли кластер на ноутбуках без видеокарты, не подтверждено.

Как соединяются узлы и куда уходят запросы

Нужен планировщик: команда parallax run на одном из ваших компьютеров. Он по объёму памяти и скорости решает, сколько слоёв достанется каждому узлу, и выбирает маршрут с наименьшей задержкой. Это ваш процесс, а не облако Gradient. На остальных машинах запускают parallax join. В локальной сети узлы находят планировщик сами. Удалённый режим включается, когда указан идентификатор планировщика: тогда соединение идёт через публичные серверы Gradient, и по документации ретранслятор получает IP-адреса планировщика и узлов. Запросы принимает планировщик на порту 3001, адрес /v1/chat/completions, как у OpenAI.

Чего я не нашёл: упоминаний шифрования между узлами, списка допущенных узлов, ключа доступа к API. В коде Lattica используются Noise и QUIC, это шифрование канала, аудит безопасности я не делал. В файле src/backend/main.py CORS открыт для любых источников, проверку ключа я там не нашёл. Планировщик закрепляет входной и выходной слои за крайними узлами цепочки. Отсюда мой вывод, в документации он не описан: первый узел видит текст запроса. Публичного пула чужих видеокарт в репозитории я не нашёл. Если идентификатор планировщика узнает посторонний, защиты от подключения его узла в документации я не увидел, это не проверено. Зачем держать данные у себя, я писал в статье про локальный ИИ как расчёт.

Когда кластер из своих машин имеет смысл

Один случай: модель нужна крупная, и она не влезает ни в одну машину. Условный пример. Допустим, нужна gpt-oss-120b, её веса на Hugging Face занимают около 65 ГБ (сумма файлов safetensors). Под модель можно отдать по 8 ГБ с каждого из четырёх ноутбуков и по 10 ГБ видеопамяти с каждого из двух ПК. Итого 52 ГБ. Не хватает даже на сами веса, а ещё нужен запас под контекст.

Альтернативы считайте по прайсу. Первая: одна машина с большой памятью, как в разборе Mac Studio для локального ИИ. Вторая: платный API. Посчитайте за год: оборудование, электричество и ваше время на поддержку против месячного счёта за API, умноженного на двенадцать. При малом числе токенов выигрывает API. Если модель на 7 или 14 млрд параметров, кластер не нужен: она обычно помещается в одну машину. Модели вроде Muse Spark Open с потребностью около 700 ГБ памяти ближе к серверу, чем к офису, я разбирал в отдельной статье.

Скорость: узкое место в сети

Запрос идёт по цепочке узлов. На каждый токен приходится столько переходов по сети, сколько узлов в цепочке. Условный пример: шесть узлов, 5 мс на переход (допущение для хорошей проводной сети, по Wi-Fi хуже). Это 30 мс на токен только на сеть, потолок около 33 токенов в секунду до вычислений. Требований к задержке и пропускной способности в документации нет.

Авторы приводят цифры в препринте на arXiv (сентябрь 2025). Стенд: пять RTX 5090 и две RTX 4090 в разных дата-центрах, средняя задержка между машинами 10 мс. Заявлено до 3,6 раза больше пропускной способности и до 3,2 раза ниже задержка по сравнению с HexGen, другой децентрализованной системой. Сравнения с одной мощной машиной нет, независимых замеров я не нашёл. Замеры сделаны на потоке запросов. Для одного человека с одним длинным ответом цифр нет, и обгонять одну машину с той же моделью кластер там не обязан.

Что можно сделать уже сейчас: пилот на двух машинах

Возьмите модель, которая не влезает в одну машину, но влезает в две. Сложите свободную память обеих машин с запасом под контекст.

Соедините компьютеры проводом. На macOS разрешите терминалу доступ к локальной сети. Если планировщик стоит в WSL на Windows, режим сети должен быть Mirrored, иначе другие машины его не увидят: так сказано в документации.

На первой машине запустите parallax run -u, откройте localhost:3001 и выберите модель. На второй выполните parallax join -u. Удалённый режим на реальных данных не включайте, порт 3001 наружу не открывайте.

Замерьте скорость для одного пользователя и для трёх одновременных, пинг между машинами, нагрузку на рабочие компьютеры. Сравните с моделью поменьше на одной машине. Развернуть пилот и посчитать окупаемость я могу в рамках услуги ИИ-агенты.

Частые вопросы

Можно ли собрать кластер из ноутбуков без видеокарт?

Для Mac на Apple Silicon поддержка заявлена. Для Windows и Linux без видеокарты подтверждения нет, проверяйте пилотом.

Чем Parallax отличается от NVIDIA PAIR?

PAIR раздаёт разные запросы по машинам, а модель держит целиком на каждой. Parallax делит одну модель на куски между машинами. Первый нужен при многих запросах, второй при крупной модели.

Можно ли соединить два офиса через интернет?

Удалённый режим это умеет, через публичные серверы Gradient. Шифрование между узлами и допуск узлов в документации не описаны, с рабочими данными я бы так не делал.

Коротко о главном

Parallax под лицензией Apache 2.0 делит одну крупную модель между вашими компьютерами. Он нужен, когда модель не входит ни в одну машину. Скорость упирается в сеть, требований к ней и к памяти в документации нет, проект ранний.

Если хотите, чтобы я посчитал, хватит ли вашего парка машин, и поднял пилот, напишите мне в Telegram кодовое слово «ПАРАЛЛАКС».