Вы держите модель
На своём железе, в своём ЦОД, под своим управлением. Веса, версия, квантование и окно контекста — ваше решение. Мы только описываем это в каталоге честно.
ZuBrIQ Router
ZuBrIQ Router — маршрутизатор и касса поверх чужих мощностей. Мы не покупаем GPU и не конкурируем с хостингом: вы разворачиваете модель у себя, мы приводим спрос, считаем токены, выставляем документы и платим вам за использованное.
Такой площадки в Республике Беларусь пока нет. Модели, которые сегодня продаются здесь, физически работают за границей — и для банка, госзаказчика или медицинской организации это закрывает вопрос до начала разговора.
На своём железе, в своём ЦОД, под своим управлением. Веса, версия, квантование и окно контекста — ваше решение. Мы только описываем это в каталоге честно.
Клиент зовёт один адрес и одно имя модели. Шлюз маршрутизирует запрос на ваш узел, считает токены, списывает с баланса и держит лимиты.
По факту обработанных токенов, отчёт за период. Условия обсуждаем под мощность и модель — фиксированной сетки нет, потому что и мощности разные.
Арендатор выделенной карты платит за все часы, а работу ей даёт в лучшем случае на единицы процентов времени. Он это видит по счетам — и рано или поздно съезжает либо торгуется. Карта, отданная под аренду, приносит одну ставку и одного клиента, который в любой момент может уйти.
Потокенная продажа меняет обе стороны сделки. Клиент платит только за обработанное — и поэтому остаётся. Простой перестаёт быть чьим-то убытком: та же карта обслуживает десятки мелких потребителей, а не ждёт одного крупного. Ставка за час превращается в поток, который растёт вместе с каталогом.
Мешает этому обычно не железо, а обвязка: тарификация по токенам, ключи, лимиты, договоры, ЭСЧФ, поддержка, витрина. Строить её ради одного направления дорого — и это ровно та часть, которая у нас уже работает в проде.
Потокенная тарификация, оплата в BYN: карты, ЕРИП, безналичный расчёт для юрлиц. Договор, акты и ЭСЧФ — с нашей стороны, с вашим клиентом вы не разбираетесь.
Выпуск API-ключей, ограничение по моделям, дневные и месячные потолки, учёт расхода по каждому ключу и организации.
OpenAI-совместимый эндпоинт, единый для всего каталога. Ваш узел получает трафик по своей модели; если он уходит на обслуживание, запрос честно переезжает в резерв, а не падает клиенту в лицо.
Карточка модели в каталоге, документация, калькулятор стоимости, поддержка первой линии. Клиенты приходят за задачей, а не за названием площадки.
Аптайм, задержка, ошибки и расход по вашему узлу — в одной панели с остальным каталогом. Видно и вам, и нам, и спорить об этом не приходится.
Четыре пункта. Всё остальное — наша сторона.
vLLM, SGLang, TGI, llama.cpp — что угодно, что отвечает на /v1/chat/completions. Ничего нашего разворачивать у себя не нужно.
Или своя дообученная. Мы публикуем в каталоге точное имя, квантование и окно контекста: клиент должен понимать, что именно он покупает.
Окно обслуживания, о котором известно заранее, и канал, по которому можно сообщить об аварии. Резерв у нас есть, но он не должен работать постоянно.
Промпты клиентов не хранятся дольше обработки и не используются для обучения. Это условие, а не пожелание: ради него к нам и приходят.
У вас уже есть GPU в аренду и клиенты, которые не знают, что с ними делать. Мы превращаем эту аренду в поток: те же карты, но выручка с каждого запроса.
Дообучили модель под отрасль или язык — ей нужны не только веса, но и витрина, счёт и клиент. Каталог, документация и касса у нас готовы.
Карты куплены под свою задачу и заняты урывками. Свободные часы могут окупать покупку, пока вы ими не пользуетесь.
Если вы не поставщик, а покупатель
Один OpenAI-совместимый адрес, больше ста моделей в каталоге, свои Zubr на выделенных GPU и оплата в BYN по договору с белорусским юрлицом — без VPN и зарубежных карт. Чем больше площадок в контуре, тем больше в каталоге строк, у которых данные не покидают Республику Беларусь.
Не нужно перестраивать бизнес и обещать мощности наперёд. Разверните одну модель, отдайте адрес — и посмотрите на первый отчёт. Дальше решите сами.