FlowMastersFlowMasters
Инструмент

Свой ChatGPT: локальный LLM-шлюз и OpenAI-совместимый API (152-ФЗ)

Локальный OpenAI-совместимый API-сервер на Apple Silicon — это свой ChatGPT, который работает 100% офлайн и соответствует 152-ФЗ. Выставляет /v1/chat/completions и /v1/embeddings на localhost:8080: подключайте Cursor, Continue.dev, Obsidian, Raycast и n8n к своей приватной локальной нейросети. mlx_lm на Saiga/Qwen (RU-модели), загрузчик LoRA (fine-tune ассистента за <30 мин) и дашборд использования.

9 900 ₽15 000 ₽−34%

Оплата картой или СБП · Мгновенная выдача

~/gateway.py/4 files
📄gateway.py
🔑.env.example
⚙️requirements.txt
📄README.md
def chat(model_id, messages, max_tokens=512):
"""OpenAI-совместимый /v1/chat/completions на mlx_lm."""
lm = load_model(model_id)
prompt = lm["tokenizer"].apply_chat_template(
messages, tokenize=False,
add_generation_prompt=True)
response = lm["generate"](
lm["model"], lm["tokenizer"],
prompt=prompt, max_tokens=max_tokens)
return {
"object": "chat.completion",
"model": model_id,
"choices": [{"message": {
"role": "assistant",
"content": response}}],
}
Cursor / Continue · OpenAI client→Gateway :8080 · /v1/chat/completions→mlx_lm · Saiga/Qwen RU
Полный исходный код — после покупки

Что внутри

Всё для немедленного старта

OpenAI-совместимый API на localhost:8080
mlx_lm на Apple Silicon (Saiga/Qwen, RU-модели)
Загрузчик LoRA: fine-tune ассистента за <30 мин
Дашборд использования и переключатель моделей
Работает с Cursor/Continue.dev/Obsidian/Raycast/n8n
100% офлайн — соответствует 152-ФЗ

Мгновенная выдача

Сразу после оплаты — на email и на странице заказа

Гарантия и возврат

Не работает — вернём деньги по политике возврата

Обновления навсегда

Покупаете один раз — обновления по лицензионному ключу

Коммерческая лицензия

Используйте для себя, клиентов и бизнеса

Похожие товары

Content Factory: SaaS-оркестратор генерации контента и автопостинга (Python)

SaaS-оркестратор генерации контента на Python: одна идея превращается в контент для 6 RU-платформ (Telegram, VK, TenChat, Хабр, MAX, Boosty) с AI-генерацией текста и автопостингом. ~2069 строк production-кода, Loop Engineering (цель→план→выполнение→проверка) и контроль бюджета API делают автопостинг масштабируемым. Готовый sample content-pack в комплекте — AI-ключи (ZAI/Seedance/Kandinsky) подключаете свои.

14 900 ₽

Приватный RAG-ассистент: чат с вашими документами офлайн (152-ФЗ)

Приватный RAG-ассистент для чата с вашими документами на Apple Silicon — загружаете PDF, DOCX и договоры и задаёте вопросы, получая ответы со ссылками на страницы. 100% офлайн: данные не покидают ваш Mac, что соответствует 152-ФЗ и идеально для юристов, бухгалтеров, HR и NDA-B2B. Локальное чанкование, эмбеддинги (bge-m3) и RU mlx-модель плюс OCR сканов через mlx_vlm.

14 900 ₽

Готовы начать?

Свой ChatGPT: локальный LLM-шлюз и OpenAI-совместимый API (152-ФЗ). Мгновенная выдача после оплаты.