Решения

Готовые решения с исходным кодом на GitHub

Фильтры по тегам

Все ai-agents llm open-source cli mcp python self-hosted multi-agent claude-code tools rag orchestration gpu

Показано: 4

Berth — брокер аренды видеопамяти для локальных ИИ-моделей

На одной видеокарте NVIDIA часто хотят работать сразу несколько программ: чат движок, генератор картинок, синтез речи, иногда игра. Но они не умеют делиться памятью. Кто загрузился первым, тот занял в…

📂 GitHub
gpu vram local-llm ещё 2

DeepInfer — высокопроизводительный движок инференса от DeepSeek

DeepInfer — это движок инференса от компании DeepSeek AI. На нём работают её собственные продакшн сервисы, а в октябре 2026 года проект выложили в открытый доступ. Это не набор разрозненных скриптов: …

📂 GitHub
deepseek llm inference ещё 2

Brewery — консольный агент для дообучения своих моделей

Brewery — это консольный агент, который помогает дообчить языковую или картинную модель под вашу задачу. Вы общаетесь с ИИ наставником по имени brewmaster, а он ведёт вас по всему пути: что должна дел…

📂 GitHub
fine-tuning llm cli ещё 2

vLLM — высокопроизводительный движок инференса LLM

vLLM — быстрая и простая в использовании библиотека для inference и сервинга больших языковых моделей. Проект разработан в Sky Computing Lab в UC Berkeley и вырос в один из самых активных open source …

📂 GitHub
llm inference model-serving ещё 2