KoboldCpp

Перейти на сайт

KoboldCpp побудовано на llama.cpp з інтерфейсом KoboldAI Lite. Крім тексту в режимах чату, інструкцій і історій, він генерує зображення (Stable Diffusion, Flux), відео, мовлення й музику та розпізнає голос через Whisper. Має агента, інструменти MCP, RAG і сумісні API для OpenAI, Ollama, ComfyUI та інших. Працює на Windows, Linux і macOS, на CPU або GPU.

Докладніше

Розробка та IT Локальні LLM

Основні функції

Один файл без встановлення
Текст, зображення, голос
Режими для історій і рольових ігор
Сумісні API

Для кого призначений

Ентузіастам локального AI, письменникам і розробникам.

Тарифні плани

Open source

Безкоштовно, відкритий код.

Обрати