LocalAI

Перейти на сайт

LocalAI — один застосунок з API, сумісним з OpenAI, Anthropic, Ollama й ElevenLabs: наявні клієнти працюють, достатньо змінити адресу. Під капотом можна перемикати рушії (llama.cpp, vLLM, SGLang, MLX), а моделі встановлюються в один клік. Працює навіть на CPU без відеокарти й масштабується до кількох GPU. Ліцензія MIT.

Докладніше

Розробка та IT Локальні LLM

Основні функції

API, сумісний з OpenAI й Anthropic
Текст, голос, зображення, відео
Працює на CPU
Змінні рушії інференсу

Для кого призначений

Розробникам, які замінюють хмарні API локальними моделями.

Тарифні плани

Open source

Безкоштовно, відкритий код.

Обрати