← До напряму

Локальні LLM

Ollama

Запуск відкритих AI-моделей на своєму комп'ютері (macOS, Windows, Linux) або в хмарі Ollama однією командою.

Застосунок для запуску локальних LLM з агентом Bionic: чат, документи, код і голосовий ввід на вашому комп'ютері.

Безкоштовний локальний чат-бот від Nomic: відкриті моделі на Windows, macOS і Linux та чат із власними документами.

Відкрита альтернатива ChatGPT для комп'ютера: локальні моделі або підключення до хмарних GPT, Claude, Gemini.

Приватний AI-асистент на вашому пристрої: чат із документами, агенти, нотатки зустрічей — без акаунтів і API-ключів.

Self-hosted платформа з вебінтерфейсом для будь-яких моделей: Ollama, OpenAI-сумісні API, розширення на Python.

Відкритий runtime для тексту, голосу, зображень і відео на власному залізі з API, сумісним з OpenAI.

Приватний AI-простір Msty Studio: локальні й онлайн-моделі, агенти та бази знань для людей і команд.

Бібліотека й набір утиліт на C/C++ для швидкого локального запуску LLM на CPU та GPU, з OpenAI-сумісним сервером.

Відкрита бібліотека для швидкого інференсу й обслуговування LLM на серверах з GPU з високою пропускною здатністю.

Проєкт Mozilla.ai: LLM в одному виконуваному файлі, що запускається на більшості ОС без встановлення.

Один файл без встановлення для локальних моделей GGUF з вебінтерфейсом: чат, історії, зображення, голос і API.

Відкритий десктопний застосунок для локальних LLM без телеметрії: чат, зображення, інструменти, навчання LoRA й API.

Браузер-лаунчер, що встановлює й запускає відкриті AI-застосунки на вашому комп'ютері в один клік.