llamafile

Перейти на сайт

llamafile поєднує llama.cpp і Cosmopolitan Libc, щоб упакувати модель і все потрібне для її запуску в один файл. Його можна завантажити й запустити на Windows, macOS і Linux без встановлення. У комплекті є whisperfile — розпізнавання мовлення в одному файлі на основі whisper.cpp. Проєкт безкоштовний і з відкритим кодом.

Докладніше

Розробка та IT Локальні LLM

Основні функції

Модель в одному файлі
Без встановлення
Windows, macOS, Linux
Розпізнавання мовлення whisperfile

Для кого призначений

Розробникам і користувачам, яким потрібен найпростіший спосіб поширити модель.

Тарифні плани

Open source

Безкоштовно, відкритий код.

Обрати