Назад

LM Evaluation Harness

Перейти на сайт

lm-evaluation-harness запускає понад 60 стандартних академічних бенчмарків із сотнями підзадач через один інтерфейс. Працює з моделями Hugging Face Transformers (зокрема квантизованими), vLLM і SGLang для швидкого інференсу, llama.cpp, OpenVINO, а також з API, сумісними з OpenAI, і Anthropic. Саме на ньому працював Open LLM Leaderboard від Hugging Face. Корисний, коли треба порівняти моделі перед вибором або перевірити, що донавчання чи квантизація не погіршили якість. Ліцензія MIT.

Докладніше
Розробка та IT Моніторинг і оцінка LLM Тестування

Основні функції

Для кого призначений

QA-інженери, розробники й ML-інженери, що перевіряють якість відповідей чат-ботів, RAG-систем і АІ-агентів

Тарифні плани

Ціна: див. сайт

$0

Актуальні ціни — на офіційному сайті.

Обрати

Free

$0

Безкоштовно (безкоштовний продукт або відкритий код).

Обрати

Статті на цю тему