← До напряму

Моніторинг і оцінка LLM

Langfuse

Відкрита платформа для трасування, оцінки й покращення AI-агентів: спостережуваність, керування промптами, метрики.

Платформа LangChain для спостережуваності, оцінки й розгортання агентів, сумісна з будь-яким фреймворком.

Платформа для AI-розробників: відстеження експериментів навчання моделей і Weave для трасування й оцінки LLM-застосунків.

Відкрита LLMOps-платформа для маршрутизації й моніторингу AI-застосунків: логи запитів, сесії, промпти, алерти.

Відкритий інструмент Arize для трасування, оцінки й налагодження агентів і LLM-застосунків з self-hosting.

Платформа спостережуваності й оцінок для AI-агентів: трасування продакшну, евали й виявлення регресій.

Відкритий інструмент для тестування й червоної команди LLM-застосунків: евали, пошук вразливостей, guardrails.

AI-шлюз для продакшну: єдиний API до моделей, спостережуваність, керування промптами й ключами, маршрутизація.

Платформа з відкритим кодом від Comet для трасування, оцінювання й моніторингу LLM-агентів.

Платформа оцінювання й спостереження за AI, де офлайн-оцінки стають запобіжниками в продакшені.

Відкритий фреймворк для оцінювання, тестування й моніторингу LLM, RAG, агентів і ML-моделей.