← До напряму

Фреймворки для LLM-застосунків

Реклама Безкоштовно: таблиця для порівняння AI-інструментів Зважені критерії й формула підсумкового балу для Excel і Google Sheets

CrewAI

Платформа для мультиагентних AI-процесів: команду агентів з ролями збирають у візуальному редакторі чи коді на відкритому фреймворку CrewAI і запускають у хмарі.

LangChain

Відкритий фреймворк для створення AI-агентів і платформа LangSmith для їх відстеження, оцінювання, розгортання та керування.

LlamaIndex

Відкритий фреймворк для RAG і агентів над документами та хмарний LlamaParse для розбору й видобування даних із файлів.

Haystack

Відкритий Python-фреймворк від deepset для продакшн-агентів, RAG і пошуку з модульних компонентів.

Dify

Платформа для агентних робочих процесів: візуальний конструктор агентів, бази знань і інструменти — в хмарі чи у себе.

Langflow

Відкритий low-code конструктор AI-агентів, RAG-застосунків і MCP-серверів з підтримкою основних LLM і векторних баз.

LiteLLM

Відкритий AI-шлюз і Python SDK: виклик понад 100 LLM у форматі OpenAI, облік витрат, ліміти й маршрутизація.

Unsloth

Відкритий інструмент і десктопний застосунок для швидкого донавчання й запуску моделей на власному залізі.

Axolotl

Безкоштовний фреймворк із відкритим кодом для донавчання LLM: конфіги YAML, кілька GPU, готові рецепти.

DSPy

Python-фреймворк, у якому LLM-завдання описують типізованими сигнатурами, а промпти оптимізуються автоматично.

Semantic Kernel

Відкритий SDK від Microsoft для створення AI-агентів і підключення моделей у коді на C#, Python і Java.

Pydantic AI

Python-фреймворк від команди Pydantic для типізованих AI-агентів, що працює з будь-якими моделями.