Groq

Перейти на сайт

Groq розробив процесор LPU для інференсу й надає доступ до моделей через GroqCloud з API, сумісним з OpenAI. Доступні відкриті LLM (наприклад gpt-oss, Qwen), Whisper для розпізнавання мовлення, синтез мовлення й моделі модерації, а також вбудовані інструменти, пакетна обробка й кешування промптів. Оплата за токени, ціни для кожної моделі — в документації.

Докладніше

Розробка та IT Інференс і GPU-хмари

Основні функції

Чипи LPU для інференсу
OpenAI-сумісний API
Whisper і TTS
Пакетна обробка

Для кого призначений

Розробникам, яким потрібна низька затримка відповіді моделей.

Тарифні плани

Оплата за токени

За запитом

Наприклад, gpt-oss-120b: $0.15 за 1 млн вхідних і $0.60 за 1 млн вихідних токенів.

Обрати