NeMo Guardrails стоїть між застосунком і моделлю. Вхідні запобіжники перевіряють і змінюють повідомлення користувача, діалогові — керують сценарієм розмови, пошукові — фільтрують фрагменти в RAG, запобіжники виконання — контролюють виклики інструментів, вихідні — перевіряють відповідь перед показом. Сценарії описуються мовою Colang. Є вбудоване виявлення джейлбрейків і промпт-ін’єкцій, самоперевірка фактів і виявлення галюцинацій, інтеграція з LangChain. Для тестувальника — і інструмент, і об’єкт перевірки: чи справді запобіжники спрацьовують. Ліцензія Apache 2.0.
Практичний посібник з тестування застосунків на основі великих мовних моделей: тестовий набір, LLM-суддя, метрики RAG, перевірка агентів, OWASP Top 10 для LLM, red teaming, guardrails, регресія в CI і моніторинг. Promptfoo, DeepEval, Ragas, garak, PyRIT, Langfuse та інші інструменти.
Практичний посібник з тестування безпеки застосунків Android та iOS: OWASP Mobile Top 10 і MASVS, статичний і динамічний аналіз, перехоплення трафіку й SSL pinning, сховище даних, deep links, root і jailbreak, Frida, MobSF, jadx, тренажери й план навчання.
Посібник з тестування безпеки вебзастосунків і API для тестувальників: OWASP Top 10, види перевірок (SAST, DAST, SCA, пентест), чек-лист, Burp Suite і ZAP, сканери, пошук секретів, безпека в CI, легальні тренажери й план навчання.
Cookie на сайті
Без вашої згоди працюють лише необхідні cookie: вхід, мова, обране місце в Marketplace. Відео з YouTube у рекламі (Google може зберігати свої cookie) вантажаться лише після «Прийняти всі» або натискання ▶. Детальніше
Виклик Асистента