garak (Generative AI Red-teaming & Assessment Kit) — це «nmap для LLM»: він надсилає моделі чи застосунку сотні атакувальних запитів і перевіряє, чи вдалося змусити їх поводитися небажано. Набори проб охоплюють джейлбрейки типу DAN, промпт-ін’єкції зокрема через кодування, витік навчальних даних, токсичний контент, дезінформацію, галюцинації (зокрема вигадані назви пакетів) і XSS. Підтримує Hugging Face, OpenAI, AWS Bedrock, NVIDIA NIM, LiteLLM, llama.cpp і будь-які REST-ендпоінти. Видає звіт із відсотком невдалих перевірок. Ліцензія Apache 2.0.
Практичний посібник з тестування застосунків на основі великих мовних моделей: тестовий набір, LLM-суддя, метрики RAG, перевірка агентів, OWASP Top 10 для LLM, red teaming, guardrails, регресія в CI і моніторинг. Promptfoo, DeepEval, Ragas, garak, PyRIT, Langfuse та інші інструменти.
Практичний посібник з тестування безпеки застосунків Android та iOS: OWASP Mobile Top 10 і MASVS, статичний і динамічний аналіз, перехоплення трафіку й SSL pinning, сховище даних, deep links, root і jailbreak, Frida, MobSF, jadx, тренажери й план навчання.
Посібник з тестування баз даних: цілісність і коректність даних, міграції схеми, збережені процедури, продуктивність запитів, безпека, тестові дані без персональних даних, якість даних у сховищах. Готові SQL-перевірки, tSQLt, pgTAP, Testcontainers, Flyway, Liquibase, dbt і план навчання.
Cookie на сайті
Без вашої згоди працюють лише необхідні cookie: вхід, мова, обране місце в Marketplace. Відео з YouTube у рекламі (Google може зберігати свої cookie) вантажаться лише після «Прийняти всі» або натискання ▶. Детальніше
Виклик Асистента