Penetrační testy AI a LLM aplikací.
Testujeme LLM aplikace, agenty a RAG pipeline tak, jak by postupoval útočník — manuálně, proti reálnému nasazení, ne podle checklistu.
Zabezpečujeme české technologické firmy, které uspěly ve světě.
Penetrační testy AI a LLM aplikací
AI a LLM nastupují rychlým tempem — a útočníkům se otevírají nové formy útoků. LLM zapojené do vašeho produktu odkrývá to, co vaše dosavadní testování webu a sítě nepokrývalo: prompty, na které uživatel dosáhne, nástroje, které model může zavolat, a data, ke kterým se přes něj dostane. Tuhle vrstvu je potřeba prověřit samostatně — ručně a proti reálnému nasazení, protože checklisty rozhodně nemohou soupeřit s kreativitou útočníka. Nálezy klasifikujeme dle CVSSv3 a doplňujeme konkrétními doporučeními k nápravě.
Co testujeme
Prompt injection a jailbreaky
Přímá i nepřímá injekce přes uživatelský vstup, přes načítané dokumenty i přes výstupy nástrojů; vytažení systémového promptu; obcházení ochranných mechanismů modelu (guardrails).
Únik dat
Únik trénovacích dat, systémových promptů, kontextu jiných uživatelů i zdrojových dokumentů z RAG mimo hranice, ve kterých měly zůstat.
Zneužití nástrojů a agentů
Rozšíření oprávnění skrz volání funkcí (function calling): SSRF prostřednictvím nástrojů, kterými model načítá obsah, provedení akcí, ke kterým uživatel nemá právo, a nejasné hranice oprávnění mezi modelem a vašimi API.
Bezpečnost RAG pipeline
Podvržení obsahu, který se do pipeline načítá, mezery v řízení přístupu mezi vektorovou databází a vaším autorizačním modelem a vyhledávání, které dosáhne až na data jiných zákazníků.
Aplikace a infrastruktura pod AI vrstvou
API, autentizace a infrastruktura, na kterých vaše AI funkce stojí. Nález v LLM bývá jen vstupní bod — skutečný dopad se obvykle ukáže až ve vrstvě pod ním.
Jak testujeme
Naše testování se řídí OWASP Top 10 pro LLM aplikace; webové rozhraní, přes které se uživatelé k modelu dostanou, prověříme podle naší standardní metodiky (OWASP OTG / ASVS). Senior specialisté testují ručně proti UAT nebo produkci podobnému prostředí, protože nepřímou prompt injection automatizované skenery jednoduše nenajdou. Preferujeme grey-box: nejprve si projdeme architekturu, abychom pochopili, jak je systém navržený, a teprve pak přejdeme k adversariálnímu testování nasazeného systému.
Co dostanete
Report s nálezy dle závažnosti (CVSSv3), kroky k reprodukci a doporučeními k nápravě na úrovni promptů, pipeline i infrastruktury, se kterými vaši inženýři skutečně pohnou. Jakmile váš tým úpravy nasadí, je v ceně i jejich retest.
Každý test provádějí certifikovaní senior specialisté — žádní junioři, kteří se učí na vašich systémech.
Chcete vidět, jak náš report vypadá? Rádi vám pošleme ukázku.
Ceník
Rozsah se odvíjí od počtu vstupních bodů AI a nástrojů dostupných modelu — obvykle 5–10 člověkodnů. Rozsah i cenu potvrdíme na krátkém hovoru.
Často kladené dotazy, vždy zodpovězeny.
Testujete model, nebo aplikaci?
Aplikaci a její integraci. Útoky na váhy modelu (extrakce, membership inference) provedeme na vyžádání, ale většina reálného rizika je v tom, jak je model zapojený do vašeho produktu.
Jaké technologie?
API OpenAI / Anthropic / Azure, self-hosted modely (vLLM, Ollama), pipeline typu LangChain / LlamaIndex a vlastní agenty.
Jak dlouho to trvá?
Obvykle 5–10 člověkodnů podle počtu vstupních bodů AI a nástrojů dostupných modelu.
Pojďme to probrat.
Napište nám, co potřebujete otestovat — domluvíme si nezávazný hovor a navrhneme rozsah testu.
Domluvit nezávaznou konzultaci ›