AI Defense Plane má podnikům ukázat, kde používají umělou inteligenci, jaká data a nástroje agenti ovládají a zda jejich chování odpovídá pravidlům. Produkt reaguje na přesun od chatbotů k autonomnějším pracovním tokům.
Bezpečnostní hranice se posouvá od textu k činu
Check Point představil AI Defense Plane v březnu 2026 jako sjednocenou kontrolní vrstvu pro používání umělé inteligence zaměstnanci, aplikacemi a agenty. Tradiční ochrana generativního modelu se soustředila na škodlivý vstup nebo nevhodnou odpověď. Agent však může otevřít databázi, zavolat externí nástroj, změnit záznam a spustit další workflow. Bezpečnostní otázka už proto nezní pouze „co model řekl“, ale také „co směl udělat, s jakými daty a pod čí odpovědností“.
Produktová architektura podle firmy spojuje objevování AI systémů, správu pravidel, sledování běhu, průběžné vyhodnocování a útočné testování. Check Point uvádí tři hlavní oblasti: ochranu pracovního používání AI, zabezpečení aplikací a agentů a red teaming. Jednotný název nesmí zakrýt, že každá oblast řeší jiný problém. Kontrola zaměstnaneckého chatu, obrana veřejné aplikace a oprávnění autonomního agenta potřebují odlišná data, reakční časy i vlastnictví uvnitř organizace.
Nejdřív je třeba zjistit, kde AI vůbec běží
Podnik může oficiálně schválit několik nástrojů, zatímco zaměstnanci používají další služby v prohlížeči a týmy nasazují vlastní modely nebo agentní frameworky. Takzvaná stínová AI komplikuje ochranu dat, protože bezpečnostní tým nezná všechny cesty, jimiž informace opouštějí organizaci. Inventář musí zahrnovat model, aplikaci, vlastníka, datové zdroje, připojené nástroje a identity. Bez tohoto obrazu se pravidla uplatňují pouze na známé části prostředí.
Objevování samo o sobě nestačí a může vytvářet množství nálezů bez priority. Organizace potřebuje rozlišit neškodný experiment od agenta s přístupem k zákaznickým nebo finančním datům. Check Point se snaží spojit inventář s hodnocením oprávnění a chování. Přínos bude záviset na kvalitě integrací do cloudů, identitních systémů, koncových zařízení a síťového provozu. Nástroj musí vidět dostatečný kontext, aniž by se stal novým místem, kde se koncentrují citlivé prompty a obsah.
Prompt injection může přijít i z dokumentu
Agent zpracovávající e-mail, webovou stránku nebo soubor může narazit na instrukci vloženou útočníkem. Model ji může zaměnit za legitimní pokyn a pokusit se vyzradit data nebo zavolat nástroj. Tento nepřímý prompt injection je obtížný, protože nedůvěryhodný obsah je zároveň materiálem, který agent musí číst. Jednoduchý seznam zakázaných slov nestačí; systém potřebuje oddělit roli instrukce, zdroj dat a oprávnění následné akce.
Runtime ochrana má kontrolovat vstupy, odpovědi i volání nástrojů ve chvíli, kdy probíhají. Check Point uvádí rozhodování v řádu desítek milisekund a podporu mnoha jazyků. Takové parametry je nutné ověřit v konkrétním prostředí, protože latence a přesnost se mění podle integrace a politik. Příliš přísný filtr zastaví legitimní práci, příliš volný propustí útok. Podnik potřebuje měřit falešné poplachy, znát důvod blokace a mít bezpečný postup pro výjimku.
Oprávnění jsou silnější kontrola než slib modelu
Žádný model nelze považovat za neomylný. Bezpečný návrh proto omezuje možné následky chyby. Agent pro přípravu obchodní nabídky může číst schválené podklady, ale neměl by automaticky měnit ceník nebo exportovat celou databázi. Každý nástroj musí ověřit identitu, rozsah a kontext požadavku stejně jako u běžné aplikace. Kritické kroky potřebují lidské potvrzení, limit objemu a auditní stopu. Guardrail na textové vrstvě je doplněk, nikoli náhrada přístupové kontroly.
Agentní systémy navíc vytvářejí řetězce, v nichž jeden agent zadává práci druhému. Původní uživatelský záměr se může cestou ztratit a oprávnění se nechtěně rozšířit. Bezpečnostní platforma musí sledovat vztah mezi identitou člověka, agentem, nástrojem a výslednou akcí. Check Point označuje tuto oblast za řízení důvěry v době běhu. Praktická kvalita se ukáže v tom, zda správce dokáže pravidla nastavit srozumitelně a zda systém zachová kontext napříč různými cloudovými a aplikačními prostředími.
Red teaming musí být průběžný
Klasický penetrační test zachytí stav aplikace v určitém čase. AI systém se však mění s verzí modelu, promptem, připojeným nástrojem i daty. Check Point proto nabízí průběžné adversariální testování, které zkouší manipulaci promptu, reasoningového řetězce a volání nástrojů. Smyslem není pouze získat seznam efektních útoků, ale převést nález do konkrétního pravidla, opravy oprávnění nebo testu, který zůstane součástí nasazovacího procesu.
Automatizovaný red teaming má vlastní riziko falešné jistoty. Nemůže předvídat každou kombinaci obchodního procesu a lidského chování. Tým potřebuje scénáře od lidí, kteří rozumějí dané agendě: co by znamenalo změnit bankovní účet dodavatele, zveřejnit neveřejný dokument nebo objednat službu bez schválení. Technická platforma poskytne nástroje a měřítko, ale závažnost určuje podnikový kontext. Nejlepší program proto spojuje automatické testy, ruční simulaci a pravidelnou kontrolu skutečných incidentů.
Jak začít bez nákupu dalšího loga do architektury
Organizace by měla nejprve vybrat jeden agentní proces, zmapovat data a nástroje a stanovit nepřijatelné akce. Potom může porovnat, co už pokrývá identitní systém, cloudová bezpečnost, aplikační brána a audit, a kde skutečně chybí AI specifická kontrola. Pilot AI Defense Plane má měřit počet objevených systémů, přesnost politik, dopad na latenci a schopnost vysvětlit incident. Bez metrik hrozí, že vznikne další konzole, již tým sleduje pouze při auditu.
Check Point má výhodu zavedené zákaznické základny a telemetrie z více bezpečnostních vrstev. Akvizice firem Lakera a Cyata doplnily specializaci na modelové útoky a agentní identity. Integrace těchto částí však musí být skutečná, ne jen společný marketingový název. Pro české podniky bude důležitá evropská práce s daty, podpora lokálních systémů a dostupnost partnerů. Produkt je relevantní odpovědí na nový problém, jeho hodnotu ale určí viditelné snížení rizika a jednoduchost každodenní správy.
Zdroje a redakční poznámka
Článek připravila redakce Jews.cz na základě uvedených veřejných podkladů. Tvrzení firmy nebo instituce v textu výslovně rozlišujeme od nezávisle doložených skutečností a od redakčního výkladu.
