Jak se adaptovat na AI orchestrátory pro penetrační testování: Moderní bezpečnostní model

S nástupem autonomních nástrojů pro penetrační testování s využitím umělé inteligence se krajina kybernetické bezpečnosti dramaticky mění. Organizace musí přehodnotit své obranné strategie a přijmout nový, ucelený přístup k ochraně digitálních aktiv.

Jak se adaptovat na AI orchestrátory pro penetrační testování: Moderní bezpečnostní model

V posledních měsících došlo k výraznému nárůstu počtu frameworků pro penetrační testování a orchestraci využívající velkých jazykových modelů (LLM). Jen před několika týdny byl k dispozici jeden známý open-source systém pro agentní penetrační testování, který automatizuje útočné bezpečnostní pracovní postupy. Dnes však zaznamenáváme desítky rodin těchto frameworků, které se pokoušejí skenovat systémy po celém světě. Počet IP adres, z nichž tyto frameworky operují, se rozrostl do tisíců a denně stále stoupá. Rozšíření těchto nástrojů výrazně změnilo stav kybernetické obrany: obránci mají potíže držet krok s objemovou povahou těchto autonomně řízených útoků.

Původní projekt byl sice tvůrcem 8. října stažen, ale v průběhu měsíce od této události se ekosystém rozrostl o nové, fragmentované verze. V současnosti existuje přes 12 000 repozitářů a stovky unikátních odnoží (forků) navazujících na původní projekt. Navíc od 8. října vznikly stovky dalších podobných agentních orchestrátorů. Denní počet požadavků na nástroje pro AI penetrační testování a zneužití narostl od 1. října třicetkrát. Tyto nástroje také začaly řetězit ukradené přihlašovací údaje v rámci složitějších útoků, například při bočním pohybu napříč celým prostředím.

Očekáváme, že se tyto frameworky budou nadále šířit, a každá organizace by měla být připravena se s touto hrozbou vypořádat. Proti frameworkům pro penetrační testování založeným na LLM doporučujeme všem organizacím přijmout tzv. Moderní bezpečnostní model, který stojí na šesti klíčových pilířích.

Open-source frameworky pro penetrační testování jsou schopny orchestrrovat AI agenty k provádění fází tradičního kybernetického řetězce útoku ve velkém měřítku. Některé z těchto nástrojů dokáží rychle integrovat existující kontextové protokoly modelů a novátorsky propojovat tradiční samostatné nástroje pro penetrační testování. Některé dokonce umožňují operátorovi zadávat, jaký typ úkolu má být splněn. Tyto nástroje dokáží mapovat a enumerovat prostředí, a to jak zevnitř, tak zvenčí. Tyto a jim podobné nástroje mapují aktiva a prostředí na graf, což umožňuje více nezávislým paralelním agentům provádět enumeraci, ověřování, prototypování a útoky rychlostí inference. Tímto způsobem se kompromitace stávají problémem, který lze efektivně „vyšplhat“, což je oblast, ve které jsou agenti obzvláště dobří.

Sledujeme desítky AI LLM agentů. Některé z nejpopulárnějších jsou plně autonomní. Plně autonomní povaha těchto agentů představuje doktrinální posun v útočných kybernetických schopnostech:

K určitému datu tvořila původní platforma a její odnože více než 60 % známých AI orchestrátorů pro penetrační testování. Od stažení původního repozitáře počátkem října se provoz zvýšil více než desetinásobně, a od začátku října dokonce více než třicetinásobně. Jak již bylo řečeno, stažení původního projektu v říjnu a s ním spojené zprávy pravděpodobně způsobily „hydra efekt“, kdy odstranění původního repozitáře vedlo k masivnímu nárůstu počtu odnoží a modifikací, což se projevilo strmým zrychlením nárůstu unikátních instancí kolem tohoto data.

V posledních týdnech byly týmy pro reakci na incidenty povolány k několika vyšetřováním, která se týkala těchto a jim podobných frameworků pro zneužití s využitím LLM. Na vlastní oči jsme viděli, jak jsou odhalené přihlašovací údaje řetězeny s LLM-založenými exploit frameworky, aby útočníci získali převahu nad obránci. Zaznamenali jsme několik incidentů, kdy útočník získal počáteční přístup do prostředí hyperscaleru a následně přešel přímo do zákaznického prostředí. Analýza hlavní příčiny odhalila běžné selhání v hygieně přihlašovacích údajů. Útočníci opakovaně kompromitovali statické, nevypršející tokeny běžící v CI/CD pipelinech, které poskytovaly široký přístup napříč různými prostředími v rámci infrastruktury hyperscaleru organizace. LLM frameworky výrazně zvyšují pravděpodobnost, že API klíč klienta bude zneužit k převzetí kontroly nad jinými nájemními prostředími.

Během jednoho vyšetřování incidentu náš tým pozoroval, jak konkrétní framework získal přístup ke kompromitovanému API tokenu na úrovni účtu, který byl dříve používán pro CI/CD bez omezení IP adres nebo limitů četnosti požadavků. Dostupné důkazy naznačovaly, že kompromitace s největší pravděpodobností pocházela z prostředí třetí strany. Zaznamenali jsme, že bylo vytvořeno velké množství nových skriptů s rozlišitelnými názvy, odkazujícími na daný framework. Názvy jednotlivých skriptů korelovaly s odlišnými chováními a akcemi, které prováděly, a často byly doplněny alfanumerickým identifikátorem. Byla pozorována aktivita přesahující 69 požadavků za minutu napříč různými částmi infrastruktury a 400 požadavků na export databáze za hodinu. Zaznamenali jsme také pokusy o mechanismy perzistence a snahy o validaci session tokenů pro jiné aplikace třetích stran. I když se domníváme, že velká část této aktivity byla lehce řízena lidským operátorem, je to jen jeden příklad rychlosti a rozsahu, kterého tyto a podobné frameworky mohou dosáhnout po kompromitaci.

Velké jazykové modely zvyšují schopnost útočníka rychle procházet kybernetickým řetězcem útoku proti cíli. Děje se tak díky tomu, že útočník získává výhodu rychlosti a ověřování. Každý krok kybernetického řetězce útoku může být ověřen a předán do další fáze útoku. Tato úroveň orchestrace je bezprecedentní a efektivně znehodnocuje starší modely kybernetické bezpečnosti. Proti těmto útokům je nutné použít moderní model. Pro lepší vysvětlení tohoto modelu použijme metaforu ochrany domu na pozemku. Každá následující sekce popisuje, jak se bránit hrozbě v každém kroku.

Zabezpečte hlavní bránu: Kontrola provozu a WAF s pokročilými pravidly
Než kdokoli vstoupí na váš pozemek, musí se dostat k obvodovému plotu. Na nechráněném pozemku může protivník poslat nekonečnou flotilu návnadných vozidel přímo k vaší příjezdové cestě, zcela zablokovat vjezd a prorazit bariéry (objemové záplavy na vrstvách 3/4 a přímé sondování IP adres). S bezpečnostním systémem u obvodové brány je veškerý příchozí provoz směrován přes masivní, distribuované vnější brány, které jsou daleko od hlavního domu. Neoprávněné dodávky jsou odfiltrovány na dálnici, podvodné servisní tunely pokoušející se odposlouchávat váš majetek jsou přerušeny a k vaší adrese se dostane pouze legitimní pěší provoz. Řízení síťového provozu hraje důležitou roli při zastavování objemových útoků.

Bezpečnostní stanoviště ve vstupní hale: Detekce anomálií
Jakmile návštěvníci dorazí k hlavnímu vchodu, setkají se s přísným bezpečnostním stanovištěm ve vstupní hale. Automatizovaní vetřelci nekopou jen do dveří; maskují se. Zkoušejí podivné způsoby, jak se dostat dovnitř – nacpávají papír do zámku, zkoušejí variace jako //hlavní-dveře//zadní-místnost/, aby oklamali mechanismus k otevření. Bezpečnostní stráž u dveří vynucuje jasná pravidla: Nemůžete klepat 500krát za pět sekund. Nemůžete maskovat svou cestu podvodem. Nemůžete se pokusit protlačit masivní vozík přední halou, abyste odvezli vnitřní plány domu (diagnostické výpisy paměti). Podezřelé chování je okamžitě odmítnuto. Implementujte bezpečnostní klíče a hardwarové klíče založené na FIDO. Firewall webových aplikací (WAF) slouží jako klíčový obranný mechanismus při zastavování zneužití aplikací prostřednictvím limitů četnosti a detekce anomálií.

Identifikujte podvodné návštěvníky: Implementujte ochranu proti botům
Sofistikovaný vetřelec zřídka vypadá jako maskovaný zloděj; maskuje se jako obyčejný návštěvník. Ale automatizovaní agenti, scrappery bez grafického rozhraní a nástroje pro AI průzkum se nechovají jako skuteční lidé. Nemrkají, jejich držení těla je znepokojivě strnulé, jejich kadence je mechanická a jejich „identifikace“ je často nedbalou imitací skutečného návštěvnického průkazu. Ochrana proti botům (Bot Defense) a výzvy fungují jako behaviorální specialisté, kteří sledují dav skrz jednosměrné sklo. Označují nepřirozenou kadenci, zachycují syntetické mikrochování a tiše vyprovází stroje z pozemku, než se stačí dotknout jediné kliky.

Dominik Medal

Potřebujete pomoc s webem nebo aplikací?

Ozvěte se mi — do 24 hodin se Vám ozvu zpět s návrhem dalšího postupu.

Odstraňte zadní vrátka: Implementujte přístup řízený identitou a mikrosegmentaci
Mnoho domů bylo historicky postaveno s bočními dveřmi nebo sklepním průlezem (interními administrátorskými panely, diagnostickými endpointy a vzdálenými bránami). I když jsou zamčené, vetřelec mohl stát na chodníku, posvítit baterkou na sklepní dveře a začít vypichovat zámek. Přístup k aplikacím na principu Zero Trust dělá něco radikálního: zazdí vchod zvenčí a omezuje, do kterých místností lze vstoupit. Pro každého, kdo se toulá po obvodu, sklepní dveře neexistují. Není tam žádný zámek k vypíchnutí, žádná klika k chrastění a uvnitř nesvítí žádné světlo. Jediná cesta dovnitř je s doprovodem, který zkontroluje váš biometrický průkaz, potvrdí, že vaše zařízení je v pořádku, a zavede vás přímo do konkrétní místnosti, kterou potřebujete – zbytek domu zůstává mimo dohled. Pro ty, kteří vstoupí, je nutné zajistit, aby nemohli proniknout do místností vedle té, do které vstoupí. Mikrosegmentace je vysoce efektivní strategií pro zastavení bočního pohybu. Omezuje pronikání kompromitovaných přihlašovacích údajů do produkčních, testovacích a vývojových systémů.

Kontrolujte dodávky: Vynucujte validovaná schémata a explicitní bezpečnostní kontroly
Na váš pozemek denně přicházejí dodávky – potraviny, pošta, náhradní díly. V digitálním smyslu jde o váš příchozí API provoz, který musí být kontrolován a ověřován. Útočníci se často pokoušejí obejít kontroly zasíláním nevalidovaných payloadů nebo padělaných dodacích listů určených pro omezené interní systémy. Protokol „verandy“ nařizuje důkladnou kontrolu a validaci schématu pro veškerý provoz: Každý příchozí požadavek musí projít validací schématu OpenAPI, aby se zajistilo, že striktně odpovídá očekávaným definicím a strukturám. Ovladače a kurýři musí předložit validované certifikáty mutual TLS (mTLS) k navázání důvěryhodných, ověřených spojení. Jakýkoli požadavek, který neprojde kontrolou nebo mu chybí platné přihlašovací údaje, je okamžitě odmítnut na hranici. Postoj „ve výchozím nastavení zamítnout“ (Default-Deny Posture): Každá pozitivní bezpečnostní implementace končí explicitním pravidlem zamítnout vše na konci sady pravidel.

Sousedská hlídka: Implementujte informace o hrozbách (Threat Intelligence)
I s neprůstřelnými zdmi může být izolovaný majetek zranitelný, pokud syndikát vymyslí zbrusu novou infiltrační techniku na druhém konci města. Informace o hrozbách (Threat Intelligence) fungují jako vaše varovná síť se sousedními nemovitostmi. Když nepoctivý aktér zřídí nový bezpečný dům pro velení a řízení nedaleko nebo začne nasazovat dynamické tunelovací dodávky ve vašem okrese, obdržíte včasné informace. Váš majetek aktualizuje své seznamy sledovaných objektů, rekalibruje své senzory a zabouchne bránu, než se útočník vůbec dostane na vaši ulici.

Tyto a podobné frameworky založené na velkých jazykových modelech představují významnou výzvu pro starší modely kybernetické obrany. I historický model „obrany do hloubky“ – který zdůrazňuje klasickou síťovou DMZ – zaostává v dnešních komplexních architekturách. Zítřejší útoky se budou jen vyvíjet, protože orchestrrační nástroje se stávají novým standardem. Zabezpečení staršího vybavení a lokálních zařízení vyžaduje přístup řízený identitou, který logicky znemožňuje dosažení těchto zařízení z internetu. Kromě identity je cílem mikrosegmentace zpomalit nebo zvýšit hluk bočního pohybu. Tato architektura zdůrazňuje přístup „první zadržení“ k bezpečnosti, což je nezbytné, když uživatelé neustále ztrácejí své klíče. Při vzájemné kombinaci jsou prvky Moderního bezpečnostního modelu odpovědí na tento palčivý problém.

Dominik Medal

Popovídejme si o Vašem projektu

Napište mi, co potřebujete, a společně určíme nejlepší postup.

Už nescrollujte, volejte

+420 735 505 585