Umělá inteligence a kybernetická bezpečnost: Nová éra hledání zranitelností

Nedávný objev závažné zranitelnosti v operačním systému Ubuntu pomocí pokročilého modelu umělé inteligence odhaluje, jak se AI stává klíčovým nástrojem v kybernetické bezpečnosti. Tento incident poukazuje na naléhavou potřebu rychlé adaptace a posílení digitální obrany.

Umělá inteligence a kybernetická bezpečnost: Nová éra hledání zranitelností

Max Justicz, technologický ředitel startupu Charge Robotics, nedávno odhalil kritickou zranitelnost v široce používaném open-source operačním systému Ubuntu. Tento objev, provedený s pomocí pokročilého modelu umělé inteligence, mohl v případě zneužití umožnit útočníkům převzít kontrolu nad servery s tímto systémem.

Justicz, který se kybernetické bezpečnosti věnuje i ve svém volném čase, sdělil, že problém identifikoval s využitím jednoho z výkonných modelů. Popsal, jak jednoduše nasměroval nástroj na stejný blok kódu, kde dříve objevil jinou chybu, a požádal ho o nalezení podobně závažných nebo horších problémů. Během pouhých dvou hodin systém odhalil zranitelnost, která je pro lidského analytika extrémně složitá na detekci, ale přesto funkční.

Nalezená zranitelnost byla nahlášena projektu Debian, který spravuje příslušný software, a následně byla vydána záplata k její opravě. Ačkoliv zatím nejsou známy žádné případy zneužití, snadnost, s jakou byla chyba odhalena, naznačuje, že jsme svědky teprve počátku éry AI-asistovaných exploitů, které mohou být využity i méně zkušenými útočníky.

Justicz varuje, že v blízké budoucnosti můžeme očekávat odhalení a zneužití „extrémně šílených“ chyb, neboť efektivita nasměrování výkonného AI modelu na neauditovaný kód je enormní. Je zřejmé, že se jedná o významnou „alphu“ pro kohokoli, kdo se rozhodne prozkoumat kód nebo binární soubory, které dosud nikdo neprověřil.

Významné subjekty vyvíjející umělou inteligenci si této hrozby všimly a reagují. Bylo oznámeno zpřístupnění nového modelu zaměřeného na kybernetickou bezpečnost pro vybrané uživatele v programu, který poskytuje nástroje pro hledání a vývoj zranitelností. Tento model byl údajně použit k prohledávání a přípravě záplat pro zranitelnosti v jádře Linuxu, kde identifikoval téměř tisíc potenciálních problémů, a objevil desítky dosud neznámých zranitelností ve webovém prohlížeči Firefox. Cílem je dramaticky rozšířit přístup k pokročilému bezpečnostnímu výzkumu pro organizace všech velikostí, nezávislé výzkumníky a správce open-source projektů.

Panuje přesvědčení, že časové okno pro zabezpečení digitální infrastruktury je omezené, než se modely AI stanou ještě efektivnějšími v útočných scénářích a zároveň dostupnějšími. Pro obránce to však může znamenat obrovské množství nové práce, která převyšuje jejich zdroje. Justicz sám vynaložil značné finanční prostředky na předplatné a přístup k modelům, aby objevil několik exploitů. Kromě přístupu k pokročilým modelům v rámci zmíněných programů je věnována i významná finanční podpora pro profesionály v kybernetické bezpečnosti, kteří pracují na kritické infrastruktuře, jako jsou energetické sítě nebo vodohospodářské systémy.

Dominik Medal

Chystáte nový web nebo aplikaci?

Napište mi, co plánujete — rád se na to podívám a poradím, jak na to nejlépe jít.

Program pro kybernetickou bezpečnost čelí i kritice. Například, některé jeho funkce byly údajně „oslabeny“, což omezuje jeho užitečnost pro obránce. Na jedné straně to může být snaha o omezení přístupu potenciálním útočníkům – Justicz zmínil, že se do programu připojil pouze nahráním fotografie svého řidičského průkazu. Na druhé straně se profesionálové v oblasti kybernetické bezpečnosti cítí být znevýhodněni, pokud nemohou využívat špičkové technologie, zatímco útočníci mohou nasazovat otevřené modely s odstraněnými bezpečnostními omezeními.

I když se uvádí, že do programu jsou zapojeny „tisíce“ profesionálů v kybernetické bezpečnosti, toto číslo bledne ve srovnání s mnohem větším počtem potenciálních útočníků. Otázkou zůstává, zda je tomuto problému věnováno dostatečné množství zdrojů. Přestože jsou alokovány značné výpočetní kapacity na objevování a opravy zranitelností v open-source kódu pro bono, náklady na takovéto „lovce chyb“ mohou být značné. Například, hledání chyb v Linuxu stálo 1,2 milionu dolarů, což je však výrazně méně než investice do řešení slavného problému fluidní dynamiky. Pokud je čas na záplatování digitální infrastruktury, na které svět závisí, skutečně omezený, pak je naléhavě nutné jednat s větší prioritou.

Dominik Medal

Popovídejme si o Vašem projektu

Napište mi, co potřebujete, a společně určíme nejlepší postup.

Už nescrollujte, volejte

+420 735 505 585