Nedávno představený nástroj Grok Build CLI, navržený pro asistenci při kódování s využitím pokročilého jazykového modelu, se rychle stal předmětem intenzivních diskusí v technologické komunitě. Několik vývojářů totiž odhalilo alarmující chování: bez explicitního souhlasu či upozornění docházelo k nahrávání všech lokálních souborů z pracovních adresářů na vzdálené servery. Toto odhalení, dokumentované nezávislými výzkumníky v oblasti bezpečnosti AI, poukázalo na zásadní nedostatky v přístupu k ochraně dat.
Konkrétně bylo zjištěno, že Grok CLI přenášel obsah celých repozitářů, včetně historie Gitu a dokonce i souborů .env obsahujících citlivé údaje, jako jsou databázové klíče nebo API tokeny. Tyto informace byly odesílány na cloudové úložiště Google Cloud Storage. Závažnost situace podtrhuje fakt, že nahrávání probíhalo i v případě, kdy agentovi bylo explicitně zakázáno číst jakékoliv soubory, a bylo aktivní i po deaktivaci volby „Vylepšit model“. Pro srovnání, běžná praxe u podobných nástrojů spočívá buď v přenosu pouze omezeného kontextu, se kterým agent pracuje, nebo v lokálním indexování kódu a odesílání pouze abstraktních embeddingů, nikoli celého zdrojového kódu.
Přenos nešifrovaných souborů .env, které často obsahují klíčové tajemství projektů, představuje obrovské bezpečnostní riziko. Jakékoli zneužití těchto dat by mohlo mít katastrofální následky pro integritu a bezpečnost vývojářských projektů. Navíc fakt, že vývojáři nebyli o tomto chování informováni ani požádáni o souhlas, je v přímém rozporu s principy transparentnosti a důvěry, které by měly být základem interakce mezi uživateli a softwarovými nástroji.

Potřebujete pomoc s webem nebo aplikací?
Ozvěte se mi — do 24 hodin se Vám ozvu zpět s návrhem dalšího postupu.
Reakce vývojářské komunity byla rychlá a značně negativní. Společnost SpaceX, pod kterou xAI spadá, se pokusila situaci řešit nejprve deaktivací funkce nahrávání dat pomocí vzdáleného přepínače funkcí. Po kritice, včetně té od generálního ředitele OpenAI, bylo Grok CLI nakonec zpřístupněno jako open source projekt. Společnost také oznámila, že vypnula výchozí uchovávání dat pro všechny uživatele Grok Build a slíbila smazání dříve uložených kódovacích dat.
Navzdory rychlému řešení incidentu je dopad na důvěru v Grok CLI a společnost xAI značný. Ukázalo se, že interní procesy zjevně postrádaly potřebné bezpečnostní audity a etické zvážení. Důvěra se buduje dlouho a snadno se ztrácí, a Grok CLI bude muset vynaložit značné úsilí, pravděpodobně v řádu let bez podobných incidentů, aby ji znovu získalo. Tento případ slouží jako ostrá připomínka, proč je plánování, transparentnost a dodržování bezpečnostních standardů klíčové pro úspěch a důvěryhodnost jakéhokoli softwarového produktu, zejména toho, který pracuje s citlivými daty vývojářů.
