Nevím, jestli jste to postřehli nebo tomu věnovali pozornost. Stalo se něco, co posunuje Kotletův Syndikát zase o kousek blíže realitě. Máme tady špionážní kauzu, kterou z větší části řídila sama umělá inteligence. AI zde nefunguje jen jako pomocný nástroj, ale jako téměř autonomní operátor kybernetického útoku. AI špion.

Anthropic odhalil sofistikovanou špionážní operaci, jež zneužívala nástroj Claude Code k automatizovaným kyberútokům proti zhruba třiceti cílům po celém světě – technologickým firmám, finančním institucím, chemickému průmyslu i orgánům veřejné správy. V několika případech došlo k reálnému průniku a úniku dat.

Útočníkem měla být podle Anthropic s vysokou mírou jistoty státem podporovaná skupina z Číny. Lidé v útočném týmu zvolili cíle a připravili rámec operace, v němž Claude Code fungoval jako automatizovaný „operátor“. Aby obešli jeho bezpečnostní omezení, útočníci model „jailbreakli“ – rozdělili škodlivé úkoly na malé, zdánlivě nevinné kroky, a vydávali se za bezpečnostní firmu provádějící penetrační testy.

Po této přípravě Claude:
- zkoumal infrastrukturu cílů a vyhledával zranitelnosti,
- generoval a testoval kód,
- třídil ukradená data a připravoval dokumentaci útoku, atd.

Podle Anthropic AI odvedla 80–90 % práce; člověk zasahoval jen v klíčových rozhodovacích bodech. AI dokázala generovat tisíce požadavků za sekundu, což je pro čistě lidský tým nedosažitelné.

Model však nebyl bezchybný – občas tzv. halucinoval (to AI dělá) úspěchy, například tvrdil, že získal tajná data, která ve skutečnosti byla veřejná, nebo mylně vyhodnocoval stav průniku. Útočníci tak museli výstupy průběžně kontrolovat. Tyto nedostatky zatím (!) brání plně autonomním a spolehlivým útokům, ale směr vývoje je zřejmý.

Jak je vidět, prahy pro provádění vysoce sofistikovaných kyberútoků dramaticky klesají. Útoky, které dříve vyžadovaly velký tým expertů, lze ve velké míře automatizovat. I méně zkušené skupiny mohou s dobře nastavenou AI dosahovat schopností, které by jinak neměly.

Závěrem lze dodat, že AI bylo použito i při obraně a vyšetřování. Zajímavé, že?

Z autorova Facebooku