Hackeři už nekradou jen data, ale i výkon AI

Dříve sloužily odcizené přístupové údaje do cloudu především k těžbě kryptoměn nebo krádeži dat. Nyní se stále častěji zneužívají k neoprávněnému přístupu k drahým modelům umělé inteligence (AI). Tato technika se označuje jako LLMjacking a dostala se do veřejného povědomí před dvěma lety, nyní je ale naplno na vzestupu, varují výzkumníci FortiGuard Labs.

Zdokumentovali případ, který ukazuje, jak rychle se mění cíl kybernetických útočníků. „Generativní umělá inteligence se rychle stává jedním z nejvýnosnějších způsobů využití odcizených přihlašovacích údajů do cloudu. Útočníci již nemusí spouštět těžbu kryptoměn ani sbírat data, aby mohli zpeněžit kompromitovaný klíč pro správu identit a přístupů (IAM). Místo toho mohou zneužít přístup k legitimním cloudovým AI službám a pomocí účtu oběti spotřebovávat nákladné zdroje umělé inteligence nebo tento přístup případně dále prodávat třetím osobám,“ říká Ondřej Šťáhlavský, ředitel společnosti Fortinet pro střední a východní Evropu.

Cílem útočníků není přístup k datům, ale k modelům samotným

Podle analýzy Fortinetu se LLMjacking týká krádeže a zneužití přístupu k hostovaným AI modelům, nikoli například krádeže trénovacích dat. Cíl útočníka je jednoduchý: donutit cizí cloudový účet zaplatit za drahé použití vysoce výkonného modelu, který buď využije sám, nebo jeho výkon přeprodá dále.

Podle Fortinetu je několik důvodů, proč je tato forma útoku pro kyberzločince tak atraktivní. Především náklady na nástroje jsou u tohoto typu útoku nízké a výnos je vysoký. Stačí funkční cloudová identita, obvykle uniklý přístupový klíč, nebo odcizené lokální přihlašovací údaje. Jakmile je cloudová identita odhalena, útočníci jednají v řádu minut, nikoli dnů. Využívání prémiových modelů ve velkém měřítku přitom není levné. Podle výzkumu LLMjackingu se škoda pro oběť pohybuje například v případě využití Claude 3 Opus přes 100 000 dolarů (2,14 mil. Kč) denně.

Výzkumníci FortiGuard Labs analyzovali konkrétní incident, při kterém byl zneužit dlouhotrvající přístupový klíč AWS IAM s administrátorskými oprávněními. S jeho pomocí útočník postupoval ve třech krocích: vytvořil nového uživatele IAM, přihlásil ho k odběru jednoho nebo více základních modelů přes AWS Marketplace a spustil odebrané modely, čímž na účtu oběti vygeneroval poplatky za jejich využití.

„Protože LLMjacking využívá platné přihlašovací údaje a legitimní cloudové služby, vyžaduje účinná prevence a detekce silné ověření identity, důkladné protokolování a kontextovou analýzu,“ uzavírá Ondřej Šťáhlavský z Fortinetu.