Bezpečnostní tým Amazonu popsal kampaň, při které čínsky propojený útočník použil autonomní AI agenty běžící na nástroji Cairn. Jde o open-source framework pro automatizované penetrační testy, který původně slouží bezpečnostním expertům k testování vlastních systémů. V tomto případě se ale obrátil proti cizím sítím.
Jak útok probíhal
Podle zprávy byla veřejně dostupná instance Cairnu objevena již 10. září. Agentům stačil jediný pokyn: získat shellový přístup k cílovému serveru. Využitou chybou byla zranitelnost typu path traversal v nástroji MONAI Label, což je open-source server pro anotaci lékařských snímků podporovanou umělou inteligencí. Zhruba jedenáct minut poté, co agenti začali mapovat API, dokázali zapisovat soubory na libovolná místa v systému.
Na co výzkumníci upozorňují
- Amazon považuje chybu s vysokou jistotou za zero-day, protože pro ni neexistuje žádná oprava, hlášení ani zmínka v databázích zranitelností.
- Před úspěšným průnikem zkusil útočník dva neúspěšné pokusy proti jiným univerzitním systémům, které trvaly zhruba 16 a více než šest hodin.
- Stejnou chybu následně využil k napadení druhé univerzity.
- Správci projektu byli kontaktováni a chybu opravili.
Chyba na straně útočníka
Zajímavé je, že odhalený administrační panel prozradil zadání úloh, prompty a historii běhů agentů. Právě tyto údaje pomohly vyšetřovatelům poskládat průběh celé kampaně.
Co z toho plyne
Případ ukazuje, jak rychle se mohou automatizované útoky posunout. Firmy a vývojáři by neměli nechávat administrační rozhraní nástrojů veřejně dostupná, měli by pravidelně aktualizovat software a sledovat neobvyklý provoz, zejména v oblasti zdravotnictví a výzkumu. Běžný uživatel si může pomoci hlavně silnými hesly a dvoufázovým ověřováním, protože i automatizované útoky často stojí na slabém přihlašování.
Více o tom, jak s umělou inteligencí zacházet bezpečně, najdete v článku Bezpečnost a etika používání umělé inteligence.
Poznámka: podrobnosti vycházejí z reportu Amazon Threat Intelligence. Zdroje se neshodují v počtu napadených organizací a zasažený zdravotnický software není nezávisle ověřen.

