Nejzávažnější hrozbou ze strany umělé inteligence nejsou zabijácké roboty a totální sledování, ale prudký nárůst sofistikované kybernetické kriminality poháněné generativní umělou inteligencí. To už Američany stálo v roce 2024 16,6 miliardy dolarů, což je o 33 % více než v předchozím roce a dvojnásobná ztráta za tři roky. Skutečné číslo je pravděpodobně vyšší, protože méně než 20 % obětí uvádí, že byly podvedeny.
Nová tvář kyberzločinu
Nedávné diskuse na Crosscurrent Summit Aspen Institute odhalily děsivý trend: Severokorejští agenti používají překryvy obličeje generované umělou inteligencí k dokončení vzdálených rozhovorů v západních technologických společnostech. Tito agenti pak pracují na více zaměstnáních současně a do Pchjongjangu přivádějí výplaty a zpravodajské informace. Používají AI k vytváření životopisů, přípravě na pohovory a přesvědčivě se tváří jako legitimní kandidáti.
Nejde jen o finanční krádeže; jde o novou formu státní kybernetické špionáže. Schopnost nepozorovaně infiltrovat společnosti představuje významné bezpečnostní riziko, ale není s ní zacházeno se stejnou naléhavostí jako se senzačnějšími hrozbami AI.
Generativní umělá inteligence zesiluje podvody
Problém se zrychluje. Generativní AI dělá počítačovou kriminalitu rychlejší, levnější a přesvědčivější než kdy dříve. Phishingové e-maily jsou nyní k nerozeznání od legitimních zpráv díky jazykovým modelům založeným na umělé inteligenci. Syntetické identity – s falešnými fotografiemi a biografiemi – lze snadno vytvořit, což umožňuje podvodníkům obejít autentizační systémy.
Klonování hlasu již vedlo k milionům dolarů v krádežích. V jednom případě finanční zaměstnanec společnosti Arup v Hongkongu převedl 25 milionů dolarů po hluboce falešném videohovoru s finančním ředitelem společnosti a kolegy. Všichni účastníci byli padělky vytvořené AI. Zpráva o globálních hrozbách CrowdStrike z roku 2026 zjistila, že počet útoků AI meziročně vzrostl o 89 %, přičemž průměrné narušení se šíří po síti za méně než 30 sekund.
Proč je to důležité
Kyberzločin není nic nového, ale rozsah a sofistikovanost jsou bezprecedentní. Industrializace podvodů v jihovýchodní Asii v kombinaci s nárůstem kryptoměn a práce na dálku vytvořila dokonalou bouři. Deloitte předpovídá, že ztráty z generativních podvodů s umělou inteligencí ve Spojených státech mohou do roku 2027 dosáhnout 40 miliard dolarů.
Obzvláště nebezpečná je emoční manipulace. Romantické podvody, které se často zaměřují na zranitelné osoby, jsou s pomocí umělé inteligence stále přesvědčivější. Oběti často odmítají uvěřit, že byly podvedeny, i když jim byly předloženy jasné důkazy.
Obrana vs. ofenzíva
Zatímco finanční instituce a orgány činné v trestním řízení používají AI k boji proti podvodům (FBI loni zmrazila stovky milionů ukradených finančních prostředků), shoda odborníků je ponurá. Rob Joyce, bývalý ředitel kybernetické bezpečnosti v NSA, varuje, že vstupujeme do období, kdy útok je daleko před obranou. Alice Marwick, ředitelka výzkumu ve společnosti Data & Society, tento pesimismus opakuje.
Problém se zhoršuje nedostatečným vykazováním a normalizací. Roční rekordní ztráty jsou vnímány jako nevyhnutelné náklady na podnikání online, které zakrývají strmost křivky.
Shrnutí
Podvody s umělou inteligencí představují skutečné a bezprostřední nebezpečí. Na rozdíl od spekulativních rizik AI tato hrozba již existuje, má hodnotu miliard a využívá lidské slabosti. Závod mezi útokem a obranou je silně nakloněn ve prospěch útočníků a rozsah problému naznačuje, že se bude jen zhoršovat, pokud nebudou zavedena významná protiopatření.
