Nový prohlížeč ChatGPT Atlas od OpenAI slibuje automatizaci úkolů, jako je rezervace cestování a objednávání potravin, v podstatě funguje jako osobní agent AI ve vašem webovém prohlížeči. Navzdory působivým schopnostem je to pro bezpečnostní experty zdrojem hlubokého znepokojení. Hlavním problémem není, zda AI může tyto úkoly provádět, ale jak bezpečně a spolehlivě to dělá.
Nebezpečí přenosu ovládání AI
I ty nejpokročilejší systémy umělé inteligence jsou nedokonalé. Jsou náchylní k „halucinacím“ (generování nesprávných informací), zaujatosti a náchylnosti k manipulaci. Poskytnutí plné kontroly nad webovým prohlížečem umělé inteligenci přináší zranitelnosti, jako jsou útoky na vkládání požadavků (škodlivé pokyny skryté na webových stránkách), únos schránky a neschopnost rozlišit legitimní stránky od podvodných.
Rob T. Lee z institutu SANS poznamenává, že včasné testování již identifikovalo úspěšné zneužití vkládání požadavků a přesměrování. OpenAI rychle reaguje na zprávy, ale základní rizika přetrvávají. Problémem nejsou jen chyby; jde o to, že umělá inteligence zásadně nerozumí zabezpečení jako lidé.
Bitva prohlížečů a motivy OpenAI
ChatGPT Atlas je součástí rostoucího trendu, protože tech giganti spěchají s integrací AI do prohlížečů. Gemini od Googlu v prohlížeči Chrome, režim Copilot od Microsoftu v Edge a kometa Perplexity jsou všichni uchazeči. Není to jen o pohodlí; jde o kontrolu nad uživatelskými daty. Čím více lidí používá AI prohlížeče, tím více informací tyto společnosti shromažďují, které mohou využít k cílení reklamy nebo optimalizaci produktů.
Pro OpenAI, které utratilo miliardy za infrastrukturu AI, ale snaží se být ziskové, je získání podílu na trhu prohlížečů zásadní. To otevírá nové zdroje příjmů, včetně reklamy a potenciálně i možnosti vytvářet explicitní obsah. Společnost v současnosti podle GlobalStats drží 73 % trhu prohlížečů.
Jak fungují útoky: Zhroucení
Nejzávažnější hrozbou je vložení dotazu. Hackeři mohou vkládat skryté škodlivé pokyny na webové stránky, které prohlížeč AI spustí bez vědomí uživatele. To by mohlo vést k úniku důvěrných dat, změnám systému nebo jiným škodlivým aktivitám.
Další slabinou jsou útoky do schránky : škodlivé odkazy mohou být zkopírovány do vaší schránky a čekají, až je omylem vložíte do prohlížeče. Tyto útoky využívají lidskou nepozornost, díky čemuž jsou překvapivě účinné.
Serena Booth z Brown University varuje, že uživatelé mohou časem příliš důvěřovat systémům umělé inteligence a nekriticky posuzovat své činy.
Riziko pro podniky: Únik dat je nevyhnutelný?
Nebezpečí se vztahuje i na pracoviště. Cyberhaven uvádí, že 27,7 % podniků se již setkalo s tím, že si alespoň jeden zaměstnanec stáhl ChatGPT Atlas. Prohlížeče AI mohou automatizovat krádeže dat a potenciálně ukrást citlivé informace o zákaznících, obchodní tajemství nebo dokonce data o národní bezpečnosti.
Současné bezpečnostní nástroje znesnadňují identifikaci citlivých dat a dohledání jejich původu, takže je obtížné zabránit jejich úniku. Kombinace této slabosti s automatizačními schopnostmi prohlížečů AI vytváří dokonalou bouři.
Vyplatí se ChatGPT Atlas používat?
Při osobním použití postupujte opatrně. Vyhněte se synchronizaci citlivých dat (finanční, zdravotní) a deaktivujte zbytečná oprávnění. Považujte to za kuriozitu a ne za náhradu vlastního úsudku.
Při práci je shoda jasná: Testujte to pouze v izolovaných prostředích. Monitorujte veškerou aktivitu a integrujte ji do robustního rámce správy AI.
Nakonec je otázkou, zda přínosy převažují nad riziky. Simon Paulton z Tinuiti tvrdí, že většina uživatelů se může sama pohybovat po internetu rychleji, takže Atlas je prozatím zbytečný. Přínosy jsou omezené, zatímco potenciální škody zůstávají značné.
Na závěr, ChatGPT Atlas je pohledem do budoucnosti prohlížení, ale s významnými bezpečnostními kompromisy. Dokud OpenAI a další vývojáři neopraví tyto zranitelnosti, je pečlivá implementace jediným rozumným přístupem.
