Skupina neoprávněných uživatelů údajně získala přístup k Mythos, novému výkonnému modelu umělé inteligence vyvinutému společností Anthropic. Tento incident je kritický, protože společnost Anthropic výslovně klasifikovala technologii jako „příliš nebezpečnou“ pro široký přístup veřejnosti kvůli jejímu potenciálu vytvářet bezprecedentní rizika kybernetické bezpečnosti.
Podstata hacku: zranitelnost třetí strany
Podle zpráv Bloomberg a Euronews Next nebyl neoprávněný přístup výsledkem přímého útoku na základní infrastrukturu Anthropic. Místo toho byli hackeři schopni obejít zabezpečení prostřednictvím prostředí poskytovatele služeb třetí strany.
Zúčastněná skupina je údajně součástí uzavřené komunity na Discordu, která se specializuje na vyhledávání a testování dosud nevydaných modelů umělé inteligence. Po získání přístupu členové skupiny údajně pravidelně používali model Mythos pro své účely.
Společnost Antropic na incident reagovala následujícím prohlášením:
“Prošetřujeme zprávy o neoprávněném přístupu k Claude Mythos Preview prostřednictvím jednoho z prostředí našich dodavatelů třetích stran.”
Společnost zdůraznila, že v současné době neexistují žádné důkazy o tom, že by vnitřní systémy společnosti Anthropic byly kompromitovány nebo že únik přesahoval prostředí konkrétního dodavatele.
Co je Mythos a proč je k němu omezený přístup?
Mythos není váš průměrný spotřebitelský chatbot jako Claude. Jedná se o specializovaný nástroj určený pro podnikovou bezpečnost, primárně určený k identifikaci zranitelností a posílení kybernetické obrany.
Vzhledem ke schopnosti modelu hluboce porozumět a využít digitální mezery, společnost Anthropic implementovala vysoce kontrolovanou strategii nasazení nazvanou Project Glasswing. Tento projekt omezuje přístup k úzkému okruhu velkých institucí, které mohou těžit z nástroje a efektivně řídit související rizika.
Mezi aktuální testery patří:
– Technologičtí giganti: Amazon a Apple.
– Finanční instituce: JPMorgan Chase, Goldman Sachs, Citigroup, Bank of America a Morgan Stanley.
Strategický význam Mythosu pro bankovní sektor
Vysoký zájem ze strany finančního sektoru zdůrazňuje potenciální dopad modelu na globální ekonomickou bezpečnost. V dubnu se americký ministr financí Scott Bessent údajně setkal s vysokými americkými bankéři ve Washingtonu, aby prodiskutovali model Mythos.
Cílem těchto diskusí je povzbudit velké banky, aby začlenily model do svých pracovních postupů, aby odhalily a zmírnily systémová zranitelnost. To zdůrazňuje rostoucí trend v tomto odvětví: používání pokročilé umělé inteligence jako „dvojsečné meče“ – používání supervýkonných modelů k obraně proti přesně těm typům kybernetických útoků, které by stejné modely teoreticky mohly zmírnit.
Závěr
Únik Mythos odhaluje zásadní rozpor v odvětví umělé inteligence: čím pokročilejší se bezpečnostní model stává, tím nebezpečnějším se stává, pokud se dostane do nesprávných rukou. I když se zdá, že únik je omezen na prostředí dodavatelů třetích stran, vyvolává naléhavé otázky ohledně bezpečnosti dodavatelských řetězců používaných k nasazení vysoce rizikových technologií umělé inteligence.
