Według doniesień grupa nieautoryzowanych użytkowników uzyskała dostęp do Mythos, nowego, potężnego modelu sztucznej inteligencji opracowanego przez firmę Anthropic. Ten incydent ma krytyczne znaczenie, ponieważ firma Anthropic wyraźnie sklasyfikowała tę technologię jako „zbyt niebezpieczną”, aby mogła być szeroko dostępna publicznie ze względu na jej potencjał tworzenia bezprecedensowych zagrożeń dla cyberbezpieczeństwa.
Istota hackowania: luka w zabezpieczeniach strony trzeciej
Według doniesień Bloomberga i Euronews Next nieautoryzowany dostęp nie był wynikiem bezpośredniego ataku na podstawową infrastrukturę Anthropic. Zamiast tego hakerom udało się ominąć zabezpieczenia poprzez środowisko zewnętrznego dostawcy usług.
Zaangażowana grupa jest podobno częścią zamkniętej społeczności na Discordzie, która specjalizuje się w wyszukiwaniu i testowaniu niepublikowanych jeszcze modeli sztucznej inteligencji. Po uzyskaniu dostępu członkowie grupy rzekomo regularnie korzystali z modelu Mythos do własnych celów.
Anthropic odpowiedział na incydent następującym oświadczeniem:
„Badamy zgłoszenia dotyczące nieautoryzowanego dostępu do Claude Mythos Preview za pośrednictwem jednego ze środowisk dostawców zewnętrznych”.
Firma podkreśliła, że obecnie nie ma dowodów na to, że wewnętrzne systemy Anthropic zostały naruszone lub że wyciek wykraczał poza środowisko konkretnego wykonawcy.
Czym jest Mythos i dlaczego dostęp do niego jest ograniczony?
Mythos nie jest typowym chatbotem konsumenckim takim jak Claude. Jest to specjalistyczne narzędzie przeznaczone do bezpieczeństwa korporacyjnego, którego głównym zadaniem jest identyfikacja luk w zabezpieczeniach i wzmacnianie zabezpieczeń cybernetycznych.
Ze względu na zdolność modelu do głębokiego zrozumienia i wykorzystania luk cyfrowych, firma Anthropic wdrożyła wysoce kontrolowaną strategię wdrażania zwaną Projekt Glasswing. Projekt ten ogranicza dostęp do wąskiego kręgu liczących się instytucji, które mogą zarówno skorzystać z narzędzia, jak i skutecznie zarządzać związanym z nim ryzykiem.
Obecni testerzy to:
– Giganci technologiczni: Amazon i Apple.
– Instytucje finansowe: JPMorgan Chase, Goldman Sachs, Citigroup, Bank of America i Morgan Stanley.
Strategiczne znaczenie Mythos dla sektora bankowego
Duże zainteresowanie ze strony sektora finansowego podkreśla potencjalny wpływ modelu na globalne bezpieczeństwo gospodarcze. Według doniesień, w kwietniu sekretarz skarbu USA Scott Bessent spotkał się w Waszyngtonie z wyższymi rangą bankierami amerykańskimi, aby omówić model Mythos.
Celem takich dyskusji jest zachęcenie głównych banków do włączenia modelu do swoich przepływów pracy w celu wykrywania i łagodzenia luk systemowych. Podkreśla to rosnący trend w branży: wykorzystywanie zaawansowanej sztucznej inteligencji jako „miecza obosiecznego” – wykorzystywanie superpotężnych modeli do obrony przed tego rodzaju cyberatakami, które te same modele mogłyby teoretycznie złagodzić.
Wniosek
Wyciek Mythos obnaża krytyczną sprzeczność w branży sztucznej inteligencji: im bardziej zaawansowany staje się model bezpieczeństwa, tym bardziej niebezpieczny staje się, jeśli wpadnie w niepowołane ręce. Chociaż wyciek wydaje się ograniczać do środowiska dostawców zewnętrznych, rodzi palące pytania dotyczące bezpieczeństwa łańcuchów dostaw wykorzystywanych do wdrażania technologii sztucznej inteligencji wysokiego ryzyka.
