Nog maar zes maanden geleden was Mercor een voorbeeld van de AI-boom. Na een enorme Series C-financieringsronde van $350 miljoen bereikte de start-up voor AI-datatraining een duizelingwekkende waardering van $10 miljard. Tegenwoordig is dat momentum vervangen door een reeks escalerende crises na een groot datalek.
De anatomie van de breuk
Op 31 maart gaf Mercor toe dat het het doelwit was van hackers. Sindsdien beweert een hackergroep 4TB aan gestolen gegevens te hebben geëxfiltreerd. Hoewel Mercor de authenticiteit van de gestolen bestanden niet officieel heeft bevestigd, is de vermeende buit verwoestend en omvat naar verluidt:
- Kandidaatprofielen en persoonlijk identificeerbare informatie (PII).
- Werkgeversgegevens en gevoelige bedrijfsgegevens.
- Eigen broncode en API-sleutels.
De inbreuk werd naar verluidt mogelijk gemaakt door een kwetsbaarheid in LiteLLM, een veelgebruikte open-sourcetool die dagelijks miljoenen keren wordt gedownload. Gedurende een periode van 40 minuten bevatte de tool ‘credential harvesting malware’: schadelijke software die is ontworpen om inloggegevens te stelen. Hierdoor ontstond een domino-effect, waarbij gestolen inloggegevens werden gebruikt om toegang te krijgen tot verdere software en accounts, waardoor de aanvallers dieper in de systemen van Mercor konden dringen.
De gevolgen: industriële reuzen heroverwegen partnerschappen
In de wereld van AI-ontwikkeling zijn datatrainingsbedrijven zoals Mercor meer dan alleen dienstverleners; zij zijn de bewaarders van bedrijfsgeheimen. Ze beheren de aangepaste datasets en unieke processen waarmee modelmakers hun AI kunnen trainen. Dit hoge niveau van vertrouwen is de reden waarom bedrijven als Meta eerder met Mercor werkten, zelfs nadat ze 14,3 miljard dollar hadden geïnvesteerd in concurrent Scale AI.
Dat vertrouwen wordt nu echter op de proef gesteld:
- Meta heeft naar verluidt zijn contracten met Mercor voor onbepaalde tijd opgeschort.
- OpenAI onderzoekt momenteel zijn eigen blootstelling na de inbreuk, hoewel het zijn samenwerking met Mercor op dit moment nog niet heeft beëindigd.
- Andere grote AI-ontwikkelaars zijn naar verluidt hun relaties met het bedrijf aan het herzien terwijl ze de risico’s van voortdurende samenwerking afwegen.
Juridische strijd en de controverse over “certificering”.
De crisis verschuift van de digitale wereld naar de rechtszaal. Minstens vijf aannemers hebben rechtszaken aangespannen tegen Mercor, wegens de openbaarmaking van hun persoonlijke gegevens.
Eén specifieke rechtszaak heeft een complex web van aansprakelijkheid geïntroduceerd door niet alleen Mercor, maar ook LiteLLM en Delve als gedaagden te benoemen. Dit benadrukt een cruciaal, vaak over het hoofd gezien probleem in de technologie-industrie: de betrouwbaarheid van beveiligingscertificeringen.
Beveiligingscertificeringen zijn bedoeld om ervoor te zorgen dat bedrijven robuuste processen hebben om bedreigingen te minimaliseren, maar ze vormen geen magisch schild tegen geavanceerde aanvallen.
De opname van Delve, een startup voor AI-compliance, voegt een laagje controverse toe. Een klokkenluider heeft beweerd dat Delve mogelijk ‘rubber-stamping’-auditors en vervalste gegevens heeft gebruikt om beveiligingscertificeringen af te geven. Hoewel Delve deze beweringen ontkent, zijn de gevolgen aanzienlijk geweest, waaronder het verlies van de relatie met Y Combinator. Als reactie op het onderzoek heeft LiteLLM Delve verlaten en is op zoek naar nieuwe beveiligingscertificeringen via een andere provider.
Samenvatting
Mercor kampt momenteel met een perfecte storm van massale gegevensdiefstal, het verlies van grote zakelijke klanten en toenemende juridische uitdagingen. Het incident dient als een grimmige herinnering aan hoe een enkele kwetsbaarheid in een populaire open source-tool de veiligheid van het hele AI-ontwikkelingsecosysteem in gevaar kan brengen.
