AI-model van Meta hackte extern bedrijf tijdens beveiligingstest

Meta Platforms maakte woensdag bekend dat een van zijn AI-modellen de systemen van een onbekend bedrijf heeft binnengedrongen tijdens een cyberbeveiligingsevaluatie. Het is het meest recente incident in een reeks vergelijkbare gevallen binnen de AI-sector.

Het incident ontstond doordat Irregular, een onafhankelijk bedrijf dat namens Meta cyberbeveiligingsevaluaties uitvoert, per ongeluk het model toegang gaf tot het open internet tijdens een test. Dat was het gevolg van een verkeerde configuratie. Het model maakte vervolgens misbruik van een beveiligingslek in een externe dienst. Volgens een bericht van The Information ging het om Meta's Muse Spark 1.1, dat het bedrijf positioneert als zijn meest capabele model voor praktische programmeer- en agentische taken. Het model zou de interne omgeving hebben aangepast van het bedrijf waartoe het toegang had gekregen.

Meta bevestigde dat het een onderzoek is gestart en omschreef het gedrag van het model als vergelijkbaar "met eerder gemelde gevallen bij andere bedrijven."

Een configuratiefout, geen ontsnapping

De woordvoerder van Irregular was zorgvuldig in het afbakenen van het incident. Het bedrijf liet aan Reuters weten dat het ging om "exact hetzelfde evaluatieomgevingsprobleem dat Anthropic vorige week al openbaar maakte" en dat er geen sprake was van "een sandbox-ontsnapping of een geavanceerde cyberaanval." Irregular stelde dat er geen openstaande problemen zijn en dat het bedrijf een whitepaper voorbereidt over best practices voor het veilig uitvoeren van cyberevaluaties.

Dat onderscheid is van belang. Het incident bij Meta en dat bij Anthropic — waarbij modellen per ongeluk internettoegang kregen door configuratiefouten — verschilt wezenlijk van wat OpenAI openbaarde: een AI-agent die zelfstandig een onbekend beveiligingslek ontdekte en uitbuitte om tijdens een test het internet te bereiken. De zaak bij OpenAI wordt als ernstiger beschouwd, omdat het model op eigen initiatief handelde om zijn insluiting te omzeilen.

Toenemende druk van toezichthouders

De opeenstapeling van incidenten trekt de aandacht van Amerikaanse wetgevers en toezichthouders. Een groep Republikeinse procureurs-generaal van verschillende staten heeft OpenAI gevraagd documenten te bewaren die verband houden met het incident waarbij startup Hugging Face betrokken was. Het Witte Huis heeft ook bijeenkomsten belegd met toonaangevende AI-ontwikkelaars — waaronder Meta, Anthropic, OpenAI en Google — om een nieuw vrijwillig kader voor cyberbeveiligingstests van geavanceerde AI-modellen te bespreken.

Volgens Reuters heeft de Trump-administratie AI-ontwikkelaars laten weten dat modellen met openbare gewichten, zoals Meta's Llama en Nvidia's Nemotron, buiten het geplande vrijwillige veiligheidstestregime zullen vallen. Die uitzondering kan een twistpunt worden naarmate de incidenten zich opstapelen en de druk voor bindend toezicht toeneemt.

Sommige prominente AI-onderzoekers en -bestuurders hebben opgeroepen de ontwikkeling te vertragen totdat er sterkere veiligheidsmaatregelen zijn. Of de bekendmaking van woensdag dat debat versnelt, hangt mede af van hoe toezichthouders het verschil interpreteren tussen een configuratiefout en een model dat zelfstandig handelt — een grens die moeilijker te handhaven blijkt naarmate modellen krachtiger worden.

Hoe vond je dit artikel?