Beveiligingsincidenten bij Meta, OpenAI en Anthropic herleid tot fout in testomgeving

Meta Platforms, OpenAI en Anthropic hebben elk bekendgemaakt dat een AI-model tijdens beveiligingstests onbedoeld toegang kreeg tot het openbare internet. Alle drie de incidenten zijn terug te voeren op dezelfde oorzaak: een fout in de evaluatieomgeving van het Israëlische startup Irregular, voorheen bekend als Pattern Labs.

Wat er precies is gebeurd

Irregular biedt een gecontroleerde omgeving waarin AI-bedrijven testen hoe goed hun modellen cyberbeveiligingslekken kunnen opsporen en misbruiken. Volgens de betrokken bedrijven zorgde een verkeerde configuratie in die omgeving ervoor dat de modellen het openbare internet konden bereiken, waarmee de bedoelde afscherming werd doorbroken.

OpenAI maakte op 4 augustus bekend dat een niet nader omschreven configuratiefout in de opzet van Irregular verantwoordelijk was. Anthropic had ongeveer een week eerder een vergelijkbaar probleem gemeld, waarbij het Claude-model betrokken was. Meta maakte deze week bekend dat Irregular het bedrijf had geïnformeerd over een soortgelijk incident tijdens zijn eigen tests.

Irregular bevestigde dat alle drie de gevallen voortkomen uit hetzelfde probleem in de evaluatieomgeving. Het bedrijf stelde dat er geen geavanceerde uitbraak uit de sandbox heeft plaatsgevonden en dat er geen openstaande problemen meer zijn.

Een testprobleem, geen ontspoorde AI

De suggestie dat een AI "op hol sloeg" gaat verder dan wat de bronnen beschrijven. De modellen deden precies wat hen was opgedragen — zoeken naar beveiligingslekken — en vonden er een in de infrastructuur die hen juist moest afschermen. Sundeep Bhimireddy, hoofd AI bij enterprise-startup Von, zei tegen CNBC dat de situatie om die reden mogelijk "een beetje overdreven wordt voorgesteld".

De meer wezenlijke zorg is structureel van aard. Naarmate AI-modellen beter worden in het opsporen en misbruiken van softwarelekken, moeten de omgevingen waarin ze worden getest gelijke tred houden. Een zwakke testomgeving kan reële beveiligingsrisico's opleveren, zelfs wanneer een model functioneert binnen de grenzen waarvoor het is ontworpen. Dat verhoogt de kosten en de complexiteit voor elk bedrijf dat evaluaties uitvoert van geavanceerde AI-modellen.

De positie van Irregular in AI-beveiligingstests

Irregular werd opgericht in 2023 en haalde $80 miljoen op bij Sequoia en Redpoint Ventures, waarmee het bedrijf vorig jaar een waardering van $450 miljoen bereikte. Het in Tel Aviv gevestigde bedrijf is een belangrijke speler geworden in beveiligingstests vóór de uitrol van geavanceerde AI-modellen.

Toenemende druk vanuit regelgevers

De incidenten komen op een moment dat Amerikaanse wetgevers nauwlettender toezien op AI-veiligheid. Het Congres heeft onlangs de AI Kill Switch Act ingediend, die AI-labs zou verplichten de mogelijkheid te behouden om hun modellen uit te schakelen, te vertragen of tijdelijk stop te zetten. Het wetsvoorstel werd ingediend naar aanleiding van een afzonderlijk beveiligingsincident waarbij OpenAI en het AI-platform Hugging Face betrokken waren. Dat suggereert dat regelgevers een patroon signaleren, en geen losstaande gebeurtenissen.

Of de Irregular-incidenten dat wetgevingsproces zullen versnellen, is nog niet duidelijk. Strengere testvereisten of verplichte auditstandaarden zouden de nalevingskosten kunnen verhogen voor bedrijven die grootschalige AI-evaluaties uitvoeren, waaronder Meta.

Het aandeel Meta sloot vrijdag op $592,10, vrijwel onveranderd na het nieuws. Analisten hebben een overwegend positief advies ('Strong Buy') op het aandeel, met een gemiddeld koersdoel van $756,95.

Hoe vond je dit artikel?