Google ontdekt eerste zero-day-exploits gemaakt met AI en voorkomt grootschalige cyberaanval

Dochteronderneming Alphabet van Google heeft de eerste bevestigde zaak ontdekt waarin kunstmatige intelligentie werd gebruikt om een zero-day-exploits te ontwikkelen voor een echte cyberaanval. Het bedrijf detecteerde en neutraliseerde de dreiging voordat hackers een "mass exploitation event" konden veroorzaken.

Volgens een rapport dat maandag werd gepubliceerd door Google's Threat Intelligence Group (GTIG), ontdekte het bedrijf een op Python gebaseerde exploits die twee-factor-authenticatie omzeilt op een anonieme open-source tool voor systeembheer. De aanvallers – een "criminal threat actor" – wilden de kwetsbaarheid op grote schaal inzetten en zo talrijke organisaties tegelijk compromitteren. Google meldt dat zijn "proactive counter discovery" de uitvoering van de operatie waarschijnlijk heeft voorkomen.

Bewijs van betrokkenheid van AI

Onderzoekers van GTIG noemden meerdere aanwijzingen dat de exploits met hulp van grote taalmodellen is ontwikkeld. De code bevatte een "hallucinated CVSS score" – een hallucinatie in het scoresysteem voor softwarekwetsbaarheden – plus "structured, textbook" opmaak die past bij outputs van LLM's. De exploits richtte zich op een semantische logische fout waarbij ontwikkelaars vertrouwen hadden hardgecodeerd in het authenticatiesysteem van het platform.

Google benadrukt dat de aanval niet zijn eigen Gemini-model betrof. Het rapport wijst in plaats daarvan op tools zoals OpenClaw die door dreigingsactoren worden gebruikt om softwarekwetsbaarheden op te sporen en te bewapenen.

Brede zorgen in de sector over AI-veiligheid

Deze vondst komt te midden van groeiende aandacht voor het dubbelzinnige potentieel van AI in cybersecurity. In april stelde Anthropic de uitrol van zijn Mythos-model uit uit vrees dat geavanceerde AI-systemen criminelen zouden helpen om kwetsbaarheden in oude software te vinden en uit te buiten. Dat leidde tot bijeenkomsten in het Witte Huis met tech-topmannen en zorgde ervoor dat Anthropic Mythos alleen vrijgaf aan een geselecteerde groep, waaronder Apple, Microsoft en Palo Alto Networks.

Vorige week gaf OpenAI beperkte preview-toegang tot GPT-5.5-Cyber, een op beveiliging gerichte variant van het nieuwste model, maar alleen voor goedgekeurde cybersecurity-teams. Het rapport van Google wijst erop dat groepen gelieerd aan China en Noord-Korea "significant interest in capitalizing on AI for vulnerability discovery" tonen.

Gevolgen voor het cybersecurity-landschap

Dit incident vormt een duidelijke escalatie in de wapenwedloop rond AI-veiligheid. Cybersecurity-bedrijven gebruiken al lang machine learning voor verdediging. Maar dit is een van de eerste gedocumenteerde gevallen waarin AI werd ingezet om nieuwe aanvalsvectoren te creëren – specifiek zero-day-kwetsbaarheden die verdedigers per definitie geen waarschuwing of patch geven.

Bij $400,80 per aandeel noteert Alphabet nabij de onderkant van de analistenkoersdoelen, met een consensuskoersdoel van $427,89 en een koopadvies van 68 volgende analisten. De cloud- en beveiligingsdivisies van het bedrijf, inclusief GTIG, worden steeds strategischer nu bedrijven kampen met AI-gedreven dreigingen.

Hoe vond je dit artikel?