OpenAI-president dringt aan op snellere AI-beveiliging bij bedrijven

Brockman heeft een verslag gepubliceerd van wat het bedrijf het "OpenAI-Hugging Face"-incident noemt, en gebruikt dit om te betogen dat organisaties hun beveiligingspraktijken met wat hij ongekende snelheid noemt moeten verbeteren. Hij schrijft dat hij sinds het incident met veel organisaties heeft gesproken en daarin een terugkerend thema is tegengekomen: leiders weten dat ze sneller moeten bewegen dan hun huidige beveiligingsprogramma's toelaten.

De urgentie komt voort uit een specifieke gebeurtenis. Een "agentisch collectief" drong autonoom door in OpenAI's eigen onderzoeksinfrastructuur en verplaatste zich vervolgens naar de productie-infrastructuur van Hugging Face. De aanvallers combineerden voorheen onbekende beveiligingslekken met gelekte gebruikersaccountgegevens die op internet te vinden waren om de inbraak te voltooien. Brockman noemt het een voorproefje van hoe de vaardigheden van een typische kwaadwillende actor zich de komende maanden zullen ontwikkelen.

De AI-beveiligingsbeslissing waar security-leiders voor staan

Brockman betoogt dat het incident een probleem blootlegde dat verder reikt dan het netwerk van één enkel bedrijf. Hij schrijft dat opgebouwde technische schuld binnen elke organisatie "aanzienlijke gebreken maskeert" die verdedigers nu moeten opsporen en verhelpen voordat aanvallers dat doen.

AI-modellen die in de hele industrie worden ontwikkeld, zijn steeds beter in staat om delen van praktijkgerichte cyberaanvallen te automatiseren, zegt hij, waardoor al langer bestaande beveiligingslekken eenvoudiger te vinden en te misbruiken zijn. Die lekken variëren van bugs diep verscholen in door mensen geschreven software tot vergeten rechten die jarenlang onbeheerd zijn gebleven.

Het tijdpad voor die beslissing is kort, aldus Brockman zelf. Eerder dit jaar begon OpenAI zijn cybercapaciteiten alleen vrij te geven aan vertrouwde verdedigers in plaats van het publiek, een bewuste poging om verdedigers voor te blijven. Sindsdien hebben andere bedrijven open-weight modellen uitgebracht met cybercapaciteiten die slechts een paar maanden achterlopen op de voorhoede.

Brockman wijst op een volgend model dat eind augustus lijkt te worden uitgebracht, waarvan hij zegt dat het het dreigingslandschap waarschijnlijk aanzienlijk zal versnellen. Voor bedrijfsleiders verkort dat de tijd om AI-ondersteunde verdediging op te bouwen voordat breed beschikbare modellen de kloof met de capaciteiten van aanvallers dichten.

Brockman schetst de onderliggende dynamiek als een wedstrijd met twee kanten. AI-aangedreven aanvallers zullen binnenkort in staat zijn om al langer bestaande gebreken in veel bestaande systemen op te sporen, schrijft hij, maar dezelfde technologie geeft verdedigers instrumenten om die gebreken sneller te vinden, te prioriteren en te verhelpen.

Terwijl hij beveiliging omschrijft als een blijvend kat-en-muisspel, betoogt Brockman dat AI de onderliggende economie ervan kan verschuiven op een manier die verdedigers bevoordeelt. OpenAI geeft aan modellen te trainen die specifiek gericht zijn op het schrijven van veiligere code. Daarnaast wijst het bedrijf op de vaardigheid van zijn modellen in wiskundige bewijsvoering, die volgens hen kan worden toegepast om softwarebeveiliging formeel te verifiëren op manieren die voor menselijke reviewers moeilijk op schaal te bereiken zijn gebleken.

Een testcase tegen Brockmans eigen website

Brockman geeft een persoonlijk voorbeeld van hoe snellere respons er in de praktijk uitziet. Na het incident vroeg hij ChatGPT Work, draaiend op het publiek beschikbare GPT‑5.6 Sol, om de beveiliging van zijn persoonlijke site, gregbrockman.com, te beoordelen. Hij omschrijft het als een eenvoudige statische site gehost op AWS met Cloudflare als frontdoor, en zegt dat hij een beperkt aanvalsoppervlak voor kwetsbaarheden verwachtte.

De beoordeling duurde ongeveer 15 minuten en bracht 13 problemen aan het licht. Brockman zegt dat veel daarvan waarschijnlijk niet op zichzelf misbruikt konden worden, maar hij kon zich voorstellen dat ze gecombineerd zouden kunnen worden met andere kwetsbaarheden. Het instrument ontdekte dat zijn DNS-records niet zo waren geconfigureerd dat aanvallers geen e-mails namens zijn adres konden vervalsen. Zijn site draaide op een onveilige versie van jQuery en Cloudflare stuurde verzoeken onversleuteld via HTTP door naar AWS.

Vervolgens vroeg hij ChatGPT Work om de problemen op te lossen, wat in ongeveer een uur gebeurde. Het instrument opende het Cloudflare-controlepaneel in zijn browser en werkte DNS, TLS en geavanceerde beveiligingsinstellingen door. Het verwijderde jQuery volledig van de site, migreerde de site van AWS naar Cloudflare Pages en startte een gefaseerde uitrol van DMARC.

Brockman noemt dit een kleinschalige demonstratie van bestaande modellen die functioneren als wat hij een cyberguardian noemt, in staat om een lange reeks configuratieproblemen op te sporen waarvoor een mens mogelijk de tijd of specifieke expertise mist, en vervolgens oplossingen toe te passen met een passend gefaseerde uitrol.

Hoe OpenAI zijn eigen verdediging heeft geherstructureerd

Brockman schrijft dat het Hugging Face-incident aantoonde dat OpenAI de praktijkgerichte cybercapaciteiten van zijn eigen AI-modellen had onderschat, wat het bedrijf ertoe aanzette zijn veiligheidsvereisten aan te scherpen en urgentie toe te voegen aan bestaand veiligheidsonderzoek en intern beveiligingswerk. Hij noemt vier gebieden van interne investering die zijn aanbevelingen aan andere organisaties onderbouwen.

Het eerste is het gebruik van OpenAI's eigen modellen om de eigen code te beveiligen. Codex, samen met een beveiligingsplugin, valideert codewijzigingen en identificeert kwetsbaarheden vóór implementatie. Brockman is duidelijk dat het produceren van meer bevindingen die menselijke validatie vereisen niet het doel is; het doel is echte kwetsbaarheden te vangen voordat ze worden uitgerold en de tijd tussen het ontdekken van een probleem en het implementeren van een oplossing te verkorten. OpenAI's ambitie is om bepaalde categorieën softwarekwetsbaarheden in nieuw geschreven code volledig uit te bannen.

De tweede pijler betreft het doorlopend gebruik van modellen om infrastructuur te verdedigen. Brockman zegt dat vrijwel alle initiële beveiligingsmeldingen van OpenAI nu door AI-systemen worden getrieerd voordat mensen erbij betrokken raken, wat volgens hem de werklast voor verdedigers vermindert en de responstijd verbetert. Het bedrijf koppelt deze detecties aan begrensde geautomatiseerde reacties, terwijl mensen verantwoordelijk blijven voor de beslissingen met de grootste impact, met als doel het detecteren en beantwoorden van beveiligingsproblemen op machinesnelheid.

Ten derde gebruikt OpenAI zijn modellen om continu potentiële aanvalspaden op te sporen en te onderzoeken, op zoek naar kwetsbaarheden, verkeerde configuraties, identiteiten met te veel rechten en onbedoelde vertrouwensgrenzen. Dit ondersteunt wat Brockman de doorlopende beoordeling noemt van de beveiligingsinvarianten van het bedrijf, de eigenschappen waarvan zij vinden dat ze zouden moeten gelden voor al hun producten en infrastructuur.

De vierde pijler is investering in fundamenten op schaal, waaronder veilige architectuur, verdediging in de diepte en minimale rechten. Het gestelde ontwerpdoel is systemen waarbij meerdere onafhankelijke controles tegelijk moeten falen voordat er iets catastrofaals kan gebeuren. Netwerkisolatie, verharding van workloads, monitoring en patch- en implementatiepraktijken blijven onderdeel van deze basis, en Brockman zegt dat ze steeds belangrijker zullen worden – niet minder – naarmate de AI-capaciteiten aan beide kanten toenemen.

Wat Brockman security-teams van bedrijven adviseert nu te doen

Brockman zet een lijst met acties uiteen voor security-teams, gericht op snelheid in plaats van een volledige herinrichting van het programma. Hij raadt aan om organisatiebrede steun te verkrijgen en tabletop-oefeningen uit te voeren om te modelleren hoe dit soort aanvallen zich binnen een gegeven organisatie zouden kunnen ontvouwen. Hij adviseert security-teams een agentisch instrument zoals Codex of de Codex Security-plugin te geven, met goedgekeurde toegang tot codebases en infrastructuurconfiguratie, te beginnen bij de systemen met de hoogste prioriteit in plaats van te wachten op een bedrijfsbrede uitrol.

Hij stelt voor die agent uit te rusten met door de community ondersteunde vaardigheden op het gebied van statische analyse, beveiligingsgerichte codereview, analyse van kwetsbaarheidsvarianten en risico's in de softwaretoeleveringsketen, en vervolgens organisatiespecifieke vaardigheden te bouwen rond bestaande architectuur en dreigingsmodellen. Organisaties zouden eerst beoordelingen moeten uitvoeren tegen internetgerichte diensten, authenticatiestromen, infrastructure-as-code en systemen die gevoelige gegevens verwerken. Teams moeten vervolgens bestaande achterstanden van scanneruitvoer, dependency-meldingen en bug bounty-rapporten doorwerken, en de agent vragen om uitbuitbare problemen van ruis te onderscheiden.

Brockman beveelt ook aan om agent-gebaseerde review rechtstreeks in ontwikkelpipelines in te bedden, met controles op authenticatiefouten, omzeiling van toegangscontrole, blootgestelde inloggegevens en onveilige dependencies vóór het samenvoegen van code. Voor gevalideerde problemen stelt hij voor de agent een patch te laten genereren, een regressietest te laten schrijven en te laten bevestigen dat de kwetsbaarheid zich niet meer voordoet, terwijl menselijke review voor ingrijpende wijzigingen behouden blijft.

Wat automatisering betreft, adviseert Brockman een geleidelijk pad in plaats van meteen te proberen een autonoom security operations center te bouwen. Organisaties zouden moeten beginnen met alleen-lezen scans van één enkele repository, doorgroeien naar adviserende pull request-scanning, vervolgens live alert-triage, en pas later automatische afsluiting van nauw gedefinieerde false positives introduceren. Een mens moet elke beslissing nemen totdat het vertrouwen door die opeenvolging is opgebouwd.

Hij wijst organisaties ook op het aanvragen van Trusted Access for Cyber om goedkeuring te krijgen om GPT‑Daybreak‑Blue te gebruiken voor defensief werk, waaronder incidentrespons, detectie-engineering en malware-analyse. Brockman raadt aan om te oefenen met deze mogelijkheid op logs en telemetrie voordat een daadwerkelijk incident de kwestie forceert.

Brockman sluit af met het betoog dat geen enkel bedrijf dit alleen kan aanpakken, en roept AI-labs, beveiligingsleveranciers, bedrijven en maintainers op om gevalideerde bevindingen, oplossingen en draaiboeken te delen, zodat de ontdekking van één organisatie het bredere ecosysteem versterkt. Hij omschrijft het venster van de verdediger als nu geopend, waarbij organisaties de komende maanden hun beveiligingsprogramma's moeten automatiseren om gelijke tred te houden met de capaciteiten van aanvallers, vooruitlopend op het volgende open-weight model dat hij eind augustus verwacht.