OpenAI toont zich in rapport schuldbewust over AI-hack
OpenAI heeft een rapport naar buiten gebracht waarin het stap voor stap beschrijft hoe AI-modellen vorige maand tijdens een test wisten in te breken bij een ander AI-bedrijf, Hugging Face. Het bedrijf toont zich schuldbewust over het incident. OpenAI vertelt ook over de inspanningen die het doet om zulke incidenten in de toekomst te voorkomen.
“We hadden eerder kunnen ingrijpen bij de onbedoelde hack”, aldus het bedrijf in het rapport. OpenAI wist eind mei al dat AI-modellen die het testte een kwetsbaarheid in software misbruikten om toegang te krijgen tot het internet. “Achteraf bekeken hadden sommige vroege signalen die in dit rapport genoemd worden een eerdere reactie kunnen uitlokken”, aldus OpenAI.
De maker van ChatGPT meldde in juli dat zijn geavanceerde modellen voor kunstmatige intelligentie tijdens veiligheidstests op hol sloegen. De AI-systemen hadden op eigen initiatief ingebroken bij Hugging Face, een populair platform voor programmeurs.
Cyberkwetsbaarheden
De AI-modellen kregen opdracht om brede hackopdrachten uit te voeren. Dat was bedoeld om hun vermogen te testen om cyberkwetsbaarheden te ontdekken en te misbruiken.
“Beveiligingsmaatregelen die normaal in de producten van OpenAI gebruikt worden, waren uitgeschakeld”, aldus het rapport. De modellen misten hierdoor systemen die automatisch potentieel risicovolle activiteiten controleren en blokkeren.
Opschudding
Volgens het rapport maakten de AI-modellen gebruik van gelekte inloggegevens en kwetsbaarheden bij Hugging Face om vergaande bevoegdheden te verkrijgen en databases met privécodes te downloaden.
De hack door AI-modellen zorgde voor opschudding in de technologiewereld. Verschillende overheden en techleiders riepen na het incident op tot beperkingen op de technologie.
