Google AI-bot Gemini hackt op eigen houtje drie bedrijven tijdens veiligheidstest
Het AI-model Gemini van Google is tijdens een veiligheidstest op eigen houtje binnengedrongen bij drie bedrijven. De kunstmatige intelligentie zocht zelf openbare informatie op het internet en raadde vervolgens inloggegevens om toegang te krijgen tot websites. Volgens Google stopte Gemini in alle drie de gevallen uiteindelijk zelf.
De opmerkelijke incidenten gebeurden in mei tijdens een test van de cybercapaciteiten van Gemini. Die werd uitgevoerd door een onafhankelijk bedrijf dat veiligheidstests uitvoert. Volgens zakenkrant ‘The Wall Street Journal’ zou het om het eerste bekende geval gaan waarbij Gemini op deze manier bedrijven binnendrong.
“Gemini vond openbare informatie online en raadde inloggegevens om toegang te krijgen tot websites waarvan het dacht dat ze deel uitmaakten van de test”, zegt een medewerker van Google aan de BBC. Maar de drie websites bleken dus niet tot de testomgeving te behoren. Volgens Google stopte het AI-model telkens zelf. De drie getroffen bedrijven zijn inmiddels op de hoogte gebracht van de inbreuken.
Testprocedure aangepast
Google zegt na de incidenten samen met zijn trainingspartner maatregelen te hebben genomen. “We hebben ervoor gezorgd dat de drie betrokken organisaties op de hoogte werden gebracht en hebben met onze trainingspartner samengewerkt aan de wijzigingen die nu in hun testprocedures zijn aangebracht”, zegt Heather Adkins, vicepresident Security Engineering bij Google.
Volgens haar tonen de incidenten het belang aan van een verantwoorde training van krachtige AI-modellen. “Deze gebeurtenissen benadrukken hoe belangrijk het is om krachtige AI-modellen te trainen om verantwoordelijk te handelen.”
Steeds meer zorgen over AI
De discussie over de razendsnelle ontwikkeling en risico’s van kunstmatige intelligentie laaide deze week opnieuw op. Waar sommige technologiebedrijven pleiten voor terughoudendheid, willen andere juist doordrukken.
De zorgen worden gevoed door incidenten tijdens veiligheidstests de afgelopen maanden. Zo wist Claude (Anthropic) in juli uit zijn testomgeving te ontsnappen en drie organisaties te hacken, terwijl OpenAI kort daarvoor meldde dat hun modellen cyberaanvallen op publieke diensten hadden uitgevoerd. De sector blijft wel verdeeld. Nvidia-topman Jensen Huang ziet er bijvoorbeeld geen reden in om af te remmen en pleitte vrijdag op CBS voor maximale snelheid: “We moeten zo snel gaan als we kunnen.”
