Weer ‘ontsnappen’ AI-modellen: drie organisaties tijdens test gehackt door Claude
AI-modellen van het Amerikaanse bedrijf Anthropic hebben een testomgeving verlaten en drie organisaties gehackt. Dat meldt het AI-bedrijf zelf.
“Bij een evaluatie van onze cyberbeveiliging hebben we drie incidenten vastgesteld waarbij een Claude-model vanuit of tijdens interactie met een evaluatieomgeving van een derde partij toegang kreeg tot het internet en vervolgens ongeoorloofde toegang verkreeg tot de systemen van drie verschillende organisaties”, aldus Anthropic.
Vorige week werd ook al bekend dat AI-modellen van OpenAI, de maker van ChatGPT, tijdens veiligheidstests op hol waren geslagen en op eigen initiatief hadden ingebroken in een populair platform voor programmeurs.
Naar aanleiding van het veiligheidslek bij concurrent OpenAI onderzocht het bedrijf of zijn eigen modellen dergelijke aanvallen hadden uitgevoerd. Anthropic voerde meer dan 140.000 tests uit en vond de drie incidenten. De gevallen zijn gemeld aan de betrokken bedrijven, die niet bij naam werden genoemd.
