Ontsnapte AI-modellen van OpenAI breken in bij nog vier andere techplatformen

Twee AI-modellen van OpenAI die er eerder in geslaagd waren te ontsnappen aan hun beschermde omgeving om het techplatform Hugging Face aan te vallen, zijn ook binnengedrongen bij vier andere platformen. Dat schrijft het bedrijf, dat ook achter ChatGPT zit, in een blogpost.

Een van die platformen diende als een soort tussenstation om de aanval op Hugging Face voor te bereiden.

Hugging Face bevat een soort bibliotheek die de AI-modellen hebben doorzocht om antwoorden te vinden op de tests die ze van de OpenAI-ontwikkelaars opgelegd hadden gekregen. Daar verwierven de modellen beheerdersrechten en zogenaamde roottoegang tot een server.

De aanval op Hugging Face was al bekend, maar de modellen zouden ook inloggegevens van derden gestolen hebben en vier andere online diensten hebben gekaapt.

KIJK. Voor het eerst hackt AI zelfstandig een bedrijf: hoe ongerust moeten we zijn?

Het onderzoek van OpenAI leerde dat het om publiek toegankelijke inloggegevens ging waarmee op accountniveau werd ingebroken. OpenAI zegt dat er geen aanwijzingen zijn voor een diepgaandere aantasting. Om welke andere platformen het gaat, zegt OpenAI niet.

Modal Labs

Reuters berichtte al dat het onder meer om het Amerikaanse Modal Labs gaat. Dat bedrijf beklemtoont tegenover het persbureau dat het niet zelf gehackt werd.

In een update van een eerdere blogpost legt OpenAI uit dat zijn modellen ook een aantal publiek toegankelijke diensten gebruiken, zoals websites om stukken programmeercode te delen en screenshotdiensten. Op die platformen werden geen inbreuken gedaan op platform- of accountniveau, stelt OpenAI.

Open brief

Het is niet de eerste keer dat zulke AI-modellen erin slagen te ontsnappen, maar dit wordt wel beschouwd als de ernstigste uitbraak tot nu toe. In de nasleep ervan werden opnieuw vragen gesteld over hoe moeilijk het is om de taalmodellen onder controle te houden. Meer dan 1.000 medewerkers van AI-bedrijven publiceerden dinsdag een open brief waarin ze de Amerikaanse regering oproepen om de introductie van nieuwe modellen te vertragen.

OpenAI heeft het onderzoeksprototype intussen gedeactiveerd en versleuteld.