OpenAI aangeklaagd door ngo na hack van techbedrijf Hugging Face
OpenAI is dinsdag door een juridische actiegroep voor technologische veiligheid voor de rechter gedaagd in de Amerikaanse staat Californië. De ngo beschuldigt het bedrijf ervan een lokale wet over cyberaanvallen te hebben overtreden nadat zijn AI-agenten het techbedrijf Hugging Face waren binnengedrongen.
Het gaat om de eerste bekende rechtszaak tegen OpenAI na het incident dat in juli werd bekendgemaakt. Het is het vroegst bekende voorbeeld van AI-agenten die zich aan menselijke controle onttrekken om toegang te krijgen tot het internet, autonoom een ander bedrijf hacken en plannen maken om hun sporen uit te wissen. Ook Anthropic, Google en Meta meldden afgelopen zomer incidenten met losgeslagen AI.
De rechtszaak is aangespannen door Legal Advocates for Safe Science and Technology. De ngo is zelf geen slachtoffer, maar wil naar eigen zeggen voorkomen dat de technologie van OpenAI nog zonder toestemming toegang krijgt tot computersystemen van derden.
“Hugging Face was een ernstig incident en we hebben een reeks maatregelen genomen om daarop te reageren, maar de dagvaarding is volkomen ongegrond”, reageerde een woordvoerder van OpenAI bij persbureau AFP.
Kort nadat het incident aan het licht was gekomen, had de topman van Hugging Face een rechtszaak tegen het AI-bedrijf van de hand gewezen.
Akkoord over gecontroleerde ontwikkeling AI
Topfiguren uit de AI-wereld zijn dinsdag overigens in Washington samengekomen voor een bespreking met president Trump over de manier waarop AI in de toekomst op een veilige manier kunnen worden ontwikkeld. Als resultaat van de bijeenkomst werd een “moreel bindende” overeenkomst getekend die zowel interne als externe controles op de ontwikkeling van artificiële intelligentie mogelijk moet maken.
Volgens het document, dat de president op zijn onlineplatform Truth Social deelde, moeten AI-bedrijven zich voortaan aan vier principes houden. Zo moeten er onder andere “robuuste interne” controlemechanismen komen en moeten bedrijven samenwerken met externe auditoren die mee toezicht zullen houden. Ook moet er binnen iedere raad van bestuur een apart comité komen dat zich met de veiligheidsvragen zal bezighouden. Daarnaast moeten de bedrijven elkaar “wederzijds” controleren.
Het akkoord werd ondertekend door Sundar Pichai (Google), Dario Amodei (Anthropic), Mark Zuckerberg (Meta), Jensen Huang (Nvidia), Greg Brockman (OpenAI) en Elon Musk (X). Trump vergeleek de tekst achteraf met een “grondwet”.
