OpenAI ziet om veiligheidsredenen af van lancering nieuwste AI-model
Het nieuwste model van ontwikkelaar OpenAI zal niet begin oktober worden gelanceerd, zoals gepland was. ‘The Wall Street Journal’ meldde in de nacht van maandag op dinsdag dat er veiligheidszorgen zijn over het model GPT-6.1 Astra. Het model wordt, na interne testen, voorlopig niet beschikbaar gesteld aan gebruikers, zo bevestigde het bedrijf achter ChatGPT.
Saachi Jain, die binnen OpenAI over de veiligheid gaat, bevestigde in een verklaring tegenover CNBC dat GPT-6.1 Astra uit veiligheidsoverwegingen nog niet op de markt komt. Het model “voldoet niet helemaal aan de eisen voor wat betreft het binnen de grenzen en de bevoegdheden blijven”, aldus Jain. Ook laat het model steken vallen “op de manier waarop het aan de gebruiker terugkoppelt over het soort werk dat het heeft verricht”.
OpenAI lanceerde eerder deze maand GPT-6 Astra, volgens het bedrijf “het slimste en best afgestemde model ter wereld”. GPT-6 biedt bepaalde betalende gebruikers van ChatGPT een AI-agent aan die zelfstandig omvangrijke taken uitvoert.
Meerdere veiligheidsincidenten
De afgelopen maanden zijn meerdere veiligheidsincidenten met modellen van OpenAI gemeld. Zo bezochten AI-systemen van het bedrijf onverwacht websites van de Amerikaanse overheid, werd een Australische overheidswebsite met medische informatie binnengedrongen en brak een AI-model in op de systemen van het softwarebedrijf Hugging Face.
In een blog biedt OpenAI excuses aan Australië aan voor de wijze waarop het omging met het incident. Het bedrijf zegt dat het de Australische regering eerder had moeten inlichten. De Australische premier Anthony Albanese uitte vorige week kritiek op het bedrijf, omdat het het incident pas na weken had gemeld in een mail naar een algemeen mailadres. “We weten dat we veel werk moeten verrichten om het vertrouwen van Australiërs terug te winnen”, aldus OpenAI in het bericht.
OpenAI liet afgelopen weekend weten het werk aan de krachtigste AI-modellen voorlopig stil te leggen na opnieuw een incident. Een van de systemen kreeg tijdens een test ongeoorloofde toegang tot het internet.
LEES OOK.
KIJK OOK. Wie is Sam Altman, CEO van OpenAI?
Bekijk ook de nieuwe aflevering van HLN Vandaag Extra met Kenneth Dée over AI.
