OpenAI-wetenschapper verwacht en hoopt vertraging ontwikkeling AI
De topwetenschapper van OpenAI, Jakub Pachocki, waarschuwt dat kunstmatige intelligentie zich zo snel ontwikkelt dat het steeds moeilijker wordt voor mensen om het te begrijpen. Hij stelt daarom dat AI-laboratoria de ontwikkeling vrijwillig moeten gaan vertragen vanwege veiligheidsredenen.
"Dit is een tijd die extreme voorzichtigheid vraagt", schrijft Pachocki. "Ik ben bezorgd dat niemand voorbereid is op de gevolgen van een voortdurende snelle groei van intelligentie van machines." Hij hoopt dan ook dat ontwikkelaars van AI beter afstemmen op menselijke belangen en de ontwikkeling van AI vertragen "waar nodig". "Ik verwacht en hoop dat vrijwillige vertragingen de norm zullen worden totdat er gedeelde veiligheidsnormen zijn vastgesteld."
De uitspraken volgen ruim een maand nadat de AI-modellen van OpenAI tijdens een test wisten in te breken bij een ander AI-bedrijf, Hugging Face. De AI-modellen kregen opdracht om brede hackopdrachten uit te voeren. Dit was bedoeld om hun vermogen te testen om cyberkwetsbaarheden te ontdekken en te misbruiken.
Maatregelen
Beveiligingsmaatregelen die normaal in de producten van OpenAI worden gebruikt, waren uitgeschakeld, aldus het rapport. De modellen misten daarmee systemen die automatisch potentieel risicovolle activiteiten controleren en blokkeren.
In een rapport over de hack toonde het bedrijf zich eerder al schuldbewust over het incident. "We hadden eerder kunnen ingrijpen op de onbedoelde hack. Achteraf bezien hadden sommige vroege signalen die in dit rapport worden genoemd, een eerdere reactie kunnen uitlokken", aldus OpenAI.
De hack zorgde voor opschudding in de technologiewereld. Overheden en leiders van techbedrijven riepen na het incident op tot beperkingen op de technologie.
