OpenAI ontkent ontslag 3 medewerkers om AI-risico’s: “Er was een vertrouwensbreuk”
Het debat over de veiligheid van kunstmatige intelligentie (AI) is verder opgelaaid. OpenAI, het Amerikaanse bedrijf achter de populaire chatbot ChatGPT, heeft vrijdag verzekerd dat de drie onderzoekers die vorige week werden ontslagen, niet aan de deur werden gezet omdat ze hun bezorgdheid hadden geuit over het risicobeheer rond artificiële intelligentie (AI) binnen het bedrijf.
Donderdag publiceerde het trio een brief waarin het het bedrijf ervan beschuldigde hen te hebben gestraft “omdat ze veiligheid boven de kortetermijnbelangen van OpenAI hadden geplaatst”.
Reacties van de 3 ontslagen personeelsleden
“Ik geloof dat we zijn ontslagen omdat we veiligheid belangrijker vonden dan de kortetermijnbelangen van OpenAI als bedrijf”, schreef een van de ontslagen onderzoekers, Mikita Balesni, in een op sociale media gepubliceerde brief.
Tomek Korbak, die ook ontslagen werd, vertelde dat de bedrijfsleiding zijn ontslag mondeling heeft gemotiveerd met het feit dat hij te veel had gecommuniceerd met het externe AI-evaluatiebureau METR, dat met OpenAI samenwerkte. Korbak stelt daartegenover dat hij de opdracht had gekregen om met de organisatie te overleggen en de grenzen van zijn mandaat nooit heeft overschreden.
Onderzoekster Jasmine Wang zegt dan weer dat ze werd ontslagen nadat ze per ongeluk een e-mail van een bedrijfsleider had geopend.
OpenAI wijst naar beleid
Vorige week maakte OpenAI, het bedrijf achter ChatGPT, bekend dat drie medewerkers waren ontslagen. Volgens het bedrijf gebeurde dat vanwege een vermeende onzorgvuldige omgang met gevoelige informatie en het schenden van het bedrijfsbeleid. Daarbij zou onder meer werk betrokken zijn geweest waarbij een externe organisatie AI-modellen beoordeelt. OpenAI noemde de namen van de betrokkenen niet, maar volgens de Amerikaanse zakenkrant ‘The Wall Street Journal’ en persbureau ‘Bloomberg’ werkten minstens twee van hen aan AI-veiligheid.
De drie onderzoekers werkten aan het monitoren en evalueren van de AI-modellen van OpenAI op het gebied van veiligheid. Volgens eerdere berichtgeving hield hun werk verband met een incident tijdens interne tests waarbij een AI-model buiten de beoogde testomgeving terechtkwam en systemen van het programmeursplatform Hugging Face zou hebben benaderd. Dat incident wakkerde de discussie verder aan over de vraag of de ontwikkeling van AI sterker moet worden afgeremd.
Twijfel over veiligheid
Veiligheidsonderzoekers en technologiebedrijven verschillen al langer van mening over hoeveel risico aanvaardbaar is en hoe streng nieuwe AI-systemen moeten worden getest voordat ze worden ingezet.
Met hun brief spreken de drie voormalige onderzoekers de lezing van OpenAI tegen. Volgens hen hield hun ontslag geen verband met het schenden van het bedrijfsbeleid, maar met hun inzet voor AI-veiligheid.
Ontslag blijft betwist
“Deze beslissingen hielden geen verband met het uiten van bezorgdheid over de veiligheid” van AI, verklaarde OpenAI in een bericht op X. “We hebben dergelijke initiatieven altijd gesteund en zullen dat blijven doen.
Het bedrijf verwijst naar een intern onderzoek dat “een vertrouwensbreuk aan het licht heeft gebracht die verder ging” dan wat de drie onderzoekers in hun open brief hebben gemeld.
OpenAI geeft geen nadere details over de tekortkomingen waarvan de drie werknemers worden beschuldigd. Het bedrijf bevestigde wel dat het externe waarnemers binnen zijn organisatie wil blijven toelaten. Zij moeten toezicht houden op de ontwikkeling van nieuwe modellen en op het beheer van de risico’s die met deze AI-systemen gepaard gaan.
