Proton laat zien wat ChatGPT en Claude over gebruikers weten
Het op privacy gerichte techplatform Proton heeft een tool gemaakt waarmee gebruikers kunnen zien welke informatie ChatGPT en Claude over hen verzamelen. Gebruikers kunnen hun gebruikersdata uploaden naar Protons AI-model Lumo, dat dan inzicht geeft over hoe de grote AI-modellen over hen denken.
De tool heet AI Paper Trail. Proton wil hiermee laten zien hoeveel AI-modellen eigenlijk over hun gebruikers weten. “Een enkele prompt geeft niet veel over je prijs. Maar weken of maanden ervan kunnen onthullen wie je bent met oncomfortabele nauwkeurigheid”, schrijft Proton.
Gebruikers kunnen hun gegevens exporteren uit ChatGPT of Claude en dat exportbestand vervolgens uploaden naar Protons AI-model Lumo. Protons AI-model analyseert die data dan. Daaruit rolt een rapport waarin kort wordt beschreven wie een gebruiker is, bijvoorbeeld wat diens thuissituatie en hobby's zijn en welk werk die doet. Dat is informatie die vaak valt af te leiden uit specifieke vragen, bijvoorbeeld als iemand vragen stelt over werk, hobby’s of financiën.
Het rapport geeft ook aan over welke onderwerpen de AI het meest weet, zoals de interesses, relaties, politieke voorkeuren of gezondheid van de gebruiker. Verder krijgen gebruikers een score die aangeeft hoe makkelijk ze te profileren zijn en hoeveel ze waard zijn voor adverteerders.
De tool is vooral bedoeld om Protons eigen Lumo te promoten. Proton maakt er een punt van dat de gebruikersdata direct na de analyse worden verwijderd. maar het stelt ook een goede vraag. Gebruikers die veel vragen stellen aan ChatGPT of Claude geven daarmee onbedoeld meer over zichzelf prijs dan ze misschien zouden denken.
