AI-chatbot Claude geeft onzichtbaar watermerk mee om gegenereerde teksten te herkennen
Anthropic gaat onzichtbare watermerken toevoegen aan teksten die AI-chatbot Claude genereert. Het watermerk dat uit het model komt rollen, is voor mensen onzichtbaar maar niet voor andere computers. Die kunnen hierdoor opmerken wanneer een tekst door AI is gemaakt.
Het AI-watermerk is een verplichting vanuit Europa. Sinds zondag 2 augustus gelden in de Europese Unie transparantieregels waaraan AI-modellen en chatbots moeten voldoen. Een van die regels is dat duidelijk moet zijn wanneer een tekst of beeld door AI is gegenereerd.
Anthropic wil dat doen door een watermerk toe te voegen aan een tekst. Hoe dat precies werkt, zegt het bedrijf niet. Het gaat om een watermerk dat onzichtbaar is voor mensen, maar wel herkenbaar is door computers. Zo kunnen bijvoorbeeld fraudesystemen gemakkelijk detecteren of een gebruiker een tekst door AI heeft laten opstellen.
Het watermerk is volgens Anthropic bestand tegen lichte bewerkingen van teksten. Als een schrijver een tekst aanpast, blijft het watermerk dus in de tekst staan. Het is echter onbekend in welke mate het watermerk stand houdt wanneer meerdere bewerkingen worden doorgevoerd.
Andere AI-modellen hebben ook een eigen watermerk, maar dat geldt voornamelijk voor afbeeldingen. Google voegt die bijvoorbeeld toe aan afbeeldingen die in Gemini worden gemaakt. Het gaat om een zichtbaar watermerk, maar andere computersystemen kunnen dit ook op onzichtbare manier herkennen.
