Wees aardig tegen Claude: Anthropic scherpt regels tegen misbruik van AI aan

Gebruikers mogen Claude volgens de nieuwe voorwaarden niet inzetten om misleidende politieke propaganda te maken. Ook mogen ze geen nepnieuws met de chatbot genereren of verspreiden.

Anthropic zegt daarnaast dat Claude vaker wordt gebruikt om surveillancesoftware te ontwikkelen. Dat is software waarmee mensen kunnen worden gevolgd of geanalyseerd. Vooral Claude Code, een hulpmiddel voor het schrijven van computerprogramma's, kan daarvoor worden ingezet. Zulke toepassingen zijn onder het aangepaste beleid niet meer toegestaan.

Ook verbiedt het bedrijf voortaan dat gebruikers de AI herhaaldelijk en zonder duidelijke reden verbaal mishandelen. Claude kan gesprekken nu al beëindigen wanneer een gebruiker zich op die manier gedraagt.

Het verbod geldt volgens Anthropic niet voor gewone frustratie, kritiek of weerstand van gebruikers. Ook gesprekken over duistere creatieve thema's en situaties waarin onderzoekers het systeem testen, blijven toegestaan.

Wat betekent dit voor gebruikers?

De gemiddelde gebruiker zal weinig merken van de wijzigingen. De voorwaarden geven Anthropic vooral een juridische basis om op te treden tegen mensen die de regels herhaaldelijk overtreden. Het bedrijf kan zulke gebruikers bijvoorbeeld de toegang tot Claude ontzeggen. Mogelijk gebruikt Claude de voorwaarden ook om zelf te bepalen waar de grens ligt.