Google haalt nieuwe AI-functie al na een dag uit Google Earth na misbruik met nepbeelden
Google heeft de nieuwe AI-gedreven bewerkingsmogelijkheden van Google Earth al na één dag verwijderd. Mensen gebruikten de functie om misleidende beelden te maken, bijvoorbeeld met een bomkrater of auto-ongeluk.
Google voegde eind vorige week de functie toe om afbeeldingen in Google Earth aan te passen met het AI-beeldmodel Nano Banana 2. Die was bedoeld voor leerzame en nuttige toepassingen, zoals bekijken hoe Pompeï er vroeger uitzag of een leeg stuk grond virtueel veranderen in een winkelgebied. Volgens Google waren sommige gemaakte beelden echter in strijd met zijn regels.
De bewerkingsfunctie maakte het makkelijker om desinformatie te maken en die via bijvoorbeeld screenshots te verspreiden. Google zegt dat mensen erop vertrouwen dat Google Earth een betrouwbaar beeld van de wereld geeft en dat de mogelijkheid tot beeldmanipulatie dat vertrouwen ondermijnt.
Strengere regels nodig
Volgens Google is de verwijdering een tijdelijke maatregel. De functie kan terugkeren zodra Google Earth beter beveiligd is tegen schadelijke beeldbewerkingen. Het bedrijf zegt daaraan te werken. Beveiligingsonderzoeker Henk van Ess was eerder in staat om zonder problemen schadelijke beelden te maken, hoewel Google had gezegd dat dit niet mogelijk was.
De gemanipuleerde afbeeldingen verschenen volgens Google niet in de algemene omgeving van Google Earth. Andere gebruikers kregen ze daardoor niet vanzelf te zien. AI-beelden kregen bovendien een digitaal SynthID-watermerk, dat aangeeft dat ze met AI zijn gemaakt. Dat kenmerk kan echter worden verwijderd of uit het beeld worden gesneden.
