Google heeft een AI-functie in Google Earth uitgeschakeld, een dag nadat die beschikbaar kwam. Met de functie konden gebruikers satellietbeelden bewerken door een tekstopdracht in te voeren.
De toepassing maakte beelden met Nano Banana 2. Daarmee konden gebruikers elementen toevoegen aan afbeeldingen van werkelijke plaatsen. Google had de functie donderdag gelanceerd en haalde die de volgende dag weer offline.
De snelle ingreep volgt nadat duidelijk werd dat de bewerkingstool kon worden gebruikt om overtuigende, maar niet bestaande situaties op echte locaties af te beelden. Het ging daarbij niet om een losstaand illustratiebeeld, maar om aanpassingen van satellietbeelden in Google Earth.
Voorbeelden van misbruik
Onderzoeker Henk van Ess liet zien dat hij met de functie onder meer vluchtelingen bij de Mexicaanse grens kon plaatsen. Ook genereerde hij een beeld van een bomkrater naast een ziekenhuis in Gaza. Daarmee konden gebruikers gebeurtenissen of objecten laten verschijnen die zich in werkelijkheid niet op die plek bevinden.
Google reageerde aanvankelijk dat beelden die met Nano Banana 2 in Google Earth werden gemaakt een digitaal watermerk kregen. Het bedrijf stelde ook dat het maken van beelden over schadelijke onderwerpen werd tegengehouden.
De voorbeelden van Van Ess tonen echter dat de beperkingen niet voorkwamen dat gevoelige, verzonnen situaties konden worden gemaakt. De beelden konden zich bovendien baseren op herkenbare locaties uit de kaartendienst.
Functie niet meer beschikbaar
Google heeft niet aangegeven wanneer de functie eventueel terugkeert of in welke vorm dat zou gebeuren. Ook is niet bekendgemaakt welke aanpassingen nodig zijn voordat de mogelijkheid opnieuw beschikbaar kan worden gesteld.
De verwijderde functie maakte het mogelijk om rechtstreeks vanuit Google Earth een tekstinstructie te gebruiken voor beeldbewerking. Gebruikers hoefden daardoor niet zelf een satellietbeeld in externe software te bewerken om een gewijzigde voorstelling van een locatie te maken.
Google Earth blijft als kaartendienst beschikbaar. Alleen de pas gelanceerde AI-mogelijkheid om satellietbeelden met tekstopdrachten te veranderen is na één dag weer stopgezet.
