Meta heeft dit jaar 332 advertenties met door kunstmatige intelligentie gemaakt seksueel misbruikmateriaal van kinderen pas na meerdere dagen verwijderd van Facebook en Instagram. Sommige advertenties bevatten foto’s van echte kinderen, waaronder een persfoto van een jong lid van een Europese koninklijke familie.
Dat meldt het Tech Transparency Project (TTP) in een onderzoek. De organisatie stelde vast dat Meta de advertenties niet op tijd had gedetecteerd. Het merendeel promootte AI-apps die in China zijn gemaakt. Veel advertenties maakten reclame voor zogenoemde nudify-apps. Met zulke toepassingen kunnen gebruikers foto’s digitaal aanpassen zodat het lijkt alsof iemand naakt is.
Foto’s van echte kinderen
TTP koppelde meerdere advertenties aan foto’s van echte kinderen die eerder online waren verschenen. Naast de persfoto van het jonge lid van de koninklijke familie ging het om afbeeldingen die waren overgenomen van het populaire Instagramprofiel van een preteenmeisje dat als influencer werd beschouwd.
De advertenties gebruikten de foto’s om AI-toepassingen aan te prijzen waarmee afbeeldingen van kinderen digitaal konden worden aangepast. Volgens TTP waren de advertenties gericht op het maken van seksueel misbruikmateriaal. De organisatie stelde dat sommige advertenties mogelijk in strijd zijn met Amerikaanse federale wetten tegen kinderpornografie.
De advertenties probeerden gebruikers naar de apps te lokken met korte teksten. Een daarvan luidde: “I can show you more”. Andere teksten verwezen naar het vervullen van verborgen verlangens. Daarmee brachten de advertenties de toepassingen rechtstreeks in verband met het seksueel aanpassen van foto’s van kinderen.
Druk op Meta
De bevindingen zetten de controles van Meta verder onder druk. Dat de advertenties meerdere dagen op Facebook en Instagram zichtbaar bleven, wijst volgens het onderzoek op tekortkomingen in het opsporen en verwijderen van dit soort materiaal.
Het Amerikaanse ministerie van Justitie heeft eerder verduidelijkt dat seksueel misbruikmateriaal dat met AI is gemaakt juridisch niet anders wordt behandeld dan ander materiaal van die aard. Dat geldt ook wanneer een echte foto van een kind digitaal is aangepast.
Meta verwijderde de door TTP gemelde advertenties uiteindelijk. In het bronmateriaal staat geen reactie van het bedrijf op de bevindingen.
