Meta zet nieuwe AI-systemen in om advertenties op te sporen die gebruikers mogelijk doorsturen naar websites met materiaal van seksueel kindermisbruik. Ook gaat het bedrijf accounts aanpakken die daarvoor worden gebruikt, zelfs als de advertentie zelf geen verboden beelden bevat.
In de eerste helft van 2026 trad Meta naar eigen zeggen op tegen 33,2 miljoen stukken materiaal van seksuele uitbuiting van kinderen op Facebook en Instagram. Meer dan 97 procent daarvan werd door de systemen van het bedrijf gevonden voordat gebruikers het rapporteerden. In India ging het om 5,3 miljoen stukken materiaal, waarvan meer dan 98 procent automatisch werd ontdekt.
AI kijkt ook naar bestemming van advertentie
Een nieuw systeem op basis van een groot taalmodel zoekt naar zogenoemde signposting. Daarbij lijkt een advertentie op het eerste gezicht onschuldig, maar stuurt die gebruikers mogelijk door naar verboden of schadelijke activiteiten buiten de platforms van Meta. Volgens het bedrijf gebruiken kwaadwillenden deze werkwijze steeds vaker om controles te omzeilen.
Meta onderzoekt daarom niet alleen de inhoud van een advertentie, maar ook de website of andere bestemming waar de advertentie naartoe leidt. Bestemmingen die de regels overtreden kunnen worden geblokkeerd. Het bedrijf kan daarnaast maatregelen nemen tegen de accounts die de advertenties verspreiden.
Meta voegt ook extra AI-scans toe om materiaal te vinden dat eerdere systemen mogelijk niet hebben herkend. Een zogenoemde red-teaming-AI-agent test de eigen beveiliging van het bedrijf. Die agent zoekt naar zwakke plekken waarmee kwaadwillenden de controles zouden kunnen ontwijken. Zo wil Meta nieuwe misbruikmethoden opsporen voordat ze op grotere schaal worden gebruikt.
Verder verbetert het bedrijf de herkenning van mensen die na een verwijdering terugkeren met nieuwe accounts. Daarmee wil Meta voorkomen dat eerder geweerde gebruikers hun activiteiten eenvoudig voortzetten.
De maatregelen volgen na aanhoudende kritiek op de bescherming van kinderen op de platforms van Meta. Het bedrijf kreeg te maken met rechtszaken en politieke druk over de mogelijke risico’s van zijn sociale media voor jonge gebruikers. In augustus bereikte Meta een akkoord over een bedrag van maximaal 18 miljard dollar in een zaak van 29 Amerikaanse staten over schade aan kinderen door sociale media.
Meta kondigde dit jaar ook ouderlijk toezicht voor Meta AI aan, accounts voor jonge tieners op WhatsApp en meldingen voor ouders wanneer kinderen op Instagram zoeken naar materiaal over zelfbeschadiging. WhatsApp breidde in september de mogelijkheden voor ouderlijk toezicht bij tieneraccounts verder uit.
