Socialemediaplatformen maken vaak gebruik van inhoudsmoderatie om een veilige en respectvolle omgeving te behouden, te voldoen aan wettelijke voorschriften en de gewenste merkidentiteit te waarborgen. Zo wordt inhoudsmoderatie bijvoorbeeld ingezet om inhoud te onderdrukken die als aanstootgevend wordt beschouwd voor de doelgroep en om te voldoen aan regelgeving zoals de Europese Digital Services Act.

Wanneer inhoudsmoderatie wordt toegepast door de meest populaire sociale media, zoals Meta’s Facebook en Instagram, TikTok en X, kan dit het publieke debat over actuele onderwerpen beïnvloeden, zoals over nationale en internationale politiek en andere belangrijke maatschappelijke discussies. Dit roept vragen op over de invloed die deze grote technologiebedrijven en hun toezichthouders uitoefenen op het publieke discours en de publieke opinie. De mogelijkheden van generatieve AI-technologieën zullen deze zorgen waarschijnlijk verder versterken.

In dit project zullen we sociale media en generatieve AI-systemen bestuderen om beter te begrijpen in hoeverre inhoudsmoderatie, inclusief de moderatie van AI-gegenereerde inhoud, het publieke debat beïnvloedt.