Project

Conversationele en transparante uitlegbaarheid van nepmedia-detectie

Code
BOF/PDO/2025/056
Looptijd
01-10-2025 → 30-09-2028
Financiering
Gewestelijke en gemeenschapsmiddelen: Bijzonder Onderzoeksfonds
Onderzoeksdisciplines
  • Natural sciences
    • Computer vision
  • Engineering and technology
    • Video communications
    • Image and language processing
    • Pattern recognition and neural networks
    • Data visualisation and imaging
Trefwoorden
Forensische Multimedia Uitlegbare AI Nepmedia Detectie
 
Projectomschrijving
De opkomst van AI-gegenereerde media heeft het creëren van nepinhoud eenvoudiger en realistischer gemaakt, met maatschappelijke risico’s zoals desinformatie, vals bewijs, en fraude. Hoewel detectiemethoden voor nepmedia zijn verbeterd, ontbreekt het hen aan verklaarbaarheid, waardoor ze ontoegankelijk en onbetrouwbaar zijn voor niet-experts. Dit belemmert hun toepassing in kritieke domeinen. Bovendien richt het meeste onderzoek zich op nepafbeeldingen, terwijl video en opkomende 3D-formaten grotendeels onderbelicht blijven. Dit project ontwikkelt een conversationeel uitlegbaarheid framework voor detectie van nepmedia in afbeeldingen, video’s en 3D-formaten. Grote AI modellen maken interactie met het systeem mogelijk, waarbij uitleg wordt afgestemd op de expertise van de gebruiker. Dit overbrugt de kloof tussen technische complexiteit en bruikbaarheid, waardoor detectietools toegankelijker worden. Het project hanteert een modulaire aanpak om verklaarbaarheid te verbeteren, gericht op pixelniveau, betrouwbaarheidsinschatting, en attributie van generatieve methoden. Door fijnmazige transparantie te bieden vergroot het vertrouwen in nepmediadetectie. Deze innovaties hebben potentieel voor baanbrekende impact binnen nepmediadetectie en maatschappelijk relevante toepassingen in forensische multimedia en computervisie, en dragen bij aan een veiligere digitale omgeving.