Project

Vooringenomen kunstmatige intelligentie: openheid, innovatie en het opnieuw maken van mentale gezondheid

Acroniem
Biased AI
Code
41M06718
Looptijd
01-09-2018 → 31-08-2020
Financiering
Europese middelen: kaderprogramma
Mandaathouder
Onderzoeksdisciplines
  • Humanities
    • Ethics of technology
Trefwoorden
mentale gezondheid AI
Overige informatie
 
Projectomschrijving

Naar aanleiding van de trend om Artificial Intelligence (AI) for Good te ontwerpen (een pleidooi om AI te ontwikkelen op manieren die dringende problemen van de mensheid aanpakken), is de centrale vraag die we zullen behandelen: Wat is de juiste combinatie van open en merkgebonden elementen in AI-innovatie op het gebied van geestelijke gezondheid in het licht van de noodzaak om een systeem te ontwerpen dat zowel innovatie bevordert als verenigbaar is met de idealen van menselijke waardigheid, fundamentele rechten en vrijheden, en culturele diversiteit? Onze zorg in de context van de geestelijke gezondheid in het bijzonder is dat propriëtaire AI stereotypen over geslacht en ras kan reproduceren, die op hun beurt het sociale stigma kunnen versterken en een barrière kunnen opwerpen voor goede diagnoses en behandelingen. Anderzijds wordt in dit onderzoek niet uitgegaan van een innovatiemodel waarbij het private tegenover het opene staat. Het terugdraaien van het privé-eigendom bevoordeelt niet noodzakelijkerwijs de zwakkeren boven de sterken. Daarom stellen wij voor kwalitatief onderzoek te doen om de publieke en commerciële eisen in kaart te brengen teneinde de governance van innovatie in AI te heroverwegen, met bijzondere aandacht voor geestelijke gezondheid.
Door middel van participerende observatie en interviews met de belangrijkste belanghebbenden zal hun mening worden gevraagd, waarbij niet alleen rekening wordt gehouden met economische maar ook met ethische aspecten (diversiteit, rechten en vrijheden). Bij de governancevraag moet rekening worden gehouden met publieke eisen die technisch haalbaar en tegelijkertijd commercieel levensvatbaar zijn op het gebied van AI.

 
Disclaimer
Funded by the European Union. Views and opinions expressed are however those of the author(s) only and do not necessarily reflect those of the European Union or the European Research Executive Agency (REA). Neither the European Union nor the authority can be held responsible for them.