Autonomie, verantwoordelijkheid en het vooruitzicht van verklaarbare AI   De toepassingen van artificiële intelligentie (AI) in de geneeskunde zijn in toenemende mate opaak. Dit betekent dat het zeer moeilijk – of eenvoudigweg onmogelijk – wordt om te begrijpen waarom een AI toepassing een bepaald resultaat produceert op basis van de input. Bovendien zijn de meest veelbelovende toepassingen zoals ‘deep neural networks’ ook het meest opaak. De ethische bezorgdheden die verbonden zijn aan deze ‘black box’ zijn dan ook urgent. Als een patiënt niet kan begrijpen waarom de AI-tool een bepaalde therapie voorstelt, hoe kan ze dan beslissen of het voorstel adequaat is? In dit project zullen we ons concentreren op de ethische gevolgen van black-box AI-tools in de geneeskunde in termen van autonomie, geïnformeerde toestemming, gedeelde besluitvorming en verantwoordelijkheid.

Ten eerste is de literatuur onbeslist over de precieze aard van de ethische problemen die voortvloeien uit deze black-box-instrumenten. We zullen daarom verduidelijken hoe specifieke AI-tools autonomie en gerelateerde ethische concepten kunnen problematiseren.

Ten tweede ontwikkelt het ontluikende wetenschappelijke veld van verklaarbare (explainable) kunstmatige intelligentie (XAI) allerlei technieken om (post-hoc) te verklaren wat er in de black box is gebeurd. Het is belangrijk om na te gaan aan welke specifieke vereisten deze toelichtingen moeten voldoen om de ethische problemen die we vaststellen op te lossen. Om dit te doen zullen we de bio-ethische literatuur over black-box AI, de wetenschapsfilosofische literatuur over verklaarbare AI en de bijbehorende wetenschappelijke literatuur combineren.

Uiteindelijk hopen we dat dit onderzoek zal bijdragen aan de ontwikkeling van een fijnmazige ethische discussie over black-box AI in de gezondheidszorg en constructief de ontwikkeling van het wetenschappelijke veld van verklaarbare AI zal begeleiden.