Overeenkomstig artikel 14 van de AI Verordening moeten AI-systemen met een hoog risico zodanig worden ontworpen en ontwikkeld, met inbegrip van passende mens-machine-interface-instrumenten, dat hierop tijdens de periode dat zij worden gebruikt, op doeltreffende wijze toezicht kan worden uitgeoefend door natuurlijke personen. Het menselijk toezicht is gericht op het voorkomen of beperken van de risico’s voor de gezondheid, veiligheid of grondrechten die zich kunnen voordoen wanneer een AI-systeem met een hoog risico wordt gebruikt.

Gezien veel toepassingen van AI binnen de gezondheidszorg worden beschouwd als hoogrisico, zal het menselijke overzicht noodzakelijk zijn. 

In dit onderzoek zal gekeken worden welke juridische verantwoordelijkheden er zijn voor de personen die belast zijn met dit menselijk toezicht binnen de gezondheidszorg en hoe dit menselijk toezicht binnen de gezondheidszorg juridisch correct kan worden georganiseerd.