Onderzoekers: Geneeskunde moet functie van AI-algoritmisch consultant introduceren

De noodzaak van een nieuw beroep wordt verklaard door het feit dat directe interactie tussen artsen en AI niet altijd leidt tot een betere kwaliteit van beslissingen: zelfs met toegang tot de resultaten van algoritmen interpreteren artsen deze vaak verkeerd en zijn bestaande interpretatiehulpmiddelen nog steeds niet voldoende toepasbaar voor de klinische praktijk.

Volgens de auteurs van het artikel zal de algoritmische consultant twee hoofdfuncties vervullen. De eerste is het ondersteunen van artsen bij het kiezen van een geschikt AI-model en het interpreteren van de resultaten. De tweede is het beheren van het ecosysteem van algoritmen binnen een medische organisatie, het monitoren van de implementatie, actualisering en correctheid van de toepassing ervan. Een dergelijke praktijk bestaat al in andere sectoren, bijvoorbeeld waar klinisch apothekers artsen helpen bij het werken met geneesmiddelen en het formularium van ziekenhuizen.

De onderzoekers erkennen dat de implementatie van een dergelijke dienst extra kosten met zich meebrengt, maar achten deze gerechtvaardigd. "Sommigen beweren dat het gebruik van een algoritmische adviseur, vergeleken met het directe gebruik van AI door artsen, de beoogde effectiviteit van het gebruik van AI in de klinische praktijk ondermijnt. Onze hypothese is echter dat een dergelijke dienst de prestaties van de AI-systemen die zij beheren aanzienlijk zou verbeteren", stellen de auteurs. Net als klinisch apothekers zouden algoritmische adviseurs het gebruik van AI in de geneeskunde veiliger en effectiever kunnen maken.

Er wordt speciale aandacht besteed aan de kwestie van verantwoordelijkheid. Er is nog geen universele oplossing voor wie juridisch verantwoordelijk is voor fouten in AI-algoritmen, maar de aanwezigheid van specialisten die modellen controleren en het gebruik ervan ondersteunen, zal de risico's voor artsen en medische organisaties verminderen. Een algoritmische consultant zal de verantwoordelijkheid feitelijk "delen", waardoor de arts een deel van de last wordt ontlast en de kans op onjuist gebruik van niet-geverifieerde tools wordt geminimaliseerd, menen wetenschappers.

Ze merkten ook op dat artsen niet altijd precies weten wanneer het de moeite waard is om een ​​specialist in te schakelen. Daarom zou het werk van dergelijke specialisten gebaseerd moeten zijn op het principe van continue ondersteuning – met de mogelijkheid om snel contact op te nemen wanneer het risico op onjuiste toepassing van het algoritme wordt vastgesteld.

Algoritmische consultants zouden een gecombineerde achtergrond in geneeskunde en datawetenschap moeten hebben, waardoor ze rekening kunnen houden met zowel de klinische context als de specifieke kenmerken van een specifiek model. De auteurs van het artikel stelden voor om de opleiding van dergelijke specialisten te ontwikkelen op basis van klinische informaticaprogramma's, waar mogelijk een aparte richting voor bestaat.

Ondanks de extra kosten zal de inzet van algoritmische consultants volgens de onderzoekers de efficiëntie van AI in de gezondheidszorg verbeteren, de risico's voor patiënten verminderen, de last voor artsen verminderen en de duurzaamheid van digitale technologieën op lange termijn waarborgen. In de toekomst kunnen dergelijke medewerkers een belangrijke schakel worden in de integratie van AI in de gezondheidszorg, wat vooral belangrijk is tegen de achtergrond van de snelle introductie van nieuwe modellen zoals GPT-5, die al in de geneeskunde worden gebruikt, maar zonder adequate controle en deskundige ondersteuning nog steeds hoge risico's met zich meebrengen.

Uit een interdisciplinair onderzoek van de Universiteit van Zürich naar digitale tweelingen in de geneeskunde bleek dat de meeste respondenten het potentieel van AI-technologie erkennen, maar benadrukken dat het gebruik ervan vrijwillig is en dat artsen de leidende rol behouden. Deskundigen wijzen ook op de risico's van digitale ongelijkheid, mogelijke druk van algoritmen op levensstijl en een laag vertrouwen in commerciële ontwikkelaars.