Beeld ter illustratie Beeld Getty Images/Photononstop RF
Beeld ter illustratieBeeld Getty Images/Photononstop RF

Gezondheid

App detecteert melanomen op uw huid: ‘Het algoritme doet het beter dan de huisdokter’

Kunstmatige intelligentie is een goede zorgverlener. Maar maak dat maar eens duidelijk voor mensen die een dokter meer vertrouwen dan een app.

Neem een app waarmee je onregelmatigheden op je huid kunt controleren. Je zet die app op je telefoon en maakt foto’s van dat verdachte plekje of die moedervlek om te weten of je je zorgen moet maken.

Als de producent zo’n app aanprijst met de mededeling dat die kan zien of jouw moedervlek een melanoom is, klikken weinig mensen op de advertentie. Maar zegt de producent dat de app jouw foto’s vergelijkt met foto’s van melanomen die hij in zijn geheugen heeft, dan wordt er veel meer geklikt.

Romain Cadario heeft het getest, samen met twee Amerikaanse collega’s. Want die apps bestaan; een ervan wordt gemaakt door de Nederlandse firma SkinVision. Cadario testte het verschil in aanprijzingen in een online experiment met advertenties op Google. Het was het sluitstuk van een onderzoeksproject naar de weerstand tegen algoritmes die mensen voelen, en hoe die te verminderen. De resultaten verschenen deze week in vakblad Nature Human Behaviour.

Kunstmatige intelligentie in de zorg

De Fransman Cadario werkt sinds een jaar aan de Rotterdam School of Management van de Erasmus Universiteit. Hij is een gedragswetenschapper, die eerder onderzoek heeft gedaan naar marketing en invloeden op consumentengedrag, en die nu kijkt naar toepassingen van kunstmatige intelligentie in de zorg.

‘Het opsporen van huidkanker is een voorbeeld waarin een algoritme, kunstmatige intelligentie, heel goed presteert. In zo’n app draait een neuraal netwerk dat is getraind met enorme aantallen foto’s van huidkanker. Het netwerk herkent op een foto die jij maakt een kwaadaardige afwijking in 95 procent van de gevallen. Dat haalt een dermatoloog ook, want die is daarin gespecialiseerd. Maar een huisarts haalt dat bij lange na niet. Het algoritme doet het beter dan de dokter. Maar als je mensen vraagt door wie ze onderzocht willen worden, zeggen ze in veel gevallen: de dokter.’

Er zijn uit de wetenschappelijke literatuur verschillende redenen bekend voor de aarzeling over algoritmes, zegt Cadario. Mensen denken dat een dokter, meer dan een algoritme, oog heeft voor hun unieke situatie. Of ze vrezen dat ze niemand aansprakelijk kunnen stellen als het algoritme een verkeerd oordeel velt.

En er is nog een reden: mensen weten niet hoe een algoritme werkt, en dat weten ze van de dokter wel. Althans, dat dénken ze te weten, zegt Cadario: ‘We denken te weten hoe de dokter tot zijn oordeel komt, maar dat valt tegen. Het algoritme is voor mensen misschien een zwarte doos, maar dat is de menselijke arts ook.’

Mensen weten weinig over het werk van de dokter

Het is de illusie van begrip: ‘Als ik jou vraag: weet jij hoe een toiletpot werkt?, dan zeg jij: ja hoor. Maar als ik je vervolgens vraag om dat uit te leggen, stap voor stap, dan valt het toch tegen.’ Dat doorvragen is precies wat Cadario en zijn collega’s hebben gedaan met proefpersonen wier huidafwijkingen werden bekeken door een dokter of door een algoritme. De proefpersonen hadden naar eigen zeggen geen idee wat de computer aan het doen was, maar wel een behoorlijk goed idee van het werk van de dokter. Maar bij doorvragen bleek hun werkelijke kennis in beide gevallen even karig.

Wil je de aarzelingen over algoritmes wegnemen, dan moet je vertellen wat die algoritmes doen, laten de onderzoekers zien. In vervolgexperimenten werd met een simpel kaartje uitgelegd hoe het algoritme de moedervlek op een foto vergelijkt met zijn bestand van foto’s van huidkankers: door te kijken naar omvang, kleur, de randen et cetera. Het bleek voor de acceptatie van deze vorm van kunstmatige intelligentie veel uit te maken.

Toch gebeurt het in deze medische hoek nog maar zelden, zegt Cadario. De meeste apps voor het herkennen van huidkankers worden aangeprezen met de kreten dat ze zo doeltreffend, intelligent en scherp zijn. Zelden wordt uitgelegd hoe ze werken.

Een app vervangt de arts niet

Let wel, zegt de onderzoeker, je moet niet gaan zeggen dat de app zal beslissen of die moedervlek verwijderd moet worden. Dan zouden mensen massaal afhaken. En terecht, want dat is de bedoeling niet: ‘Zo’n app vervangt niet de dokter. Het gaat hier niet om het stellen van een diagnose, maar om triage: doel is te kijken of het verstandig zou zijn om naar een dermatoloog te gaan. Die moet de diagnose stellen en beslissen over behandeling.’

Het is, wat Cadario betreft, de gulden regel voor kunstmatige intelligentie in de zorg. Kunstmatige intelligentie kan in e-health en zorg op afstand een snelle en betrouwbare hulp zijn, maar diagnose en behandeling moeten het terrein blijven van medisch specialisten.

Bekendheid met algoritmes groeit, vertrouwen erin neemt af

Beslissingen toevertrouwen aan een algoritme doen Nederlanders niet graag (diagram). Een besluit over dieet of hypotheek gaat nog, maar zaken die dichterbij komen, zoals stemrecht, uitkering, operatie of het openen van de parachute, houden de meesten graag in mensenhand.

Dat blijkt uit een meting van adviesbureau KPMG, dat onlangs voor de derde keer het vertrouwen in algoritmes onderzocht. De bekendheid neemt toe, maar dat blijkt het vertrouwen geen goed te doen. Integendeel: 25 procent van de ondervraagden zegt minder vertrouwen te hebben in algoritmes dan een jaar geleden, bij de vorige meting.

Vooral het vertrouwen in de overheid en haar uitvoeringsorganisaties heeft een knauw gekregen, wat geen verbazing wekt gezien de opeenstapeling van affaires bij de Belastingdienst waarin algoritmes, die het recht op toeslagen moesten beoordelen, een hoofdrol spelen.

40 procent van de ondervraagden zegt nu het gebruik van algoritmes door de overheid en haar organisaties niet te vertrouwen.

Slechts 14 procent vertrouwt grote techbedrijven

De financiële sector zit op hetzelfde lage niveau. Alleen de grote techbedrijven, zoals Google en Facebook scoren nog slechter. Slechts 14 procent van de ondervraagden vertrouwt hun gebruik van algoritmes. Meer fiducie is er voor de zorg, de reisbranche en de retail.

De verschuiving is opmerkelijk, zegt KPMG, omdat vorig jaar een groot deel van de ondervraagden voordelen van algoritmes vooral zag in de publieke sector. Nu wordt het gebruik door de overheid door circa de helft van de ondervraagden geassocieerd met oneerlijkheid, onveiligheid en inbreuk op privacy.

Op de vraag wat er nodig is om het vertrouwen te herstellen zetten mensen transparantie bovenaan: meer duidelijkheid over de inzet en de werking van kunstmatige intelligentie. En factor nummer 2: de overheid zou algoritmes eerder moeten gebruiken voor het verbeteren van de samenleving dan voor het opsporen van mogelijke misstanden en fraude.

(Trouw)

Meer over

Reageren op een artikel, uw mening ventileren of een verhelderend inzicht delen met de wereld

Ga naar Open Venster

Op alle artikelen, foto's en video's op humo.be rust auteursrecht. Deeplinken kan, maar dan zonder dat onze content in een nieuw frame op uw website verschijnt. Graag enkel de titel van onze website en de titel van het artikel vermelden in de link. Indien u teksten, foto's of video's op een andere manier wenst over te nemen, mail dan naar redactie@humo.be.
DPG Media nv – Mediaplein 1, 2018 Antwerpen – RPR Antwerpen nr. 0432.306.234