'Algoritmen zouden in veel situaties tot betere beslissingen leiden. Bij rechterlijke vonnissen over vrijlating op borgtocht, bijvoorbeeld, heb je meer aan artificiële intelligentie dan aan mensen.' Beeld ISOPIX
'Algoritmen zouden in veel situaties tot betere beslissingen leiden. Bij rechterlijke vonnissen over vrijlating op borgtocht, bijvoorbeeld, heb je meer aan artificiële intelligentie dan aan mensen.'Beeld ISOPIX

NobelprijswinnaarDaniel Kahneman

Waarom we beter niet ons buikgevoel volgen: ‘Mensen iets laten beslissen is meedoen aan een loterij’

In het standaardwerk ‘Ons feilbare denken’ toonde Nobelprijswinnaar Daniel Kahneman (87) aan hoe irrationeel onze beslissingen zijn. In zijn nieuwe boek ‘Ruis’ onderzoekt hij hoe het toeval ons beoordelingsvermogen zwaar beïnvloedt. ‘De mensheid zou beter af zijn als er minder foute beslissingen werden genomen. Als mensen dan vervangen moeten worden door algoritmen, dan is dat maar zo.’

In twee Amerikaanse rechtszaken over valse cheques, voor bedragen van respectievelijk 60 en 35 dollar, kreeg de ene beschuldigde 15 jaar cel en de andere 30 dagen. In asielprocedures keurde de ene rechter 5 procent van de aanvragen goed, de andere 88 procent. En bij twee softwareontwikkelaars aan wie op twee verschillende dagen werd gevraagd hoeveel tijd ze nodig hadden voor één en dezelfde taak, was het gemiddelde verschil tussen het aantal geschatte uren 71 procent. Hoe kan het dat rechters, experts en deskundigen zo uiteenlopend oordelen in vergelijkbare zaken? Ze worden beïnvloed door een heel aantal factoren, zoals hun humeur, de weersomstandigheden of de uitslag van hun favoriete voetbalploeg, zegt Daniel Kahneman. Hij schreef er samen met Olivier Sibony, hoogleraar aan de Ecole des Hautes Etudes Commerciales in Parijs, en rechtenprofessor Cass Sunstein van Harvard ‘Ruis’ over.

– Wat moeten we ons voorstellen bij ruis?

DANIEL KAHNEMAN «Dat is het willekeurige geschipper als we iets of iemand beoordelen. Ik botste erop toen een verzekeringsmaatschappij mijn hulp had ingeroepen. Samen met mijn team onderzocht ik de voorspellingen van risicoanalisten: zij moeten inschatten hoe hoog de verzekeringspremie van een klant moet zijn, of bij schadegevallen bepalen of de claim terecht is, en voor welk bedrag.

»Het bedrijf bedacht een casus waarmee zijn medewerkers haast dagelijks te maken krijgen. Die legden we voor aan een aantal analisten. Ik vroeg de managers hoe groot ze dachten dat de verschillen zouden zijn, en ze vonden een marge van 10 procent wel aannemelijk. Ons onderzoek wees uit dat de schattingen van de premies en de schadekosten tot 50 procent uiteenliepen: er zat véél meer ruis op de besluitvorming van de analisten dan de directie had verwacht. Toen begon het me te dagen: overal waar mensen beslissingen nemen, is er ruis.»

– Bij verzekeringen gaat het vooral om geld. Maar bij justitie gaat het om veel meer.

KAHNEMAN «Niemand verwacht dat rechters systematisch dezelfde strafmaat hanteren voor een bepaald misdrijf. Maar als je onderzoek doet naar de ruis in hun besluitvorming, ontdek je schandalige toestanden: voor eenzelfde misdrijf kan een beklaagde een heel lichte tot een heel zware straf krijgen, afhankelijk van de rechter die voor hem zit.»

CASS SUNSTEIN «Onderzoek heeft aangetoond dat het belangrijkste moment in het leven van de beklaagde het ogenblik is waarop wordt besloten welke rechter het vonnis zal vellen. Dat is gewoonweg vréselijk. We denken dat het juist rechtvaardig is dat een rechter oog heeft voor de persoonlijke achtergrond en het sociale milieu van de beschuldigde, maar dat leidt alleen maar tot flagrante oneerlijkheid. Justitie is één grote loterij, terwijl het toch over het leven en de toekomt van de beklaagden gaat.»

– Hebben we de macht van het toeval en de pure willekeur in ons beoordelingsvermogen onderschat?

OLIVIER SIBONY «Absoluut. De gevolgen van ruis zijn ook verwoestender dan we dachten. Neem nu de geneeskunde: de ene arts velt een te ernstige diagnose, de andere ziet een alarmerend symptoom over het hoofd, en in beide gevallen krijgt de patiënt niet waar hij recht op heeft.»

– Ruis ontstaat door tal van factoren: iemand kan slechtgehumeurd zijn, maar ook zijn temperament of zijn levensverhaal kunnen een rol spelen. Iedereen zal toegeven dat dat zijn oordeel kan beïnvloeden. En toch is ruis zo goed als onzichtbaar. Hoe komt dat?

SIBONY «Een verzekeringsmaatschappij wil gewoon niet met het feit geconfronteerd worden dat haar analisten zulke sterk verschillende premies voor hun klanten berekenen of schadegevallen verkeerd inschatten. En ziekenhuizen willen niet horen dat vijf verschillende artsen evenveel verschillende diagnoses stellen bij één en dezelfde patiënt. Instellingen en organisaties zijn er erg bedreven in om dergelijke problemen onder het tapijt te vegen. Daardoor worden die tegenstrijdigheden nooit ontdekt. En als ze toch aan het licht komen, worden ze weggeredeneerd.»

– De kans dat we verstandige beslissingen nemen, is niet erg groot, zegt u. Wat kunnen we tegen ruis doen?

KAHNEMAN «We hebben daarvoor een concept uitgewerkt dat we beslissingshygiëne hebben genoemd. We moeten proberen de kwaliteit van onze beoordelingen te verhogen. Daarvoor doen we een hele reeks voorstellen.»

SUNSTEIN «Voorstel nummer één: voeg onafhankelijke beoordelingen bij elkaar. In plaats van je bij een mogelijke fusie af te vragen hoe degelijk dat andere bedrijf is, moet je een groot aantal experts raadplegen en het gemiddelde van hun beoordelingen nemen. En voorstel nummer twee: deel elke beoordeling in kleinere stukken op.»

– Hoe doe je zoiets?

SUNSTEIN «Als een rechter probeert te bepalen hoe streng hij iemand moet straffen, moet hij zich afvragen hoe oud de beklaagde is, wat precies het misdrijf is, en wat de achtergrond van die persoon is. Hoe waarschijnlijk is het dat hij zo’n misdrijf nog eens zal begaan? Als je dat doet, zal je vonnis minder ruis bevatten dan wanneer je je gewoon afvraagt wat je van die persoon denkt.»

– Hebt u nog remedies tegen ruis?

SUNSTEIN «Hanteer regels. Zodra een kind wordt geboren, moet er al een oordeel geveld worden: is de baby gezond? Om die veel te algemene vraag te beantwoorden, bestaat een belangrijk richtsnoer: de apgarscore. Dat is een cijfer van nul tot tien, en de pasgeborene wordt op vijf criteria beoordeeld: ademhaling, hartslag, de kleur van de huid, de spierspanning en de reactie op prikkels. Dergelijke richtlijnen en regels reduceren ruis aanzienlijk.»

SIBONY «En probeer zoveel mogelijk een relatief in plaats van een absoluut oordeel te vellen. Een gevaarlijke bron van ruis is het feit dat mensen beoordelingsschalen anders interpreteren. Als u mij bijvoorbeeld vraagt om mijn medewerkers op een schaal van één tot vijf te quoteren, zou ik wellicht iedereen een vier geven, want vijf zou ik alleen aan echte genieën toekennen. Maar Daniel zou, vriendelijk als hij is, iedereen waarschijnlijk een vijf geven. Dat kun je voorkomen door ons te vragen een aantal medewerkers te rangschikken van beste naar slechtste. Dat is een goede manier om ruis te vermijden.»

KAHNEMAN «In bedrijven en organisaties wordt veel vergaderd, en iedereen klaagt over de inefficiëntie van al die meetings. Dat komt omdat bedrijven de kennis van hun werknemers niet optimaal benutten. Wij stellen voor dat iedereen al vóór de meeting knopen doorhakt over wat nog besproken moet worden. Dat is moeilijk, maar als een deelnemer goed voorbereid is, is hij niet zo vatbaar voor ruis.»

– Dat klinkt wel wat abstract.

SUNSTEIN «Misschien helpt een andere anekdote. Ik heb nog voor president Obama gewerkt, en hij was erg efficiënt in vergaderingen. Hij had wel een mening, maar hij hield zich afzijdig, omdat hij niemand wilde beïnvloeden. Hij richtte de aandacht van de aanwezigen op deelnemers van wie hij wist dat ze anders dachten dan de groep. Zodra hij iemand opmerkte die kritisch in het rond keek, zei hij: ‘U lijkt een andere mening toegedaan. Wat denkt u?’»

– Veel managers en rechters zullen ervoor terugdeinzen om hun beslissingsproces door strakke regels en algoritmen te laten standaardiseren. Mensen vertrouwen liever op hun intuïtie. Hoe overtuig je hen dat dat vooral ruis oplevert?

KAHNEMAN «Managers en directeurs zullen nooit volledig hun intuïtie willen negeren, of hun gezag aan algoritmen afstaan. Dus stellen wij voor dat ze hun intuïtie even opzijschuiven. Mensen zijn trots op de snelheid waarmee ze beslissingen nemen, maar dat is eigenlijk een zware fout. Snelle beslissingen op basis van intuïtie zijn vaak verkeerd. De beste intuïtieve ingevingen krijg je nádat je zorgvuldig alle informatie hebt vergaard en stuk voor stuk beoordeeld. Als je op die manier een totaalbeeld hebt verkregen, kun je wél op je intuïtie terugvallen.»

– Waarom kan onze eerste intuïtieve indruk ons op het verkeerde spoor zetten?

KAHNEMAN «Omdat hij vaak niet op feiten gebaseerd is, en je in de loop van het beslissingsproces vervolgens niets anders doet dan die eerste indruk rationaliseren en rechtvaardigen.»

– Hoe kan ik ruis voorkomen in mijn dagelijkse leven?

SIBONY «Dat hoef je helemaal niet te doen. Ons concept van beslissingshygiëne heb je niet nodig om te beslissen of je koffie of thee bij je ontbijt wilt. Onze focus ligt op de besluitvorming in de professionele sfeer.»

ZIELLOOS ALGORITME

– Wie jullie boek leest, zou het gevoel kunnen krijgen dat we onze besluitvorming maar beter aan computers overlaten.

KAHNEMAN «Uiteraard hebben computers een groot voordeel: ze zijn vrij van ruis. En je kunt ze telkens opnieuw programmeren. Op dit ogenblik worden belangrijke beslissingen nog altijd door mensen genomen, en dat zal de komende tien jaar niet veranderen. Maar het zou interessant zijn om de ruis die daarop zit, te verminderen.»

– Ik zie in jullie boek een pleidooi voor meer algoritmen en artificiële intelligentie in ons leven.

KAHNEMAN «Dat klopt. Algoritmen zouden in veel situaties tot betere beslissingen leiden. Bij rechterlijke vonnissen over vrijlating op borgtocht, bijvoorbeeld, heb je meer aan artificiële intelligentie dan aan mensen. Algoritmen zouden de criminaliteit en de duur van de celstraffen veel efficiënter reduceren dan rechters.»

‘Ziekenhuizen willen niet horen dat vijf verschillende artsen evenveel verschillende diagnoses stellen. Dus vegen ze het probleem onder het tapijt.’ (Foto: Kahneman ontvangt de Presidential Medal of Freedom van Barack Obama in 2013) Beeld AFP
‘Ziekenhuizen willen niet horen dat vijf verschillende artsen evenveel verschillende diagnoses stellen. Dus vegen ze het probleem onder het tapijt.’ (Foto: Kahneman ontvangt de Presidential Medal of Freedom van Barack Obama in 2013)Beeld AFP

– Meneer Sunstein, u bent rechtsgeleerde aan de universiteit van Harvard en werkt voor president Biden. Gelooft u echt dat algoritmen rechtvaardiger zijn?

SUNSTEIN «Het voelt een beetje akelig aan, maar als je een algoritme laat beslissen of iemand op borgtocht vrijgelaten kan worden of welke straf hij of zij moet krijgen, valt het terug op de vele regels en wetten waarop we vertrouwen. Akkoord, het zou kunnen dat een algoritme zielloos en mechanisch redeneert. Maar dat betekent ook dat het geen last van ruis heeft, en dat kan alleen maar positief zijn.»

– Zou een beklaagde daar ook zo over denken?

SIBONY «Hij zou er misschien een beter gevóél bij hebben als iemand naar hem luistert en hem wil begrijpen. Maar als je voor een rechter van vlees en bloed kiest, geef je je eigenlijk over aan een loterij. Bovendien is het risico op een gerechtelijke dwaling veel groter. Die dwaling kan goed of slecht voor ons uitdraaien, maar één ding staat vast: de variaties in het vonnis zullen veel groter zijn, afhankelijk van de rechter die voor je zit. Een algoritme is hoe dan ook rechtvaardiger.»

– Meneer Kahneman, u hebt uw hele leven het wonder van de menselijke geest onderzocht. Hoe kunt u dat wonder door zoiets kils als een algoritme vervangen?

KAHNEMAN «Je moet een onderscheid maken tussen soorten intellectuele activiteiten. De menselijke geest oordeelt en beoordeelt niet alleen, veel handelingen vereisen ook creativiteit. In situaties waarin je creatief moet zijn, wil je het toeval niet uitsluiten. Meer zelfs, dan ga je juist de verschillen tussen mensen appreciëren. We willen niet de indruk wekken dat we de creativiteit willen afschaffen en de wereld door robotten willen laten regeren.»

– U hebt lange tijd onderzoek gedaan naar geluk. Nu bestudeert u de ruis in ons beoordelingsvermogen. Bent u met de jaren pessimistischer geworden?

KAHNEMAN «Ik heb het geluk niet afgeschreven, maar ik onderzoek het niet langer. Er zijn verschillende manieren om geluk te meten en die kunnen niet met elkaar in overeenstemming gebracht worden. Je kunt niet tegelijk meten hoe mensen zich op een bepaald moment in een bepaalde context gelukkig voelen, en hoe gelukkig ze zijn als ze over hun leven nadenken of het beoordelen. Toen ik het jaren geleden begon te bestuderen, dacht ik dat het geluk dat je op een bepaald moment ervaart, het echte geluk is, en dat je daarnaar moet streven. Maar ik heb vastgesteld dat dat niet is wat mensen willen. Ze willen vooral tevreden zijn met hun leven.

»Een andere reden waarom ik dat onderzoek heb opgegeven, is dat ik de indruk had dat we misschien te veel focussen op geluk en te weinig op het leed in de wereld. Ik ben er intussen van overtuigd dat het veel belangrijker is dat terug te dringen dan het globale geluksniveau te willen verhogen.»

– Is de vermindering van ruis in onze besluitvorming een manier om dat leed te bestrijden?

KAHNEMAN «Zeker indirect. Als mensen betere beslissingen nemen, wordt de wereld vanzelf beter.»

SUNSTEIN «Daar zou ik aan willen toevoegen dat één van de gebieden waar we erg veel ruis vastgesteld hebben, dat van de psychiatrie is. Als je die daar drastisch kunt verminderen, zullen minder mensen lijden.»

SIBONY «Ook veel hulporganisaties hebben last van ruis in hun besluitvorming. Als we hun foutmarge kunnen verkleinen, werken we ook aan een betere wereld.»

– De ruis volledig uitschakelen zou ook een kapitalistische droom kunnen zijn: dan kunnen algoritmen ons hele leven optimaliseren in functie van de economie.

KAHNEMAN «Het leven is zoveel meer dan voortdurend oordelen en beoordelen. Wij hebben het in ons boek over mensen die het goed willen doen in hun job en zo correct mogelijk beslissingen willen nemen. Je kunt nooit voor 100 procent nagaan of dat ook echt het geval is, maar de ingesteldheid is belangrijk: je moet proberen zo correct mogelijk te handelen. In zo’n context is het beter om ruis te vermijden. En als dat betekent dat je mensen door algoritmen moet vervangen, dan is dat maar zo. Maar dat geldt alleen voor een heel specifieke soort mentale processen, niet voor het leven zelf.»

– De mensheid heeft het een paar miljoen jaar lang niet zo slecht gedaan mét ruis: is dat dan echt zo’n groot probleem?

KAHNEMAN «We hebben veel verwezenlijkt, maar we hebben ook heel veel foute beslissingen genomen. De mensheid zou nóg beter af zijn als we minder fouten zouden maken.»

© Stern

Daniel Kahneman, Olivier Sibony en Cass R. Sunstein, ‘Ruis’, Nieuw Amsterdam

null Beeld Nieuw Amsterdam
Beeld Nieuw Amsterdam
Meer over

Reageren op een artikel, uw mening ventileren of een verhelderend inzicht delen met de wereld

Ga naar Open Venster

Op alle artikelen, foto's en video's op humo.be rust auteursrecht. Deeplinken kan, maar dan zonder dat onze content in een nieuw frame op uw website verschijnt. Graag enkel de titel van onze website en de titel van het artikel vermelden in de link. Indien u teksten, foto's of video's op een andere manier wenst over te nemen, mail dan naar redactie@humo.be.
DPG Media nv – Mediaplein 1, 2018 Antwerpen – RPR Antwerpen nr. 0432.306.234