Hoe robots onze jobs opvreten: Nicholas Carr over automatisering

De crisis en de bijbehorende besparingen bedreigen onze jobs, maar succesauteur Nicholas Carr ziet een nog groter gevaar opdoemen: robots en algoritmes. Dat legft hij omstandig uit in zijn jongste boek ‘De glazen kooi. Wat automatisering met ons doet’.

In Nederland woedt deze weken een fel debat over de automatisering, nadat consultancybureau Deloitte berekende dat robots er twee tot drie miljoen banen bedreigen. En in het radioprogramma ‘Hautekiet’ stelde politierechter Kathleen Stinckens dat het rijbewijs met punten politierechters riskeert te vervangen door computers. ‘Men geeft een overtreding in en de computer laat er een boete uitrollen. Terwijl politierechters een enorme meerwaarde kunnen hebben door via het persoonlijk contact met de overtreder te zoeken naar een aangepaste bestraffing die recidive kan voorkomen.’

In zijn jongste boek pleit Nicholas Carr ervoor die menselijke meerwaarde vooral te behouden. Daarmee raakt hij net als met zijn vorige boek ‘The Shallows’ – over het internet en Google die ons dom maken – een gevoelige snaar. Pagina na pagina illustreert hij hoe al die slimme technologie misschien wel té slim aan het worden is. Want software en computers zijn bijna zo straf en krachtig geworden dat veel menselijk kunnen erbij verbleekt. Volgens Carr drukt vooral de zelfrijdende auto van Google ons met de neus op die feiten.

HUMO Waarom is precies de Google-auto voor u een gamechanger?

Nicholas Carr «Tot voor kort gingen we er altijd van uit dat veel complexe menselijke vaardigheden vereisen dat je de wereld diepgaand ervaart en intuïtief aanvoelt. Rijden in chaotisch verkeer werd daarbij steevast als voorbeeld aangehaald: omdat computers zich niet diep bewust zijn van de wereld, gingen we ervan uit dat ze hier nooit toe in staat zouden zijn. De programmering van software vereist dat je alles kan vertalen in duidelijke instructies, maar we begrijpen zelf amper hoe we succesvol manoeuvreren in het verkeer. Veel denkwerk gebeurt immers onbewust: eenmaal je hebt leren rijden, wordt het een soort automatisme. Het leek dan ook onmogelijk om het hele spectrum aan vereiste menselijke vaardigheden te herleiden tot de hele strikte regeltjes die een programmeercode uitmaken.

»Maar toen Google in 2010 aankondigde dat het een zelfrijdende auto had ontworpen die probleemloos kon rijden in echte verkeerssituaties, werd die grens wél overschreden. Hoewel computers, netwerken en software onze complexe manier van denken nog steeds niet kunnen repliceren, zijn die systemen intussen blijkbaar wel krachtig genoeg geworden om menselijke taken uit te voeren door gewoon ontzettend veel data te verwerken. Als ze dat kunnen, zullen ze binnenkort zeker tot nog veel méér in staat zijn.»

HUMO Is dat per se een probleem? Een zelfrijdende auto biedt ook voordelen. Chauffeurs hebben geen stress meer en als het verkeer veiliger wordt, is dat toch een goede zaak?

Carr «Toch eerst even een kanttekening: het zou fout zijn te denken dat we autorijden nu al kunnen overlaten aan computers of robots. De techniek is nog helemaal niet in orde. Als de computer fouten maakt of onverwachte situaties niet aankan, moet de chauffeur het vaak nog overnemen.

»Maar goed, stel dat het ooit wél volledig geautomatiseerd wordt, dan zal dat de veiligheid en efficiëntie zeker ten goede komen. Maar die zelfrijdende auto’s roepen wel veel vragen op. Wie is bijvoorbeeld verantwoordelijk als het misloopt? En wat is dan precies nog de rol van de mens? Hij wordt gereduceerd tot passagier, maar in noodgevallen moet hij kunnen overnemen. Hij moet dus alert en vaardig blijven, en daar wringt het schoentje.

»Bovendien mag je niet vergeten dat veel mensen graag rijden, ook al kan het dan behoorlijk stresserend zijn. Je moet de evolutie ook van een meer filosofische kant bekijken: hoe benader je het leven? Telt enkel efficiëntie, veiligheid en risicoreductie nog, of mag de mens zelf ook nog iets ondernemen? Google en andere hightechbedrijven lijken er geen rekening mee te houden dat mensen zelf van alles willen doen en ervaren.

»Er is ten slotte ook een ethische vraag: als je robots autonoom laat handelen in de wereld, of dat nu als auto of soldaat is, dan moet je die ook zo programmeren dat ze ethische beslissingen kunnen nemen. We hebben nog geen idee hoe we dat zouden moeten doen, laat staan wiens moraal je in die machine zou moeten programmeren: die van de fabrikant, van de eigenaar, van de overheid, van de verzekeringsmaatschappijen of van de bestuurder?»

HUMO U illustreert dat treffend in uw boek: wat doet de Google-auto als de hond van de buren – of nog erger: een kind – voor de wielen springt: uitwijken, waardoor de inzittende misschien zelf zwaargewond raakt, of niet?

Carr «De meeste mensen zullen remmen voor het kind. Maar als de verzekeringsmaatschappij het ‘geweten’ van de auto heeft geprogrammeerd, zal die misschien een andere beslissing nemen? Wiens ingebouwde moraal zal beslissen of de robotsoldaat een verdachte burger neerschiet of niet? Een autonome robot ontwerpen is misschien de taak van een technoloog, maar de samenleving moet zijn zeg hebben over de ethiek waarmee die robot handelt en beslissingen neemt.»

Dokter Algoritme

HUMO In het spraakmakende e-boek ‘Race Against the Machine’ concludeerden twee MIT-onderzoekers dat de ontwikkelingen zo snel gaan dat automatisering virtueel élke job zal veranderen. Ook u stelt dat niet alleen de jobs van laag- maar ook van veel hooggeschoolde werknemers bedreigd zijn. Is dat niet wat overdreven?

Carr «Nee, het is vrij realistisch. In sommige sectoren zal automatisering de jobs van hooggeschoolde werknemers misschien niet volledig uitwissen, maar wel een deel van de job overnemen – en zo de vraag naar de vroegere expertise drukken. Kijk naar advocatenkantoren: die zetten vroeger getalenteerde mensen in – stagiairs of juridische assistenten – om grote hoeveelheden documenten uit te pluizen op zoek naar bruikbaar bewijsmateriaal voor een rechtszaak, of om bepaalde gebeurtenissen in detail te reconstrueren. Vandaag gebruiken Amerikaanse advocatenfirma’s daar computers voor. Die programma’s kunnen niet alleen razendsnel honderden documenten scannen op relevante stukken tekst of woorden, ze kunnen daaruit ook de samenloop van omstandigheden of relaties tussen mensen afleiden. Ze kunnen zelfs hun emotionele toestand achterhalen door het woordgebruik in de teksten te analyseren. Zo’n arbeidsintensief, gespecialiseerd werk wordt nu dus gedaan door computers.

»Ook in bedrijfsbeheer nemen computers meer en meer beslissingen. Bedrijven besteden veel geld aan software die hun mensen analyseert en op grond daarvan beslissingen neemt: over het aanwerven, de verloning of promotie van werknemers. Zelfs in creatieve beroepen zoals architectuur en design nemen computers veel van het werk over. De CAD-software dient niet langer uitsluitend om ontwerpen om te zetten in plannen, ze maakt ook zélf ontwerpen. Stuk voor stuk zijn het voorbeelden van de automatisering van jobs voor hooggeschoolden.»

HUMO De tegenstand tegen technologische vernieuwing is van alle tijden. In het verleden is vaak gebleken dat het sneuvelen van oude jobs gepaard ging met het ontstaan van nieuwe banen. Waarom zou het nu anders zijn?

Carr «Zeker ben ik er niet van, zelfs topeconomen verschillen grondig van mening, maar ik geloof wel dat de aard van de automatisering veranderd is. Vroeger ging het om mechanische machines, die manuele taken en productiejobs automatiseerden. Vandaag de dag zijn het computers, waardoor de automatisering zich uitbreidt naar tal van intellectuele en creatieve jobs. Dat is het grote verschil.

»Dé vraag is dus of we hetzelfde patroon zullen zien als tijdens de industriële revolutie: toen sneuvelden er veel jobs, maar ontstonden er inderdaad ook tal van nieuwe banen – analytische jobs, managementjobs, kantoorjobs. Nu de huidige automatisering ook díé banen overneemt, kun je je afvragen waar de nieuwe jobs nog vandaan zullen komen. We kunnen niet allemaal softwareprogrammeur of robottechnicus worden. Als we er niet in slagen nieuwe, goedbetaalde banen voor de middenklasse te creëren, stevenen we af op een polarisatie in de samenleving: een steeds kleinere groep mensen met zéér goedbetaalde jobs, versus alle anderen, die ofwel moeten vechten voor een baantje, of voor een fatsoenlijk loon.

»We weten nog niet of het zo zal lopen, maar als je kijkt naar de evolutie sinds computers en software écht hun intrede hebben gedaan in veel sectoren, dan wijst niets erop dat er veel nieuwe jobs ontstaan. Sommige economen denken dat het nog zal gebeuren – laten we hopen van wel – maar in de tussentijd moeten we waakzaam blijven.»

HUMO Ook artsen worden bedreigd door de komst van Dokter Algoritme, vreest u. Maar wie wil er nu bij een robot op consultatie? De meeste patiënten zullen toch hun vertrouwde dokter, met wie ze een persoonlijke relatie hebben, verkiezen boven een kille machine?

Carr «Daar ben ik het mee eens. Maar de druk om computers in te zetten in de geneeskunde is groot. Ze kunnen een aantal analyses véél sneller uitvoeren en misschien zelfs betere diagnoses stellen, omdat ze ontzettend veel gegevens kunnen verwerken.

»In die context zal het een hele uitdaging zijn om menselijke kwaliteiten als emotionele intelligentie, empathie, aandacht of goede zorg voor de patiënt naar waarde te blijven schatten. Sommigen zijn geneigd om dat lager in te schatten dan snelheid of efficiëntie, terwijl empathisch luisteren net essentieel kan zijn om te achterhalen wat een patiënt écht mankeert.

»Door Amerikaanse studies weten we al dat de invoering van elektronische medische dossiers het gedrag van dokters heeft veranderd. Zo kijken ze 20 tot 25 procent van hun tijd naar een scherm in plaats van te luisteren naar wat de patiënt vertelt. Het dokterskabinet is dus bij uitstek een plaats waarvan we ons moeten afvragen: willen we die automatisering hier wel?»

HUMO Dat is moeilijk als de overheersende visie op efficiëntie, resultaten en meetbaarheid hamert.

Carr «De efficiëntielogica overheerst op veel plaatsen. Bedrijven en andere organisaties investeren doorgaans in software en automatisering om de productiviteit te verhogen en de kosten te drukken.

»Het vreemde is dat wij een gelijkaardige logica lijken te hanteren, en alsmaar meer alledaagse taken aan computers uitbesteden. We zijn er zo op gebrand om tijd en geld te besparen dat we elke nieuwe softwaretoepassing of app, die ons leven schijnbaar vergemakkelijkt, meteen omarmen. Ook al blijven we uiteindelijk ongelukkig en met een onvoldaan gevoel achter. Als je je elk karweitje uit handen laat nemen, word je niet meer uitgedaagd om moeilijkheden te overwinnen en herleid je jezelf tot een passief wezen. We lijken te vergeten dat een lastige klus klaren ons net een tevreden gevoel geeft. Maar doordat die nood om ons leven te vergemakkelijken zowel op economisch als op persoonlijk vlak zo dwingend aanwezig is, automatiseren we allerlei activiteiten die we beter in eigen handen zouden houden.»

HUMO En dan krijgen we op den duur piloten die hun toestel niet meer handmatig kunnen besturen, zegt u. Berooft automatisering ons sowieso van onze vaardigheden?

Carr «Ja, maar dat hóéft niet zo te zijn. Alles hangt af van het ontwerp van het geautomatiseerde systeem. Je kunt er ook voor kiezen om de mens centraal te stellen. Dan probeer je het beste uit de mens én uit de computer te halen. Zo behouden mensen hun vaardigheden en kunnen ze er zelfs nieuwe ontwikkelen. Helaas is de hedendaagse automatisering er vooral op gericht om de mens zo veel mogelijk uit te schakelen en te reduceren tot de controleur van computeroutput.

»Historisch gezien is de automatisering in vliegtuigen een succesverhaal: vluchten zijn veel veiliger geworden. Recent waarschuwde de Federal Aviation Administration echter dat piloten intussen veel te afhankelijk zijn geworden van de automatische piloot en andere computergestuurde systemen. Vandaag heeft de gemiddelde piloot de besturing van zijn vliegtuig nog hooguit drie minuten per vlucht zélf in handen. De rest van de tijd kijken ze op schermen en geven ze gegevens in. Dat kan leiden tot een verminderd vermogen om zélf snel en corrigerend in te grijpen als zich een ongewenste situatie voordoet. Uiteraard kan zoiets het vliegtuig en de passagiers in gevaar brengen. Als je systemen complexe taken van mensen laat overnemen, kunnen die hun vaardigheden niet meer genoeg oefenen, en daardoor zijn ze niet alert genoeg als ze onverwacht een keer wél moeten ingrijpen.»

HUMO Technofielen zullen zeggen: ‘Als we de boel volledig automatiseren, is dat probleem ook opgelost.’

Carr «Technologie kan altijd falen; de stroom kan ook gewoon uitvallen. En door de snelheid van het systeem kunnen kleine fouten enorme gevolgen hebben. In 2012 zorgde een fout in de software van de grootste aandelenhandelaar op Wall Street bijna voor een nieuwe beursramp. Het duurde drie kwartier voor de computerwetenschappers het probleem wisten te ontdekken, maar intussen had dat programma voor 7 miljárd dollar aan idiote transacties uitgevoerd. Als je wilt dat mensen nog kunnen ingrijpen, moet je er dus over waken dat ze alert én ervaren blijven, ook in de samenwerking met computers.

»Maar nogmaals: wíllen wij wel dat alles wordt overgenomen door robots? Wat blijft er dan nog over voor ons? Willen we onszelf echt veroordelen tot een leven als passieve toeschouwer en het gros van de tijd naar een schermpje kijken en af en toe eens op een knopje drukken? Over zulke existentiële kwesties gaat het.»

Computer says no

HUMO Volgens internet-criticus Evgeny Mozorov evolueren we intussen naar een wereld waar tussen elk voorwerp en onszelf een ‘Google’ staat.

Carr «Dat klopt. En het technologische perspectief dat vandaag bij veel hightechbedrijven de boventoon lijkt te voeren, is behoorlijk misantroop. Ze lijken meer van computers te houden dan van mensen. Computers kun je zo programmeren dat ze netjes doen wat je hun opdraagt, terwijl mensen fouten maken en niet altijd even geconcentreerd of betrouwbaar zijn. Kennelijk is dat behoorlijk frustrerend (lacht).

»Helaas begint die machinale visie op de wereld onze hele cultuur aan te tasten. Alles waarin wij uitblinken – creativiteit, conceptueel denken, verbeelding, een verrassende kijk op de dingen – lijkt nog van weinig tel. We aanvaarden maar al te gretig wat de hightech ons te bieden heeft, terwijl we onze afhankelijkheid ervan beter in vraag zouden stellen.»

HUMO Kunnen we dat nog wel?

Carr «Op een bepaald punt kan een technologie inderdaad zo diep in de samenleving doordringen dat je je moet aanpassen aan de trend om nog deel te kunnen uitmaken van die samenleving. Dat zagen we bij de uitbouw van het elektriciteitsnetwerk en nu zien we dat opnieuw met cloud computing en de mogelijkheid om alles en iedereen in een computernetwerk te verbinden. Er bestaat geen twijfel over dat we ons vandaag op een kantelpunt bevinden. Dáárom moest ik dit boek nu schrijven: als we nog willen beslissen welke belangen de gecomputeriseerde wereld moet dienen – die van bedrijven of die van individuele mensen en dieren – dan moeten we dat nú doen. Want we lijken blind een weg in te slaan waarvan we finaal weleens spijt zouden kunnen krijgen.»

HUMO Ziet u ook positieve signalen?

Carr «Eerlijk gezegd? Niet zo veel, nee. Al heeft Toyota begin dit jaar aangekondigd dat het sommige robots weer zal vervangen door mensen. Blijkbaar zijn er bij dat bedrijf door de automatisering zo veel vaardigheden en creativiteit verloren gegaan dat de kwaliteit van hun wagens achteruitgaat. Ze zijn tot het besef gekomen dat de zuivere focus op efficiëntie en precisie niet zaligmakend is. Hopelijk is dat het begin van een nieuwe trend.»

HUMO Nog een meevaller: we kunnen veel uitbesteden aan robots en computers; maar wat ze maken, zullen ze nooit zélf kunnen kopen.

Carr (lacht)«Inderdaad. Dat is de grote paradox waar we voor staan. Veel bedrijven denken enkel aan winst op korte termijn en vervangen hun werknemers door computers. Maar als alle bedrijven dat doen, zal er geen middenklasse meer overblijven en dreigen de producenten al hun klanten kwijt te raken.»

HUMO Welke talenten kunnen jongeren maar beter ontplooien om nog aan de bak te komen in die geautomatiseerde toekomst?

Carr «Alle talenten die computers níét hebben: verbeelding, kritisch vermogen, conceptueel denken, creativiteit. Maar om al die hogere denkvermogens te stimuleren, mogen ze niet te afhankelijk worden van hun computer. Uiteraard moeten jongeren weten hoe ze hun pc en smartphone moeten gebruiken, maar het is essentieel dat ze die toestellen ook geregeld uitschakelen – om te lezen, diep na te denken, te filosoferen, de wereld te ontdekken.»

HUMO Zie ook de technologiearme opvoeding die Steve Jobs zijn kinderen gaf. In tegenstelling tot wat je zou verwachten, kregen die geen iPad of iPhone.

Carr «Hij is niet de enige, heel wat bedrijfsleiders van technologiebedrijven sturen hun kinderen naar privéscholen waar geen computers gebruikt worden – niet iedereen in die sector laat zich door algoritmes leiden. Steve Jobs wilde de computer vooral inzetten om de creativiteit van mensen te stimuleren. Als we onze software wijs ontwerpen kan dat nog steeds, maar dan wordt het hoog tijd dat we de mens weer op de eerste plaats zetten.»