Nicolas Carr schreef een uiterst nuttig boek getiteld ‘De glazen kooi’ dat de schaduwzijde van automatisering beschrijft. Onderstaand een uitgebreide samenvatting.
We hoeven steeds minder na te denken. We hebben GPS, facebook laat ons onze verjaardagen niet vergeten, google verschaft ons instant informatie en ga zo maar door. We hoeven op een bepaalde manier ook steeds minder te doen.
Binnenkort, zo verzekeren de tovenaars van Silicon Valley ons, zullen we kunnen beschikken over huishoudrobots en robotchauffeurs en allerlei zaken kunnen via 3D-printers aan de deur worden afgeleverd door drones. Kortom, automatisering leidt tot meer automatisering en veel beroepen die beginnen met een A (advocaten, architecten, ambtenaren, artsen etc.) gaan daarvan de gevolgen merken.
De wereld van de ‘Jetsons’, of anders toch tenminste die van ‘Knight Rider’, staat voor de deur. Efficiëntie zoals Taylor en Gilbreth voor ogen hadden, doet ook in het huishouden zijn intrede.
Automatisering die een bepaalde kritische massa bereikt, begint de normen, de aannames en de ethiek van de samenleving te beïnvloeden. Waarbij mensen zichzelf en hun relatie met anderen in een nieuw licht gaan zien. Hun besef van persoonlijke macht en verantwoordelijkheid verandert. Ze gaan zich anders gedragen om zich aan en in te passen in de sterker geworden rol van de technologie.
Daarnaast is een wérkelijk afhankelijke klant in die high tech wereld iets waar veel geld mee is te verdienen.
Passiviteit schept ontevredenheid
Toch schuilt daar een probleem. Mihaly Csikszentmihalyi, de schrijver van het uiterst populaire boek Flow deed een onderzoek samen met zijn collega aan de Universiteit van Chicago Judith LeFevre inde jaren ’80 naar de wijze waarop mensen hun tijd doorbrachten op het werk en in hun vrije tijd. Dat gaf hem een inzicht in wat hij de ‘paradox van het werk’ noemde. Mensen bleken gelukkiger en tevredener (daar meer positieve gevoelens hadden) terwijl ze aan het werk waren dan wanneer ze vrij hadden. Ook bleek dat mensen heel slecht kunnen inschatten welke activiteiten hun een gevoel van tevredenheid gaven en welke een gevoel van ontevredenheid.
Dat werd door enkele psychologen ‘miswanting’ genoemd. We zijn geneigd te verlangen naar dingen die we niet prettig vinden, en dingen prettig te vinden waar we niet naar verlangen. Dat heeft er mede mee te maken dat onze discipline het laat afweten en we onze vrije tijd verdoen, verkwanselen. We kiezen daarin maar zelfden uitdagende hobby’s of lastige klussen.
“Werk, zelfs rotwerk, is eigenlijk beter te verdragen dan vrije tijd omdat het ingebouwde doelstellingen en uitdagingen kent die je uitdagen om ‘op te gaan in je werk’, om je te concentreren en jezelf erin te verliezen”, aldus Csikszentmihalyi.
Passiviteit schept ontevredenheid, verveling en lastigheid. Automatisering stelt ons de belangrijker vraag:”Wat betekent het om mens te zijn?” Csikszentmihalyi en LeFevre ontdekten overigens nog iets anders. Een van de vrijetijdsbestedingen die volgens hun testpersonen het sterkste gevoel gaf ‘in de flow’ te zijn, was……zelfstandig autorijden.
Werkgelegenheid
Als een robot sneller, goedkoper een bepaald werk kan doen dan zijn menselijke tegenhanger, zal een robot het werk gaan doen. En daarbij de mens verlossen van vervelend werk. Dat leidt tot een verhoogde productiviteit en, zo voorspelden vele denkers, in lijn met en na Adam Smith’s ‘The Wealth of Nations’, zouden er nieuwe banen bijkomen, zou het loon omhooggaan en zouden de prijzen van goederen dalen.
Het extra geld kon de arbeider dan besteden aan producten van de fabrikant waarvoor hij /zij werkte. Sommige kunstenaars en intellectuelen, die het werk van de geest als inherent superieur aan dat van het lichaam beschouwden, meende dat er een technologisch Utopia in het verschiet lag. Een bevrijding van de slavernij van de machines.
Tegelijkertijd blijken die machines ook banen te kosten en ook nu neemt de angst voor zog. technologische werkeloosheid weer toe. Die angst blijkt tegenwoordig niet geheel onterecht. Nicholas Carr verwijst daarbij naar het werk van Brynjolfsson en McAffee. In een eerdere samenvatting van ‘het tweede machinetijdperk’ van Brynjolfsson en McAffee op deze site (zie http://tinyurl.com/mjsx2g3 ), maken deze auteurs hard dat technologische werkeloosheid wel degelijk bestaat, dat ze algemeen verspreid is en waarschijnlijk nog veel erger gaat worden.
De mens, zo waarschuwen Brynjolfsson en McAffee, is bezig de race tegen de machine te verliezen. Er is sprake van een reusachtige hightechindustrie die enorm heeft bijgedragen aan de productiviteit en de welvaart van diverse economieën, maar verrassend weinig aan de werkgelegenheid. Zeker deze keer, na de recente en nog gaande recessies, blijkt de economie zich anders te gedragen dan voorheen.
Dat geldt ook voor grootmachten als China. Machines vervangen sneller arbeiders dan dat de economische groei nieuwe banen in de productie kan scheppen. Informatietechnologie heeft de verdeling van de werkgelegenheid, zelfs zogenaamde ‘slimme’ werkgelegenheid ingrijpend veranderd. Ten gunste van de machine.
Daar blijken ook vakverenigingen aan te hebben bijgedragen. In veel Amerikaanse industrieën lagen vakbonden overhoop met fabriekseigenaren. Toen automatisering zijn intrede deed, schreef een directeur van Arthur D. Little dat de opkomst van de automatisering ‘het begin was van de bevrijding van de zaken wereld van de menselijke arbeider’. En daarmee was je ook van een hoop politiek gezeur af. Waar arbeiders destijds nog veel invloed hadden, leert automatisering je een andere les: in een geautomatiseerd systeem wordt alle macht gelegd in handen van degenen die de programmering verzorgen.
Tegelijkertijd gaat technologie steeds meer ondergronds en wordt onzichtbaar. Er is sprake van verborgen elektronische complexiteit. Te vergelijken met rioolbuizen die onder grond liggen maar wel ons hygiëne-gedrag mede vormgeeft.
Relaties en verbanden die ooit deel uitmaakten van de alledaagse ervaring en directe interacties, verhullen zich nu in bits en abstracties die ons gaat beheersen. We zitten aan een stuur maar zijn er, net als bij de Google auto niet langer zeker van wie er nu eigenlijk rijdt.
Sommige onderzoekers stellen dat als de technologische werkeloosheid erger gaat worden, dit eerder het resultaat zal zijn van de nieuwe ondergrondse infrastructuur. De robots en de toepassingen zijn de zichtbare flora van de diepe, uitbreidende en genadeloos overal doordringende wortelstok van de automatisering.
De machine leert steeds sneller en neemt over
Bovendien profiteren die machines ook nog van de Wet van Moore. Ze verhogen hun productiviteit veel sneller als mensen omdat ze kunnen profiteren van alle snelle ontwikkelingen in de processorsnelheid, programma-algoritmes, opslagcapaciteit, interfaceontwerp en miniaturisering. In de luchtvaart wordt gedacht aan passagiersvliegtuigen zonder piloten.
Zestig jaar geleden waren in een lijntoestel nog vijf hoogopgeleide, goedbetaalde, professionals nodig. De computers van tegenwoordig worden slimmer naarmate ze meer ervaring opdoen, net als mensen. Nieuwe ‘neuromorfische’ microchips, waarin protocollen voor machinaal leren zijn ingebakken, zullen het leervermogen van computers de komende jaren nog verder versterken. Ze zullen beter leren onderscheiden en diagnostiseren.
In allerlei sectoren dringt de computer door in hoogwaardig werk. Het denken van accountants en andere experts wordt er door bepaald. Veel artsen bijv. zullen binnenkort gaan merken dat ze de rol hebben gekregen van een menselijke sensor die informatie verzamelt voor een computer die beslissingen neemt.
Onlangs heeft software ook een centralere rol ingenomen in advocatenkantoren. Het belangrijke proces van het vinden van bepaalde documenten, traditioneel werk voor beginnende advocaten, die het doorploegen van de vele stukken en artikelen deden, is inmiddels grotendeels geautomatiseerd. Ook worden er algoritmes ontwikkeld die voorspellingen kunnen doen door vele eerdere zaken te beoordelen.
Het gevaar van de automatische piloot
Werken met ‘automatische piloten’ in een veelheid van professies kan leiden tot vaardighedenvervaging (skill fade). Onderzoek van Parasuraman heeft bijv. laten zien dat het al te zeer vertrouwen op computersystemen in de luchtvaartbranche ten koste kan gaan van de geoefendheid van piloten, hun reflexen kan afstompen en hun oplettendheid doen verslappen.
Dit leidt tot wat Jan Noyens, expert op het gebied van de menselijke factor en werkzaam aan de universiteit van Bristol in het Verenigd Koninkrijk, het verminderen van de deskundigheid van de bemanning’ heeft genoemd. Dat heeft al een enkele keer tot grote ongelukken geleid.
Er is een duidelijke relatie geconstateerd tussen deskundigheid en het vliegen met en zonder geautomatiseerde hulpmiddelen.
Computersystemen zijn (nog) niet voor alle verassingen in contexten te programmeren.
Maar de verandering in de luchtvaart, de verschuiving van mechanische naar digitale systemen en bijbehorende besturing, geeft wél een lijn aan die de samenleving als geheel ondergaat. Inclusief de groeiende bewijzen voor het verloren gaan van vaardigheden, het afstompen van de waarneming en de vertraging van het reactievermogen. Naarmate we meer, in termen van metaforen, in een glazen cockpit leven, kan de conclusie ook worden dat die cockpit een glazen kooi aan het worden is. Dat zou ons volgens Carr aan het denken moeten zetten.
Het degeneratie-effect
In een publicatie uit de jaren ’70, van het U.S. Department of Labor, vatte het werk van secretaresses samen als ‘hun werkgever ontlasten van de routinetaken, zodat ze zich bezig kunnen houden met belangrijkere zaken.’
De mens schuift al taken, zowel fysieke als mentale, af naar gereedschappen sinds de uitvinding van de hendel, het wiel en het telraam. Automatisering blijkt daarbij een stapje verder te gaan. Ze vervangt niet enkel een menselijke activiteit maar verandert die ook. Automatisering verandert zowel de arbeid als de arbeider. Die vervult nog maar de rol van een hightech bediende die werkt met informatie. Gegevens invoeren, de uitvoer bewaken waarbij de focus verder wordt vernauwt en gespecialiseerde talenten worden ingeruild voor meer routineuze, minder onderscheiden varianten.
Dat doet iets met onze hersenen en onze vaardigheden.
Onachtzaamheid en vooringenomenheid
Er blijken bij vaardighedenvervaging twee degeneratie-effecten hun intrede te doen: Onachtzaamheid gecombineerd met vooringenomenheid m.b.t. wat automatisering kan. Onachtzaamheid en vooringenomenheid treden op wanneer we de overtuiging en het gevoel krijgen dat de machine foutloos zal werken en elk probleem dat zich voordoet, kan oplossen. Daarmee komen we uit verbinding met ons werk.
Dat gebeurt zelfs bij eenvoudige handelingen als een brief tikken en we er van uitgaan dat de automatische spellingscontrole onze fouten corrigeert. Een ander eenvoudig voorbeeld is blind vertrouwen op je GPS en daardoor in een gevaarlijke situatie terecht komen. Naarmate we meer vertrouwen op technologie om de weg te vinden, werken we minder aan onze eigen cognitieve kaarten. Ons topografisch vermogen blijkt al ernstig afgenomen te zijn.
Machines delen in de feilbaarheid van hun makers. In productieprocessen leidt dat tot diverse risicovolle situaties. Niet alle fouten blijken door computersystemen te kunnen worden gecorrigeerd (uit experimenten blijkt dat we beter opletten als het systeem regelmatig fouten maakt). Als de werklast teveel wordt beperkt, gaan de prestaties van de werknemers er onder lijden en kan gemakkelijk zorgen voor onveilige werksituaties.
Van handelende naar waarnemende personen: minder ‘know-how’ ontwikkeling
Automatisering heeft de neiging ons te veranderen van handelende in waarnemende personen. Daarbij degenereren onze hersenen omdat er geen confrontatie met de werkelijkheid en situaties daarin plaatsvindt. In plaats van de stuurknuppel zelf ter hand te nemen, kijken we alleen nog maar naar het beeldscherm.
Een artikel lezen, en daarna proberen je er zo veel mogelijk van te herinneren zonder gebruik hulpmiddelen, werkt beter dan vier maal gewoon opnieuw lezen. De geestelijke handeling van het genereren, verbetert de het vermogen van mensen om taken uit te voeren. Als we ons ergens voor inspannen, beloont onze geest ons daarvoor met een beter begrip.
Inspanning, iets doen met informatie, leidt tot ‘know-how’ en wordt na enige tijd impliciete kennis die later naar buiten komt als vaardigheid. Daarvoor is het nodig dat we ons langere tijd achtereen ingespannen door een lastige taak heen slaan en daarbij bij voorkeur worden geconfronteerd met verschillende soorten omstandigheden. Als door gebruik van een computer eigen cognitieve processen worden omzeild, houdt dat ons tegen het soort rijke kennis te verwerven die tot ‘know-how’ en echte expertise leidt.
Om werkelijk ergens goed in te worden, moet je intuïtieve kennis ontwikkelen en die krijg je alleen door te oefenen en echte ervaring op te doen. Dan verkrijg je directe feedback waarbij je vaardigheden aanleert en verfijnt. Kortom: slimmer gereedschap, dommere vakmensen.
Het is ook te vergelijken met het verschil tussen door een landschap trekken en getransporteerd worden. Trekken is de meest fundamentele manier waarop we in de wereld zijn en is, omdat je dan IN de wereld staat, een voortdurend proces van groei en ontwikkeling. Trekken is rommeliger, gevarieerder en minder efficiënt dan transport maar je leert er meer van.
Nieuwe ziekten
Minder je hersens en je geheugen gebruiken heeft hetzelfde effect als minder je spieren gebruiken. Een van de verwachtingen is dat er de komende 20 jaar steeds jongere gevallen van dementie zullen voorkomen door een teloorgang van het geheugengebruik.
(Noot MH: Verder lijkt er sprake te zijn van een afnemend concentratievermogen bij studenten, Die compenseren dat volgens Coleman in zijn boek ‘Focus’ met pilletjes. Dat zal ongetwijfeld zijn eigen nieuwe ziektebeelden gaan oproepen)
Casestudy: patiëntendossiers
Computers en patiëntendossiers veranderen op ingrijpende wijze waarop zorg wordt verleend aan patiënten.
Een van de onverwachte resultaten is dat artsen de patiënt nu rekeningen stuurt voor veel meer dure diensten dan voordat de software in gebruik werd genomen mede door de ‘aanbevelingen’ die het systeem doet tijdens het invullen van elektronische formulieren.
Tegelijkertijd geeft het systeem veel ‘waarschuwingen’ wat leidt tot waarschuwingsmoeheid en het wegklikken er van. Die waarschuwingen zijn disclaimers van de softwarefirma die het systeem levert. Daarnaast is aangetoond dat wanneer artsen in staat zijn om op een eenvoudige wijze eerdere röntgenfoto’s en andere diagnostische afbeeldingen op te vragen via de computer, ze sneller geneigd zijn nieuw onderzoek aan te vragen.
Ook de wijze van leren van artsen wordt door het systeem beïnvloed. Het feit dat ze niet meer met de hand schrijven (maar meer knip- en plakwerk doen) maakt dat ze de mogelijkheid niet meer hebben om nog eens ’extra na te denken wat ze nu eigenlijk wilden zeggen’ waardoor hun begrip voor de patiënt afneemt en hem hindert goed onderbouwde beslissingen te nemen bij diagnose en behandeling. Het werkelijke verhaal staat niet meer in het systeem.
Verder moedigt het systeem ‘gefragmenteerde documentatie’ aan omdat de verschillende aspecten van de toestand van een patiënt zijn opgeslagen in velden die los van elkaar staan, waardoor het lastiger blijkt een algemeen beeld van een patiënt in het oog te behouden. Daarnaast blijkt sterk vertrouwen op systemen ook bij artsen te kunnen leiden tot vaardighedenvervaging.
Door artsen te dwingen vanuit een systeem bepaalde regels te volgen, kan de ‘evidence based’ – geneeskunde de wetenschappelijke vooruitgang hinderen volgens psychologisch onderzoeker Gary Klein. Computerintelligentie is ongelooflijk praktisch en productief maar met een volstrekt gebrek aan nieuwsgierigheid, verbeelding en wereldwijsheid. Het is nuttig te beseffen dat leren juist enige ‘inefficiëntie’ vereist.
Case study: architectenwerk
“Als je echt iets wilt begrijpen van schoenveters, moet je ze zelf strikken”, zo stelt politicoloog en motorfietsmonteur Matthew Crawford.
In de architectenwereld is het gebruik van Computer Added Design (CAD) -systemen gangbaar. Veel van ’s-Werelds meest gerespecteerde architecten en docenten architectuur hebben inmiddels gewaarschuwd tegen een al te groot vertrouwen in computers omdat CAD –programma’s het perspectief van ontwerpers blijken te kunnen vernauwen en ten koste lan gaan van hun talent en creativiteit.
Tekenen/schetsen kan het best worden beschouwd als ‘handmatig denken’. De handeling van het zelf schetsen lijkt een manier om de verborgen opgeslagen intuïtieve kennis van de geest te ontsluiten, een mysterieus proces dat cruciaal is voor elke artistieke schepping en dat moeilijk of helemaal niet kan worden bereikt door je te beperken tot bewuste overwegingen.
CAD leidt bovendien tot wat onderzoekers noemen ‘premature fixatie’ waarbij je wordt ontmoedigd om iets te veranderen als al vele details gelijk zichtbaar zijn. Daarnaast vergeet een onderzoeker zich de menselijke aspecten van een gebouw voor te stellen. Iets dat bij zelf schetsen wel gebeurt.
Een computer is nooit zomaar een stuk neutraal gereedschap en maakt het lastig voor beginners om alle subtiliteiten onder de knie te krijgen. Het leerproces wordt op een bepaalde wijze ondermijnd.
Adaptieve automatisering: een keuze
In algemene zin krijgen we steeds minder de gelegenheid om onze eigen vindingrijkheid te demonstreren en om zelfredzaamheid te vertonen die ooit als een van de belangrijkste karakteristieken van de mens werd beschouwd. Toch is daarin een keuze te maken.
Een toepassing met toekomst is adaptieve automatisering waarbij de computer zo wordt geprogrammeerd dat hij de persoon die hem bedient nauwkeurig in de gaten houdt en een onder- of overbelasting voorkomt. De mens staat centraal maar de computer kan, als de operator een ingewikkelde manoeuvre moet uitvoeren, een aantal taken overnemen. Denk bijv. aan een auto die in een slip komt.
In algemene zin in productieprocessen probeert de computer dan de medewerker op de top van zijn prestatiecurve als mens te houden. De nadruk ligt hierbij op aanvullen, niet vervangen van een persoon. Het is een andere keuze dan volledig automatiseren.
Airbus heeft in haar vliegtuigen haar computers zodanig geprogrammeerd dat ze de instructies van een piloot onder bepaalde omstandigheden negeren. Boeing heeft gekozen voor een meer op de mens gefocuste benadering. De piloot blijft de eindverantwoordelijke. Zelfs onder extreme omstandigheden.
(Terzijde: uit recente onderzoeken blijken volgens Carr de tekortkomingen van de technologiegerichte benadering van Airbus en waren sommige ongelukken daardoor te voorkomen. Bovendien is bij Boeing veel minder sprake van vaardighedenvervaging en blijft de vakman betrokken bij het systeem)
Een andere case is Specialmatic.
Toen numerieke metaalbewerkingsbanken hun intrede deden, was dat een oplossing voor sommige fabriekseigenaren om daarmee metaalarbeiders te vervangen.
Specialmatic legde daarentegen in zijn geautomatiseerde metaalbewerkingsmachines de macht in handen van de arbeider die de aanvoer en snelheid desgewenst kon bijstellen op basis van zijn ervaring met de aanblik, het geluid en de geuren van het metaal snijden. Deze heeft het helaas niet gered maar past wel in de ontwikkeling van adaptieve automatisering.
Geprogrammeerde ethiek
Of het nu gaat om wel of geen adaptieve automatisering, het mag duidelijk zijn dat het onmogelijk is om complexe menselijke activiteiten te programmeren zonder ook de morele keuzes te automatiseren. Dat geldt zeker bij defensie-activiteiten waarbij drones dodelijke activiteiten verrichten: moord in opdracht van de staat of een bepaalde groep. De grootste verandering die zich daarbij gaat voordoen is niet meer als iemand een drone op afstand bestuurt maar als een computer zélf de trekker gaat overhalen.
En dat zal vroeg of laat gaan gebeuren. Dan zal de vraag komen of er flexibele ‘ethisch autonome robots’ gemaakt kunnen worden die hun ethisch vermogen kunnen ontwikkelen. Maar ethiek is niet iets dat je zou moeten leren door ‘vallen en opstaan’. Zeker niet als er levens op het spel staan. Ethiek programmeren zal een heel lastige dobber worden omdat er vooralsnog geen perfect moreel algoritme bestaat. Daarbij geldt: moraliteit zal door een fundamentalist anders worden ingevuld dan een verlichte wijze.
Waar ligt de ruimte en toekomstperspectief voor onze arbeid?
We moeten gaan oppassen voor wat Microsoftonderzoeker Kate Crawford data of digitaliseringsfundamentalisme noemde: talenten die een computer NIET heeft minder serieus te gaan nemen.
Computersystemen kunnen niet altijd beschikken over de ‘volledige kennis van het werk’ en de ‘volledige toegang tot de buitenwereld’. De Britse wiskundig Turing benadrukte ooit enkele decennia geleden dat algoritmes intuïtie nooit helemaal kunnen vervangen. Er zal altijd ruimte zijn voor spontane oordelen die niet helemaal het resultaat zijn van een bewuste redenering. Hij stelde:
”Wat ons werkelijk slim maakt is niet ons vermogen om feiten te desilleren uit documenten of statistische patronen te ontwaren in een verzameling gegevens. Het is ons vermogen dingen te begrijpen, om de kennis die we opdoen uit observatie en ervaring, uit het leven, te verweven tot een rijk en vloeiend begrip van de wereld dat we kunnen toepassen op elke denkbare taak of uitdaging. Het is die soepelheid van de geest die zowel de bewuste als de onbewuste cognitie omvat, de rede en de inspiratie, die ons mensen in staat stelt conceptueel, kritisch, metaforisch, speculatief en gevat te denken – om sprongen te maken in onze logica en ons verbeeldingsvermogen.”
Carr sluit af met een gedicht van Robert Frost. Die was in zijn jonge jaren boer toen hij begon met dichten. Over het gebruik van een gereedschap als een zeis voor het maaien, dichtte hij het volgende:
“Nooit was er een geluid naast het bos behalve dit ene,
En dat was mijn lange zeis die fluisterde tegen de grond.
Wat fluisterde hij dan? Dat wist ik zelf ook niet goed.
Misschien iets over de hitte van de zon.
Misschien iets over het ontbreken van geluid…..
Dat was de reden dat hij fluisterde, niet sprak.
Het was geen droom van het geschenk van ledige uren,
Of het snelle goud uit de hand van fee of elf:
Alles behalve de waarheid zou te zwak hebben geleken
Voor de serieuze liefde die de drassige laagte op rijen legde,
Niet zonder de breekbare puntige bloemen (bleke orchideeën),
en de felgroene slang verjoeg.
De werkelijkheid is de zoetste droom die de arbeid kent.
Mijn lange zeis fluisterde en liet het hooi gelaten drogen.”
De werkelijkheid is de zoetste droom die de arbeid kent. Frost was volgens Carr niet op zoek naar een diepere waarheid achter zijn werk. Het werk IS de waarheid waarbij Frost zinspeelde op de centrale rol van het handelen in zowel het leven als in het weten.
Max Herold
Oktober 2014
Meer weten?
De glazen kooi: Wat automatisering met ons doet
Auteur: Nicolas Carr
Uitgeverij: Mavem Publishing, 2014
Klik op: http://www.managementboek.nl/boek/9789491845345/
de-glazen-kooi-nicholas-carr?affiliate=1910
