Rugtekst

This succinct but absorbing book covers the main way stations on James Reason's 40-year journey in pursuit of the nature and varieties of human error. In it he presents an engrossing and very personal perspective, offering the reader exceptional insights, wisdom and wit as only James Reason can.
The journey begins with a bizarre absent-minded action slip committed by Professor Reason in the early 1970s, putting cat food into the teapot, and continues up to the present day, conveying his unique perceptions into a variety of major accidents that have shaped his thinking about unsafe acts and latent conditions. A Life in Error charts the development of his seminal and hugely influential work from its original focus into individual cognitive psychology through the broadening of scope to embrace social, organizational and systemic issues. The voyage recounted is both hugely entertaining and educational, imparting a real sense of how James Reason's ground-breaking theories changed the way we think about human error, and why he is held in such esteem around the world wherever humans interact with technological Systems.
This book is essential reading for students, academies and safety professionals of all kinds who are interested in avoiding breakdowns that can cause serious damage to people, assets and the environment.

Bespreking

Eerder klein boek, 124 pagina's, eerder normale lettergrootte, dus dat moet snel uit zijn. Veertien hoofdstukjes van zes tot tien pagina's. En het leest vlot (ik had wel een vertaal-app in de buurt).

Inleiding

Reason's inleiding van het boek is in dit geval ook een goede inleiding voor de lezer die zich afvraagt of dit een interessant boek is:

Dit korte boek behandelt de belangrijkste mijlpalen op mijn 40-jarige reis op zoek naar de aard en de verscheidenheid van menselijke fouten. Onvermijdelijk vertonen ze een zeer persoonlijk perspectief, maar ik heb ook getracht tegengestelde meningen op te nemen. De reis begint met een bizarre, verstrooide actie van mij, in het begin van de jaren 70 (nl. kattenvoer in de theepot doen) en gaat door tot het heden met een verscheidenheid aan grote ongelukken die mijn denken over onveilige handelingen en latente condities hebben bepaald. De oorspronkelijke focus van dit onderzoek was individuele cognitieve psychologie, maar in de loop der jaren is de reikwijdte geleidelijk verbreed; ze omvat nu ook sociale, organisatorische en systemische (!!) kwesties.

Voor het grootste deel is mijn interesse hier meer gericht op de reis dan op de details van elk mijlpaal, hoewel er enkele uitzonderingen zullen zijn. Daar zijn twee redenen voor. Ten eerste zijn veel van de mijlpalen behandeld in vorige boeken (waarvan Human Error uit 1990 het tweede was). Ten tweede wil ik me concentreren op de factoren in mijn hoofd of in de wereld die aanleiding gaven tot de volgende stap in de reis.

Dit boek is geschreven (en verplichte kost) voor iedereen die interesse heeft in menselijke factoren en hun interacties met de werking van technologische systemen, waarvan incidentele storingen ernstige schade kunnen veroorzaken aan mensen, activa en het milieu. Dit is een grote en diverse groep van studenten, academici en veiligheidsprofessionals, en de laatste tijd ook een groeiend aantal zorgverleners [..].

Tegen de stroom in

In het voorwoord zegt een collega: "Of men nu houdt van de term 'menselijke fout' of niet, en ik moet toegeven dat ik een van degenen ben die hem graag zouden zien verdwijnen, hij wordt algemeen gebruikt en zal waarschijnlijk nog vele jaren onder ons zijn". Nog maar eens een voorbeeld van het fenomeen dat fouten door veel mensen, ook in verantwoordelijke posities, liefst worden genegeerd. Ik denk dat hier weer een gebrekkige aspectscheiding aan de basis ligt. Als mensen fouten maken zijn we al gauw geneigd daar niet al te veel heisa rond te creëren, want missen is menselijk, onweisjiltniks (aan wie scheelt er niets, voor niet-Limburgers), wie zonder zonden is … enzoverder. Het geweldige aan de boeken van James Reason vind ik dat ze het verband leggen tussen enerzijds fouten die door opgeleide mensen worden gemaakt (waar niet veel aan te doen valt, zie ook The Intelligence Trap), en anderzijds de gebreken die inherent in processen en systemen aanwezig zijn en het maken van menselijke fouten veroorzaken (!!). En fouten in systemen, daar valt wél veel aan te doen, zonder daarom mensen te moeten veranderen, maar het gebeurt veel te weinig, omdat het onderscheid tussen systeemfouten en menselijke fouten te weinig wordt gemaakt. Ongeveer zoals perfectionisme wordt verguisd omwille van de achterhaalde filosofisch/theologische betekenis, waardoor perfectie van objecten, processen en systemen wordt verwaarloosd. De onzalige vermenging van systeemfouten en menselijke fouten zet de deur open voor andere problematische fenomenen, zoals groepsdenken (zie hoofdstuk 8), toxische positiviteit, intellectuele luiheid en acedia. Dat James Reason zijn reis tegen de stroom in al 40 jaar volhoudt vind ik knap.

1 – Een bizar begin

Letterlijk een huis-, tuin- en keukenvoorbeeld van een "uitschuiver". In het Engels "slip"; het Nederlandse "slippertje" had gekund, maar leek mij toch iets te gekleurd. Zowel Reason als zijn vrouw maken een uitschuiver met de rode theepot die ook op de cover van het boek prijkt. De analyse is interessant. Een conclusie, die ook al opdook in Human Error: "wanneer handelingen onvoldoende gespecificeerd zijn, door verminderde intentionaliteit, vergeetachtigheid, onachtzaamheid en dergelijke, neigen zij naar gedragingen die in die specifieke context vaak voorkomen".

2 – Plannen, acties en gevolgen

Een poging om het begrip "fout" te definiëren: de term fout wordt toegepast op al deze gevallen waarin een geplande opeenvolging van fysieke of mentale activiteiten niet het gewenste doel bereikt zonder tussenkomst van toeval. Daar zitten hier en daar ogen aan (bv. het verschil tussen uitschuivers en vergissingen), en ze worden goed uitgelegd.

3 – Drie prestatieniveaus

Hier krijg je enkele voorbeelden van nucleaire incidenten (Oyster Creek en Three Mile Island) als kader voor het onderscheid tussen drie prestatieniveaus, nl. gebaseerd op vaardigheden, op regels, en op kennis. Dit is één van die hoofdstukken waar de psychologie (Reason's eerste competentie) verrassend gemengd wordt met alledaagse gebeurtenissen. Een pleidooi voor de multidisciplinaire aanpak.

4 – Verstrooidheid, uitschuivers en versprekingen

In bad stappen met je sokken aan, de voordeur van een kennis willen openen met je eigen sleutel, scheerschuim op je tandenborstel doen, dank u zeggen tegen een automaat, het verkeerde toilet binnenstappen,… Iedereen zegt of doet al eens iets verkeerd door verstrooidheid. Er zijn raakvlakken met het werk van Freud. Er is een groot verschil tussen gebrek aan competentie en verkeerd toegepaste competentie (en weer een grote overeenkomst met The intelligence trap). De kern: fouten door verstrooiing zijn de prijs die we betalen voor het feit dat we de controle over onze gebruikelijke handelingen kunnen overdragen aan automatische routines van een lagere orde.
Anekdote: de schrijver besloot, bij wijze van experiment, twee keukenladen met bestekken te verwisselen. Het duurde vier maanden voor ze eraan wenden. Zijt daarmee getrouwd…(gelukkig is zij ook psycholoog).

5 – Individuele verschillen

En jawel hoor, er bestaat een enquête voor: Short Inventory of Minor Lapses , kortweg SIML; 15 vragen (heel herkenbaar), die ook worden beschreven, inclusief resultaten van onderzoek naar betrouwbaarheid van die lijst (en die blijkt aardig mee te vallen). De verwachte en vooral onverwachte conclusies zijn de leestijd waard.

6 – SIML in de rechtszaal

Al even onverwacht: de auteur werd gevraagd in een rechtszaak advies te geven over verstrooidheid als oorzaak voor winkeldiefstal. Verschillende argumenten worden besproken. We komen echter niet te weten of die ook tot een vrijspraak hebben geleid. Wel heeft die ene rechtszaak geleid tot een onderzoek van 67 andere zaken waar de beklaagde verstrooidheid aanvoerde als verdediging. Een morele conclusie: shoppen kan zeer gevaarlijk zijn; van een winkelmanager krijg je geen gelijk.

7 – De freudiaanse verspreking opnieuw bekeken

We beginnen met een uitdrukking van Freud: "een onderdrukking van een eerder voornemen om iets te zeggen is de noodzakelijke voorwaarde voor het optreden van een verspreking". En dan lijkt het wel alsof Reason in hogere sferen terechtkomt, met meer vreemde Engelse woorden dan anders, zoals concede (toegeven), smug (zelfvoldaan), offing (verschiet), gaffe (blunder), wayward (eigenzinnig), extoll (ophemelen), cursory (vluchtig), minutiae (details). Enkele uitspraken van Freud worden kritisch bekeken, en blijken wel voor verbetering vatbaar. Eerder moeilijk te volgen, maar wel interessant om te zien hoe kennis zich in de loop der tijd kan verfijnen.

8 – Planningsfouten

Ook geen simpel hoofdstuk. "Planning" mag je vrij algemeen bekijken als probleemoplossing. Drie componenten in het planningsproces: een beperkte aandachtsbron (een werkdatabank) (mogelijk niet optimaal vertaald; het lijkt te gaan om informatie die beschikbaar is in documenten en systemen, en in het geheugen), een reeks mentale handelingen die op deze databank inwerken, en de schemata of kennisstructuur die in het langetermijngeheugen is opgeslagen. Ook de invoer- en uitvoerfuncties (receptoren en effectoren) die de planner met de wereld verbinden, spelen een rol, maar worden niet nader gespecificeerd. Ik denk dat ik hier wat kennis mis uit zijn voorgaande boeken. De componenten worden dan meer gedetailleerd besproken, en daar wordt hun betekenis iets duidelijker, hoewel ook dáár moeilijke zinnen tussen zitten, zoals "the information in the working database will be biased in favor of past successes rather than past failures", wat ik na enig wikken en wegen vertaal als "de informatie in de werkdatabank zal eerder vertekend worden door vroegere successen dan door vroegere mislukkingen". Ik vrees dat mijn schemata niet helemaal overeenkomen met die van de auteur (wat ook moeilijk kan, als je 40 jaar iets anders hebt gedaan). En "bias" is een moeilijk woord om te vertalen.

De bronnen van vertekening bij de mentale operaties zijn anders niet mis. Een greep uit de voorbeelden:

• Planners die zich voornamelijk laten leiden door gebeurtenissen uit het verleden zullen de invloed van toeval onderschatten; bijgevolg zullen zij plannen naar minder onvoorziene omstandigheden dan te verwachten zijn.
• Planners zullen meer gewicht toekennen aan informatie naargelang van de levendigheid of de emotionele impact ervan.
• Planners worden sterk beïnvloed door hun theorieën. Wanneer deze niet kloppen, zullen systematische bronnen van vooringenomenheid in het planningsproces worden geïntroduceerd. Een gevolg is dat planners onbewust de ontbrekende stukjes van het huidige feitenmateriaal zullen invullen in overeenstemming met hun theorieën. Heb ik al eerder gesteld: elke onduidelijkheid als gevolg van basale fouten wordt door verschillende personen op verschillende manieren verwerkt, met mogelijk een verschillend resultaat. Basale fouten veroorzaken misverstanden.
  
• Planners zijn niet goed in het beoordelen van populatieparameters op basis van steekproeven. Ze hebben weinig oog voor de onbetrouwbaarheid van kleine steekproeven of voor de effecten van vooringenomenheid in de steekproefprocedures.

Ik ben geneigd ze allemaal over te nemen, omdat ze zo interessant zijn, maar je kan ze beter zelf degusteren, met de rest van het hoofdstuk erbij. Ik heb wel de indruk dat 40 jaar ervaring in de omgang met fouten het jargon in grote mate bepaald hebben. Zware kost, maar degelijk, en regelmatig verrassend. Toch nog een stelling, over de vooroordelen m.b.t. schemata:

• Een voltooid plan is niet alleen een reeks aanwijzingen voor toekomstige actie; het is ook een theorie over de toekomstige toestand van de wereld. Het schept orde en vermindert de spanning. Het zal sterk resistent zijn tegen verandering. Deze onwil om te veranderen zal waarschijnlijk groter zijn wanneer het plan complex is, het resultaat is van veel tijd en inspanning, en er veel mensen bij betrokken waren. De misvatting van de verzonken kosten.
  

Daarna volgt het proces van planning en probleemoplossing in organisaties. Enkele namen passeren de revue, zoals Herbert Simon, bekend van de theorieën van bounded rationality en satisficing, Richard Cyert en James March, van A behavioral theory of the firm, en Irving Janis, met de volgende uitspraak:

• Alle bekende fouten die voortvloeien uit de beperkingen van een individu en van een grote organisatie worden nog versterkt door groepsprocessen die gezamenlijke miskleunen opleveren. Met het Cubaanse-Varkensbaai-fiasco en het Tonkin-incident (escalatie van de Vietnam-oorlog) als voorbeelden.
  

Specifiek in kleinere groepen zie je dikwijls het groepsdenken-syndroom. De symptomen:

• Een illusie van onkwetsbaarheid, die leidt tot extreem optimisme en de bereidheid om buitensporige risico's te nemen (of gewoon domme beslissingen).
• Collectieve pogingen om waarschuwingen die tot heroverweging van het plan hadden kunnen leiden weg te redeneren.
• Een onwrikbaar geloof in de juistheid van de intenties van de groep.
• Stereotype perceptie van de oppositie als zijnde ofwel te slecht om mee te onderhandelen, ofwel te dom om de geplande acties te counteren.
• Het uitoefenen van groepsdruk op elk lid dat afwijkt van de collectieve stereotypen, illusies of verbintenissen.
• Zelfcensuur van eventuele twijfels van individuele leden.
• Een gedeelde illusie van unanimiteit (!), voortkomend uit zelfcensuur van twijfels en de veronderstelling dat zwijgen instemming betekent.
• Het ontstaan van zelfbenoemde mindguards, leden die het als hun plicht zien de groep te beschermen tegen tegengestelde meningen of negatieve informatie.

Het lijkt mij ineens onverantwoord om jonge mensen die maar een handvol jaren gestudeerd hebben op de wereld los te laten. Er is zo veel kennis over mentale processen die een betere maatschappij kunnen maken en kraken, en ze wordt zo weinig verspreid…

9 – Overtredingen

De kernramp in Tsjernobyl in 1986 was voor Reason een mijlpaal in zijn denken over fouten, die zijn aandacht verlegde van puur cognitieve informatieverwerking naar motivationele, sociale en institutionele factoren, waaronder vooral regels en procedures. Overtredingen zijn opzettelijke daden; mensen willen de regels overtreden of procedures negeren, hoewel zij meestal niet de slechte resultaten beogen die deze afwijkingen soms teweegbrengen (tenzij het terroristen zijn). Heel wat interessante inzichten hier. Ook gevallen waar overtredingen leidden tot verbeterde resultaten worden bekeken (diverse oorlogstoestanden), evenals een gebeurtenis waarin het strikt volgen van regels een ramp veroorzaakte (Piper Alpha). Er worden vier soorten overtredingen gegeven; een korte lijst zegt te weinig, ze allemaal beschrijven zegt te veel… Zelf lezen dus.

Ook interessant: de keuze voor niet-conformiteit is dikwijls een afweging van voor en tegen. Voordelen: gemakkelijker werken, sneller, opwindender, doet wat moet, toont vaardigheden, een deadline wordt gehaald, macho. Nadelen: mogelijk gevaarlijk, verwonding van jezelf of anderen, schade aan dingen, duur om te repareren, risico op sancties, verlies van werk, afkeuring door vrienden. [..] De taak is hier niet zozeer om de kosten van niet-naleving te verhogen (door strengere sancties), maar om te proberen de waargenomen voordelen van naleving te vergroten. Elk gebrek aan vertrouwen als gevolg van ongeschikte of foutieve procedures zal de gepercipieerde voordelen van niet-naleving vergroten.

10 – Bedrijfsaccidenten

Een indrukwekkend rijtje ongevallen tussen 1976 en 1988:  milieuramp Seveso (0 doden), vliegtuigbotsing Tenerife (583 doden), nucleair incident Three Mile Island (milieu), loopbruginstorting Hyatt Hotel Kansas City (114), boorplatform Ocean Ranger (84), vliegtuigexplosie Colombo Sri Lanka (21), giframp Bhopal (8000), ontploffing ruimteveer Challenger (7), metrobrand King's Cross Londen (31), boorplatform Piper Alpha (167).

Grote verschillen in locatie, technologie en kosten, maar wel drie gemeenschappelijke kenmerken:

• Veel van de bijdragende factoren waren al in het systeem aanwezig, soms jarenlang, voordat de feitelijke ramp zich voordeed. Deze observatie gaf aanleiding tot het begrip "latente storingen". Deze "residente pathogenen" zijn aanwezig in alle hightech systemen (en de meeste beginnen met basale fouten).
• Alle bovengenoemde systemen hadden meerdere verdedigingsmechanismen, barrières en beveiligingen om te voorkomen dat bekende gevaren schade aan mensen of activa zouden veroorzaken.
• De rampen ontstonden door een onvoorziene samenloop van latente condities (menselijke onveilige handelingen en lokale triggers) die de vele verdedigingsmechanismen omzeilden, waardoor een traject van ongevalskansen ontstond dat schade en verlies veroorzaakte.

De samenloop van actieve storingen (fouten en overtredingen door mensen) en latente condities (in de systemen) wordt uitgelegd aan de hand van Zwitserse Emmenthaler, de "claim to fame" van James Reason. De rest van deze sectie is de beste reden om het boek zelf te lezen. De analysen van deze ongevallen zouden verplichte literatuur moeten zijn voor iedereen die denkwerk verricht. Twee fatale crashes van de Boeing 373 MAX in 2018/19 tonen aan dat daar nog steeds redenen voor zijn. Het feit dat de oorzaak van die crashes in feite al bekend was tijdens de ontwikkeling van het toestel heeft Reason bij het schrijven van zijn laatste boek (2016) allicht nog niet geweten, vermits die informatie door Boeing werd onderdrukt. Economische belangen als tegenstander van gezond verstand; als dat geen stof is voor een nieuw boek… en een pleidooi tegen managerialisme.

11 – Organisatiecultuur: weerstand tegen verandering

Als je van de duivel spreekt zie je zijn staart. Het langste hoofdstuk (13p), maar tegelijk moeilijk samen te vatten. Grote informatiedichtheid, waarheden als een kudde koeien, hier en daar een voorbeeld. Ruime uitleg over het kwetsbare-systeemsyndroom, waar vooral blaam en ontkenning een grote rol spelen, zowel op persoonlijk als op organisatieniveau. De laatste sectie kan dienen als samenvatting.

Culturele gelaagdheid – het zou nuttig zijn dit hoofdstuk af te sluiten met een beschrijving van Patrick Hudson's uitbreiding van Ron Westrum's (drieledige) typologie van veiligheidsculturen in organisaties. Patrick gaat uit van een evolutionaire visie op deze stadia, waarbij hij gelooft dat elk stadium moet worden doorlopen (doorgaans getriggerd door telkens nieuwe incidenten) alvorens over te gaan naar het volgende niveau.

• Pathologisch – Schuld, ontkenning en blind streven naar uitmuntendheid. Financiële doelstellingen overheersen: goedkoper en sneller.
• Reactief – Veiligheid krijgt aandacht na een gebeurtenis. Er is bezorgdheid over negatieve publiciteit. De organisatie zet een incidentenrapportagesysteem op.
• Bureaucratisch of berekenend – Er bestaan systemen om de veiligheid te beheren, vaak als reactie op externe druk. Gegevens worden verzameld in plaats van geanalyseerd en gebruikt. Veiligheidsmanagement is strikt volgens het boekje.
• Proactief – Bewust dat "latente pathogenen" en "foutenvallen" in het systeem schuilen. Probeert ze te elimineren voordat ze samen een ongeluk veroorzaken. Het management luistert naar deskundigen en scherprechters.
• Generatief (hoge betrouwbaarheid) – Respecteert, anticipeert en reageert op risico's. Een rechtvaardige, lerende, flexibele, adaptieve, voorbereide en geïnformeerde cultuur. Streeft naar veerkracht.

12 – Medische fouten

Vier manieren om te kijken naar medische fouten (samengevat):

• Het pestmodel – Dat vraagt om de eliminatie van menselijke fouten, maar daar bestaat geen remedie voor. Een nauw verwante opvatting is dat fouten het product zijn van ingebouwde tekortkomingen in de menselijke conditie, een perspectief dat systeemontwerpers ertoe aanzet te streven naar steeds meer automatisering, om feilbare mensen zoveel mogelijk buiten bereik te houden. Met als gevolg dat steeds minder experts nog expertise verwerven, en de techsector steeds rijker wordt.
  
• Het juridisch model – Een variant van het persoonsmodel, met sterk morele accenten. Centraal in deze opvatting staat de overtuiging dat verantwoordelijke en hoog opgeleide beroepsbeoefenaars geen fouten mogen maken. [..] Fouten met nare gevolgen zijn veroorzaakt door nalatigheid of zelfs roekeloosheid, en verdienen dus beteugelende maatregelen. Waarbij advocaten hun kans schoon zien om met exorbitante bedragen te spelen.
  
• Het persoonsmodel – De meest frequent voorkomende opvatting over fouten, vooral in de gezondheidszorg. Het ziet fouten als de gevolgen van mentale processen: vergeetachtigheid, onoplettendheid, vooroordeel, verstrooiing, onkunde, onzorgvuldigheid e.d. Corrigerende maatregelen omvatten benoemen, beschuldigen, beschamen, omscholen, angst inboezemen, en een andere procedure schrijven. Deze visie is overigens niet helemaal uit te sluiten, door de grote verscheidenheid aan competentie binnen een beroepsgroep.
  
• Het systeemmodel – Mensen zijn feilbaar, en fouten kunnen verwacht worden, zelfs in de beste organisaties. Fouten worden gezien als gevolgen, eerder dan als oorzaken, met een oorsprong niet zozeer in perversiteit van de menselijke natuur, maar eerder in systeemfactoren. [..] Als zich een ongewenst voorval voordoet, is het belangrijkste niet wie er heeft geblunderd, maar hoe en waarom de systeemverdediging heeft gefaald. Moet er nog zand zijn?
  

Reason heeft van 2000 tot 2013 zowat 110 conferenties en meetings omtrent patiëntveiligheid bijgewoond. Op één ervan zei een spreker: "safety management, that's not rocket science". Hij had gelijk; vergeleken met veiligheidsmanagement is raketwetenschap triviaal, op elk vlak. Er zijn veel excellente boeken over het onderwerp (ook in het Nederlands). Wereldwijde vakgroepen omtrent patiëntveiligheid hebben nog niet veel veranderd aan het optreden van problemen, maar wel aan de manier waarop erover gepraat wordt. Volgens Lucian Leape, de "peetvader van patiëntveiligheid", weet je dat er iets veranderd is als je professionele zorgverleners in een kliniek of operatiekwartier spontaan hoort praten over een probleem en de manieren om ermee om te gaan. Dat geldt vooral voor universitaire instellingen, iets minder voor kleine ziekenhuizen en eerstelijnspraktijken. [..] We weten dat we fouten niet volledig kunnen elimineren; ze zijn diep geworteld in de menselijke aard. Dat kunnen we niet veranderen, maar we kunnen wel de omstandigheden veranderen waaronder zorgverleners werken.

13 – Disclosing error

Moet je een fout bekend maken? Verschillende visies worden besproken, van "ontkennen en verdedigen" tot "onthullen, verontschuldigen en compenseren". Die laatste blijkt niet eens duurder te zijn. Blijkbaar wordt ook onderzoek verricht naar de doeltreffendheid van diverse vormen van verontschuldigingen. Beetje saai hoofdstuk, vergeleken met de rest.

14 – De reis herbekeken

Een zicht van Reason op zijn eigen carrière. Met toch nog een extra voorbeeld, nl. het kapseizen van de Herald of Free Enterprise in 1987, waarbij opnieuw blijkt dat meer en grotere fouten zich voordeden in de organisatie dan in het doen en laten van het varend personeel. Verder weidt hij uit over de betekenis van "zijn" Swiss Cheese model, en over de evolutie van foutclassificaties, overigens een mooi voorbeeld van evolutie in aspectscheidingen (goed om deze boekbespreking af te sluiten :-), in chronologische volgorde:

• Uitglijders en vergissingen
• Regelgebaseerde en kennisgebaseerde fouten
• Fouten en overtredingen
• Actieve fouten en latente condities