Veelvoorkomende valkuilen die je moet vermijden

De roadmap die we hebben besproken om u te helpen aan de slag te gaan met het incidentbeoordelingsproces is nuttig, maar het kan ook nuttig zijn om te weten wat enkele obstakels zijn die u tijdens deze reis kunt tegenkomen.

In deze les vindt u informatie over enkele veelvoorkomende traps waarin anderen zijn gevallen tijdens het incidentbeoordelingsproces en hoe u deze kunt vermijden.

Trap 1: Toeschrijving aan "menselijke fout"

U herinnert zich misschien dat 'pilotfout' (ook wel bekend als 'menselijke fout') de conclusie was die de eerste onderzoekers trokken in het B-17-verhaal dat we in de inleiding van de module hebben besproken. Laten we teruggaan naar dat verhaal.

In die inleiding hebben we gesuggereerd dat de bereikte conclusies misschien teleurstellend voor u zijn. Ze waren zeker teleurstellend voor Alphonse Chapanis, een militaire psycholoog die door de luchtmacht van de Verenigde Staten werd gevraagd om deze incidenten te onderzoeken. Hij merkte onder andere op dat deze ongevallen uniek waren voor de B- 17 en een kleine hoeveelheid andere vliegtuigen. In West-Europa werden tegelijkertijd duizenden C-47 transportvliegtuigen gebruikt, toch had geen enkele C-47 ooit een soortgelijk incident meegemaakt.

Dus interviewde hij piloten en op basis van wat hij van hen hoorde, bekeek hij de B-17 cockpits. Wat hij zag waren er twee schakelaars: de tandwielschakelaar en de klepschakelaar. De schakelaars waren ongeveer 7,6 centimeter van elkaar verwijderd in de cockpit. De werkingsmodus was identiek. Ze waren gewoon te makkelijk om met elkaar verward te worden, en dat is wat er in deze incidenten is gebeurd. Als je net een vliegtuig hebt geland, staan je flaps uitgezet en voordat je parkeert, trek je ze in. Chapanis probeerde iets anders.

Hij lijmde een klein rubberen wiel aan de schakelaar voor de versnelling, en een harde hoekige "klep" aan de schakelaar voor de flappen, en inderdaad stopten de ongevallen.

Hij staat nu bekend als een van de oprichters van het gebied van ergonomie , de studie van ontwerpfactoren in menselijke prestaties - en hij had een eenvoudige observatie: het ontwerp van de cockpit kan de kans op menselijke fouten beïnvloeden. Deze aanpak is erop uitgegaan om het ontwerp van alle moderne vliegtuigen te informeren. De twee switches in de huidige vliegtuigen zijn nu zeer verschillend, zoals verplicht door de federale wetgeving in de VS.

Waarom hebben we je dit verhaal verteld?

Mensen maken fouten. Menselijke fouten zijn echter geen oorzaak; Het is een symptoom. Wanneer menselijke fouten worden beschouwd als de reden voor een fout, stoppen mensen daar in plaats van het incident verder te analyseren.

Systeemontwerp, organisatiecontext en persoonlijke context zijn allemaal van invloed op wanneer, hoe en met welke impact mensen fouten maken. 'Menselijke fout' is een label dat ervoor zorgt dat u stopt met onderzoeken op het moment dat u op het punt staat iets interessants over uw systeem te ontdekken.

Het probleem met de conclusie 'menselijke fout' in onderzoeken is dat het ervoor zorgt dat je uit het oog verliest dat wat mensen op dat moment deden voor hen logisch leek. Fouten zijn per definitie niet opzettelijk, dus ze waren niet van plan een fout te maken.

Wanneer we 'menselijke fout' zien of horen, is het een signaal dat we dieper moeten kijken. Als we willen leren, moeten we niet stoppen met onderzoeken wanneer we een menselijke fout vinden, zoals we dat vaak doen. Zoals het verhaal van de B-17s laat zien, is net voorbij de menselijke fout waar we interessante dingen over ons systeem leren.

Trap 2: Contrafactuele redenering

Contrafactual betekent 'in tegenstelling tot feiten' en contrafactuele redenering verwijst naar het vertellen van een verhaal over gebeurtenissen die niet zijn gebeurd om de gebeurtenissen uit te leggen die dat wel hebben gedaan. Dit is niet erg logisch, ook al hebben mensen de neiging om het altijd te doen.

U kunt contrafeitelijke uitspraken identificeren aan de hand van sleutelzinnen.

• Zou kunnen hebben
• Had moeten hebben
• Zou hebben
• Kan niet
• Niet
• Was het maar zo

Enkele voorbeelden van contrafeitelijke uitspraken met betrekking tot beoordelingen na incidenten.

"Het bewakingssysteem kan het probleem niet detecteren."

"De technicus heeft de geldigheid van de configuratie niet gecontroleerd voordat deze wordt uitgevoerd."

"Dit zou kunnen worden opgehaald in de kanaire omgeving."

Het probleem met dit type redenering in een incidentbeoordeling is dat u het hebt over dingen die niet zijn gebeurd in plaats van de tijd te nemen om te begrijpen hoe wat er is gebeurd. Je leert niets van deze speculatie.

Trap 3: Normatieve taal

Normatieve taal impliceert vaak dat er een "duidelijk juiste" handelwijze was die operators hadden moeten nemen en beoordeelt de acties van die operators met het voordeel van achteraf.

Normatieve taal kan meestal worden geïdentificeerd door adverbs, zoals 'ontoereikend', 'onzorgvuldig', 'haastig', enzovoort.

Normatief denken leidt u tot het beoordelen van beslissingen op basis van hun resultaten. Deze manier van spreken is niet logisch, omdat het resultaat de enige informatie is die niet beschikbaar was voor degenen die de beslissingen en beslissingen hebben genomen.

Normatieve taal kan ook in tegengestelde zin worden gebruikt. Mensen kunnen bijvoorbeeld de operators complimenteren dat ze 'correct' hebben gehandeld. Maar nogmaals, vaak wordt dit oordeel genomen met het voordeel van informatie die de betrokken mensen niet hadden.

Het probleem met normatieve taal is vergelijkbaar met het probleem met contrafactuele redenering: als we beslissingen nemen na het feit dat we informatie gebruiken die niet beschikbaar was voor de mensen die betrokken waren tijdens het incident, vergeten we te begrijpen hoe de acties van de operators op dat moment zinvol voor hen waren.

Trap 4: Mechanistische redenering

Mechanistische redenering verwijst naar het concept dat een bepaald resultaat kan worden afgeleid van interventie. Het wordt soms het meddling kids-syndroom genoemd (bedacht door Jessica DeVita) op basis van het uitgangspunt dat "Ons systeem zou prima hebben gewerkt... als het niet voor die bemoeizuchtige kinderen was geweest."

Wanneer u mechanistische redenering gebruikt in uw na-incident beoordeling, bouwt u uw conclusies op de misvatting dat de systemen waarmee u werkt, in wezen correct werken, en als die "bemoeizuchtige kinderen" niet hadden gedaan wat ze deden, zou de fout niet hebben plaatsgevonden.

Dat is echter niet hoe systemen werken.

Ter illustratie van dit punt stelt u zich het volgende scenario voor: u werkt aan een productieservice. U wordt nu verteld dat u die service niet mag aanraken of er iets mee kunt doen. Alles buiten uw team gaat verder zoals voorheen: klanten blijven de service gebruiken, externe afhankelijkheden blijven veranderen, de internetfuncties blijven normaal.

U kunt echter geen wijzigingen aanbrengen in de code of configuratie. Geen implementaties, geen operaties op het controlevlak, niets.

Denkt u dat uw service na een dag nog steeds wordt uitgevoerd zoals verwacht? Na een week? Na een maand? Na een jaar? Hoe lang kunt u realistisch verwachten dat uw service blijft werken zonder menselijke tussenkomst? In de overgrote meerderheid van de gevallen zou dat niet het geval zijn.

Deze gedachteoefening leidt ons tot een belangrijke conclusie:

Menselijke adaptieve capaciteit is nodig om onze systemen up-and-running te houden.

De enige reden dat uw systemen in de eerste plaats actief blijven, is vanwege de acties van mensen in de controlelus. Het is alleen door menselijke actie en het vermogen om zich aan te passen aan veranderende omstandigheden die het systeem blijft werken.

Daarom is het onjuist te concluderen dat het systeem "in feite werkte... als het niet voor die bemoeizuchtige kinderen was geweest." In feite is de betrouwbaarheid van uw service niet onafhankelijk van de mensen die eraan werken. In plaats daarvan is het een direct resultaat van het werk dat de mensen er elke dag aan doen.

Het probleem met mechanistische redenering is dat het je leidt naar een pad waar je denkt dat het vinden van de foutieve mens gelijk is aan het vinden van het probleem. Diezelfde foutieve mens improviseert echter en past zich aan om het systeem weken en maanden actief te houden. Misschien is deze rol belangrijk genoeg om te weerspiegelen in uw incidentbeoordeling.

Nu u enkele dingen kent die u moet vermijden tijdens een incidentbeoordeling, gaan we verder met de volgende les waarin we enkele nuttige procedures voor deze beoordelingen verkennen.