Häufige Fallen, die vermieden werden sollen

Die Roadmap, die wir diskutiert haben, um Ihnen bei den ersten Schritten mit dem Prozess der Überprüfung nach dem Vorfall zu helfen, ist hilfreich, aber es kann auch hilfreich sein, einige der Hindernisse zu kennen, die Auf dieser Reise auftreten können.

In dieser Lektion erfahren Sie mehr über einige häufige Fallen, in die andere während des Überprüfungsprozesses nach dem Vorfall geraten sind und wie Sie sie vermeiden können.

Trap 1: Zuordnung zu "menschlichem Fehler"

Möglicherweise erinnern Sie sich daran, dass "Pilotfehler" (auch als "menschlicher Fehler" bezeichnet) der Abschluss war, den die ersten Ermittler in der B-17-Geschichte erreicht haben, die wir in der Moduleinführung begonnen haben. Kehren wir zu dieser Geschichte zurück.

In dieser Einführung haben wir angedeutet, dass die von uns gezogenen Schlussfolgerungen für Sie unzufriedenstellend sein könnten. Sie waren definitiv unzufrieden mit Alphonse Chapanis, einem Militärpsychologen, der von der US Air Force gebeten wurde, diese Vorfälle zu untersuchen. Er stellte unter anderem fest, dass diese Unfälle für die B- 17 und eine kleine Menge anderer Flugzeuge einzigartig waren. Es gab Tausende von C-47-Transportflugzeugen in Westeuropa gleichzeitig, aber keine C-47 hatte jemals einen ähnlichen Vorfall erlebt.

So interviewte er Piloten, und basierend auf dem, was er von ihnen gehört hat, ging er und schaute sich die B-17 Cockpits an. Er sah dort zwei Schalter: den Gangschalter und den Klappenschalter. Die Schalter waren etwa 3 Zoll voneinander im Cockpit entfernt. Ihr Betriebsmodus war identisch. Sie waren einfach zu leicht miteinander zu verwechseln, und genau das war in diesen Vorfällen passiert. Wenn Sie gerade ein Flugzeug gelandet haben, werden die Klappen ausgefahren sein, und vor dem Parken fahren Sie sie ein. Und so versuchte Chapanis etwas anderes.

Er fixierte ein kleines Gummirad an dem Schalter für die Gangschaltung und eine harte Drehklappe an dem Schalter für die Klappen, und so passierten keinerlei Unfälle mehr.

Er ist nun als einer der Gründer des Bereichs ergonomie bekannt – die Untersuchung von Designfaktoren in der menschlichen Leistung – und er hatte eine einfache Beobachtung: Das Design des Cockpits könnte die Wahrscheinlichkeit eines menschlichen Fehlers beeinflussen. Dieser Ansatz hat den Entwurf aller modernen Flugzeuge geprägt. Die beiden Schalter in den aktuellen Flugzeugen sind jetzt sehr unterschiedlich, wie es durch das Bundesrecht in den USA vorgeschrieben ist.

Warum haben wir Ihnen diese Geschichte erzählt?

Menschen machen Fehler. Der menschliche Fehler ist jedoch keine Ursache; es ist ein Symptom. Wenn der menschliche Fehler als Grund für einen Fehler gilt, stoppen die Menschen dort, anstatt den Vorfall weiter zu analysieren.

Systemdesign, Organisationskontext und persönlicher Kontext wirken sich alle darauf aus, wann, wie und mit welchen Auswirkungen Personen Fehler machen. "Menschlicher Fehler" ist eine Bezeichnung, die dazu führt, dass Sie die Untersuchung genau im Moment beenden, wenn Sie etwas Interessantes über Ihr System entdecken möchten.

Das Problem mit der Schlussfolgerung des "menschlichen Fehlers" bei Untersuchungen besteht darin, dass dabei oft übersehen wird, dass das, was die Menschen zu jener Zeit taten, für sie sinnvoll war. Fehler sind per Definition nicht bewusst, sodass sie nicht beabsichtigen, einen Fehler zu machen.

Wenn wir "menschliche Fehler" sehen oder hören, ist es ein Signal, das wir tiefer betrachten müssen. Wenn wir lernen wollen, dürfen wir nicht aufhören zu untersuchen, wenn wir einen menschlichen Fehler finden, wie wir das oft tun. Wie die Geschichte der B-17s zeigt, ist genau jenseits des menschlichen Fehlers, wo wir interessante Dinge über unser System lernen.

Trap 2: Kontrafaktische Begründung

Kontrafaktisch bedeutet "im Gegensatz zu Fakten", und kontrafaktisches Denken bezieht sich darauf, eine Geschichte über Ereignisse zu erzählen, die nicht geschehen sind, um die Ereignisse zu erklären, die stattgefunden haben. Dies macht nicht viel Sinn, auch wenn die Leute die Tendenz haben, dies immer zu tun.

Sie können kontrafaktische Aussagen anhand von Schlüsselbegriffen identifizieren.

• Hätte können
• Sollte
• Hätte
• Fehler bei
• Nicht
• Wenn nur

Einige Beispiele für kontrafaktische Aussagen im Zusammenhang mit Überprüfungen nach vorfällen:

"Das Überwachungssystem konnte das Problem nicht erkennen."

"Der Techniker hat die Gültigkeit der Konfiguration nicht überprüft, bevor er sie erlässt."

„Dies könnte in der Canary-Umgebung übernommen worden sein.“

Das Problem mit dieser Art von Begründung in einer Überprüfung nach einem Vorfall besteht darin, dass Sie über Dinge sprechen, die nicht geschehen sind, anstatt die Zeit zu nehmen, um zu verstehen, wie das passiert ist, passiert. Sie lernen nichts von dieser Spekulation.

Trap 3: Normative Sprache

Die normative Sprache impliziert oft, dass es einen "offensichtlich korrekten" Handlungskurs gab, den die Betreiber hätten einschlagen sollen, und bewertet die Aktionen dieser Betreiber mit dem Vorteil der Rückschau.

Normative Sprache kann in der Regel durch Adverben wie "unzureichend", "unerlässig", "schnell" und so weiter identifiziert werden.

Normatives Denken führt Sie dazu, Entscheidungen basierend auf ihren Ergebnissen zu beurteilen. Diese Art des Sprechens ist nicht logisch, da das Ergebnis das einzige Informationsstück ist, das nicht für diejenigen verfügbar war, die die Entscheidungen und Urteile getroffen haben.

Normative Sprache kann auch im gegenteiligen Sinne verwendet werden. Zum Beispiel können die Leute Die Betreiber loben, dass sie "angemessen" gehandelt haben. Aber oft wird dieses Urteil auf Basis von Informationen gefällt, die den betreffenden Personen nicht zur Verfügung standen.

Das Problem mit normativer Sprache ähnelt dem Problem mit kontrafaktischem Denken: Wenn wir Urteile im Nachhinein treffen, indem wir Informationen verwenden, die während des Vorfalls für die beteiligten Menschen nicht verfügbar waren, vernachlässigen wir es zu verstehen, wie die Handlungen der Betreiber zu diesem Zeitpunkt sinnvoll erschienen.

Falle 4: Mechanistisches Denken

Mechanistische Begründung bezieht sich auf das Konzept, dass ein bestimmtes Ergebnis von der Intervention abgeleitet werden kann. Es wird manchmal als das Meddling Kids Syndrom (geprägt von Jessica DeVita) bezeichnet, basierend auf der Prämisse, dass "Unser System hätte gut funktioniert... wenn es nicht für diese einmischungenden Kinder gewesen wäre."

Wenn Sie mechanistisches Denken in Ihrer Überprüfung nach dem Vorfall anwenden, bauen Sie Ihre Schlussfolgerungen auf dem Irrglauben auf, dass die Systeme, mit denen und in denen Sie arbeiten, grundsätzlich korrekt funktionieren und dass der Fehler nicht aufgetreten wäre, wenn nur diese "herumlungernden Kinder" nicht das getan hätten, was sie getan haben.

Das funktioniert jedoch nicht mit Systemen.

Stellen Sie sich zum Veranschaulichen dieses Punkts das folgende Szenario vor: Sie arbeiten an einem Produktionsdienst. Nun wird Ihnen mitgeteilt, dass Sie diesen Dienst nicht berühren oder etwas tun dürfen. Alles außerhalb Ihres Teams läuft wie gehabt weiter: Kunden nutzen den Dienst weiterhin, externe Abhängigkeiten ändern sich weiterhin, und das Internet funktioniert normal.

Sie können jedoch keine Änderungen am Code oder der Konfiguration vornehmen. Keine Bereitstellungen, keine Vorgänge auf Steuerungsebene – nichts.

Glauben Sie, dass Ihr Dienst nach einem Tag noch wie erwartet ausgeführt wird? Nach einer Woche? Nach einem Monat? Nach einem Jahr? Wie lange können Sie realistisch erwarten, dass Ihr Dienst ohne menschliche Eingriffe weiter läuft? In den meisten Fällen wäre dies nicht der Fall.

Diese Gedankenübung führt uns zu einem wichtigen Schluss:

Die menschliche adaptive Kapazität ist notwendig, um unsere Systeme auf dem Laufenden zu halten.

Der einzige Grund, warum Ihre Systeme überhaupt funktionieren, liegt an den Aktionen von Menschen in der Kontrollschleife. Es ist nur durch menschliches Handeln und die Fähigkeit, sich an sich ändernde Umstände anzupassen, die das System weiterhin funktioniert.

Daher ist es irrtümlich zu behaupten, das System hätte "im Grunde funktioniert, wenn es nicht diese sich einmischenden Kinder gegeben hätte." Tatsächlich ist die Zuverlässigkeit Ihres Dienstes nicht unabhängig von den Menschen, die daran beteiligt sind. Stattdessen ist es ein direktes Ergebnis der Arbeit, die der Mensch täglich daran tut.

Das Problem mit mechanistischer Begründung besteht darin, dass es Sie auf einen Weg führt, in dem Sie glauben, dass die Suche nach dem fehlerhaften Menschen gleichbedeutend mit der Suche nach dem Problem ist. Dieser fehlerhafte Mensch hat jedoch improvisiert und sich angepasst, um das System wochen- und monatelang laufen zu lassen. Diese Rolle ist möglicherweise so wichtig, dass sie in Ihrer Incidentanalyse berücksichtigt werden sollte.

Nachdem Sie nun einige Dinge kennen, die sie während einer Überprüfung nach einem Vorfall vermeiden sollten, können wir zur nächsten Einheit wechseln, in der wir einige der hilfreichen Methoden für diese Rezensionen untersuchen.