9.3
9.3 Checklisten
Einsatzbereite Schnellreferenz-Checklisten. Eine sollte in den eigenen Prozess kopiert und angepasst werden; es geht um Abdeckung, nicht exakten Wortlaut.
Checkliste für neue Metrik-Reviews (bevor eine Metrik zu einem Dashboard hinzugefügt wird)
- Die Metrik hat eine benannte Entscheidung, die sie informiert (Thema 1.1)
- Die Metrik ist schriftlich als diagnostisch oder bewertend klassifiziert (Thema 1.1)
- Falls incentiviert, ist gleichzeitig eine Leitplanken-Metrik definiert (Thema 1.2)
- Der Manipulationsvektor wurde benannt: wie würde ein rationales Team diese Zahl gut aussehen lassen, ohne das echte Ergebnis zu verbessern (Thema 1.2)
- Die Metrik ist als Input, Output, oder Ergebnis klassifiziert (Thema 1.3)
- Die Metrik hat eine benannte Eigentümerin oder einen benannten Eigentümer und ein dokumentiertes Quellsystem und eine Erhebungsmethode (Themen 1.4, 1.5)
- Die Metrik wird einen Median oder ein Perzentil nutzen, keinen Durchschnitt, falls die zugrunde liegenden Daten verzerrt sind (Thema 1.6)
- Die Metrik wird nie für individuelle Bewertung genutzt, oder diese Nutzung ist separat und explizit offengelegt (Thema 1.1)
Dashboard-Einführungs-Checkliste
- Das Dashboard hat eine benannte, spezifische Zielgruppe und Entscheidung (Thema 8.1)
- Jede incentivierte Metrik erscheint auf derselben Ansicht wie ihre Leitplanke (Themen 1.2, 8.1)
- Achsen beginnen bei null, sofern nicht eine erklärte, sichtbare Ausnahme dokumentiert ist (Thema 1.6)
- Trend über die Zeit wird gezeigt, keine einzelne Momentaufnahme (Thema 1.6)
- Das Dashboard hat eine benannte Eigentümerin oder einen benannten Eigentümer und einen Überprüfungsrhythmus (Thema 1.4)
- Eine sichtbare Erklärung gibt an, wofür das Dashboard nicht ist, falls relevant (Thema 1.1)
- Datenquellen haben grundlegende Gesundheitsprüfungen, sodass eine defekte Pipeline nicht still als aktuell erscheint (Thema 1.5)
Metrikprogramm-Rollout-Checkliste
- Zweck und explizite Nicht-Ziele werden vor der Einführung kommuniziert, nicht reaktiv (Thema 8.3)
- Die gemessenen Personen waren in die Metrikauswahl einbezogen (Thema 8.3)
- Das Programm beginnt im rein-diagnostischen Modus, mit einer verpflichteten Mindest-Bewährungsperiode (Thema 8.3)
- Ein schnelles, sichtbares Reaktionsprotokoll existiert für jeden zukünftigen Missbrauchsvorfall (Thema 8.3)
- Ein Pilotteam wurde ausgewählt, das echt freiwillig war, keines, das verpflichtet wurde (Thema 8.5)
- Grundlegende Governance (Charter, Eigentümerschaft, diagnostische Richtlinie) ist vorhanden, bevor Instrumentierung beginnt (Themen 1.4, 8.5)
Vorfall- und Post-Mortem-Checkliste
- Das Post-Mortem untersucht das System, nicht die Einzelperson (Thema 6.2)
- Schweregrad wurde gegen dokumentierte, standardisierte Kriterien klassifiziert (Thema 6.2)
- Erkennungs-, Bestätigungs-, und Lösungszeiten werden separat aufgezeichnet (Thema 6.2)
- Handlungspunkte sind spezifisch, zugewiesen, und bis zum Abschluss verfolgt (Thema 6.2)
- Das Post-Mortem wird ohne Furcht vor individueller Konsequenz geteilt (Themen 6.2, 8.3)
Metrik-Audit-Checkliste für das KI-Zeitalter
- Jede Dashboard-Metrik wurde gegen folgendes getestet: „würde ein Team, das starke KI-Unterstützung nutzt, aber nicht mehr echten Wert produziert, hier eine verbesserte Ablesung zeigen” (Thema 7.1)
- Änderungsfehlerrate und Fehlerrate werden zusammen mit jedem Anstieg KI-unterstützter Deployment-Frequenz oder Commit-Volumen überprüft (Thema 7.1)
- Review-Kapazität und -Tiefe werden überwacht, während sich KI-generiertes Codevolumen ändert (Thema 7.1)
- Entwichene Fehler werden nach KI-Unterstützungsgrad markiert, um zu testen, statt anzunehmen, ob die historische Fehlerraten-Beziehung noch gilt (Themen 7.1, 7.3)
- Erkennungsmethoden, resistent gegen „sieht korrekt aus”-Fehler (Mutationstests, eigenschaftsbasierte Tests), sind für KI-lastige Codepfade vorhanden (Thema 7.3)
- Das Metrik-Charter wurde explizit für diesen Wandel erneut betrachtet und aktualisiert, nicht ungeprüft driften gelassen (Themen 1.4, 7.1)
Metrikprogramm-Audit-Checkliste (jährlich)
- Jede Metrik hat noch eine benannte Eigentümerin oder einen benannten Eigentümer (Thema 1.4)
- Mindestens eine Metrik wurde im letzten Zyklus ausgemustert, falls sie ihren Platz nicht mehr verdiente (Thema 1.1)
- Die Fünf-Dimensionen-Reifebewertung wurde ehrlich durchgeführt, nach Minimum bewertet, nicht Durchschnitt (Thema 8.4)
- Keine Metrik ist ohne explizite, offengelegte Entscheidung von diagnostischer zu bewertender Nutzung gedriftet (Thema 1.1)
- Definitionen wurden stichprobenartig gegen tatsächliche Instrumentierung auf Drift geprüft (Themen 1.2, 2.4, 5.1, 6.2, 6.4)
- Das Ergebnis-zu-Output-Verhältnis auf primären Dashboards wurde berechnet und überprüft (Thema 7.4)