Legen Sie Regeln und menschliche Kontrollen fest
Legen Sie fest, was das System tut und wann es stoppt
Eine Automatisierung braucht eine klare Regel für den Normalfall und eine Anweisung für den Umgang mit Unsicherheit. Notieren Sie den Auslöser, die Bedingungen, das Ergebnis und die Situationen, in denen der Ablauf stoppt oder eine Überprüfung anfordert. Vermeiden Sie Regeln, die stillschweigend fortfahren, wenn erforderliche Daten fehlen.
Bestimmen Sie eine verantwortliche Person für den Prozess. Es muss klar sein, wer die Ergebnisse überwacht, wer auf eine Benachrichtigung reagiert und wer die Automatisierung pausieren kann. Bei einer Aufgabe mit geringem Risiko kann es ausreichen, regelmäßig eine Stichprobe zu prüfen. Bei einer Zahlung, dem Versand sensibler Daten oder einer Entscheidung mit weitreichenden Folgen sollten Sie eine menschliche Freigabe vor Abschluss in Betracht ziehen. Eine Kontrolle sollte nicht nur aus einer weiteren Schaltfläche bestehen, die Menschen automatisch anklicken. Es muss klar sein, was sie freigeben.
Bereiten Sie im Voraus vor, wie Sie zum ursprünglichen Ablauf zurückkehren können. Prüfen Sie, ob Sie einen fehlerhaften Datensatz korrigieren, eine Nachricht zurückziehen oder die Automatisierung abschalten können, ohne wichtige Daten zu verlieren. Eine Benachrichtigung sollte erklären, was passiert ist und welcher Schritt nötig ist. Wenn der Test viele Fälle aufdeckt, die manuell beurteilt werden müssen, ist das kein Scheitern – möglicherweise haben Sie die Grenze gefunden, über die hinaus nicht automatisiert werden sollte. Klare Regeln helfen den Beteiligten zu erkennen, wann sie sich auf die Routine verlassen können und wann sie selbst entscheiden müssen.
Weisen Sie die menschliche Kontrolle einer Person zu, die versteht, was geprüft wird, und das Ergebnis ändern kann. Wenn jemand jede Benachrichtigung nur bestätigt, ohne Zeit für eine Prüfung zu haben, ist die Kontrolle wirkungslos.