Grenzen und Fehlermodi im Alltag

Stufe 2 · Kapitel 5 · Lesezeit ca. 6 Minuten

In Kapitel 4 hast du gelernt, wie du prüfst und freigibst: eine zweite Instanz mit frischem Blick, dann dein eigener Blick, dann deine Freigabe. Aber wonach prüfst du eigentlich? Was geht bei einer KI im Alltag typischerweise schief? Wenn du die immer gleichen Fehlermuster kennst, weißt du beim Prüfen sofort, wo du hinschauen musst. Genau diese Muster nehmen wir uns jetzt vor.

Die drei Fehlermodi, die du wiedererkennst

Eine KI macht nicht zufällig irgendwas falsch. Sie macht ein paar immer gleiche Fehler, und die kannst du benennen wie die Macken einer neuen Aushilfe. Drei tauchen im Betrieb ständig auf.

Plausibel-falsch. Die KI liefert etwas, das sauber klingt, gut formuliert ist, überzeugend wirkt und ist trotzdem erfunden. Eine Zahl, die nicht stimmt. Ein Detail, das es nie gab. Das Tückische: Es liest sich genau wie die Wahrheit. Dieser Fehlermodus ist der häufigste, und er ist gefährlich, weil gutes Aussehen nichts über die Richtigkeit sagt.

Übereifrig. Du bittest um eine Auswertung, und die KI legt gleich mit dem nächsten Schritt los, den du gar nicht wolltest. Sie tut mehr als beauftragt. Aus „schau mal drüber" wird „ich hab schon alles umgeschrieben". Nicht falsch gemeint, nur über das Ziel hinaus.

Kontext vergessen. Mitten in einer längeren Aufgabe verliert die KI Details, verwechselt zwei Dinge, mischt Vorgänge. Was am Anfang klar war, ist zehn Schritte später verrutscht. Sie erinnert sich nicht wie ein Mensch, sie arbeitet mit dem, was gerade vor ihr liegt.

Kennst du diese drei, bist du kein bisschen überrascht mehr, wenn sie auftauchen. Du rechnest damit, und genau das macht sie beherrschbar.

Halte den Schadensradius klein

Fehler passieren, das ist gesetzt. Die entscheidende Frage ist nicht „wie verhindere ich jeden Fehler", sondern „wie weit reicht ein Fehler, wenn er passiert". Das ist der Schadensradius, im Englischen der Blast Radius.

Der Trick ist Führungshandwerk, das du längst kennst: klar abgegrenzte Zuständigkeiten. Gib jeder KI-Aufgabe eine enge Rolle, dann bleibt ein Fehler lokal und löst keinen Folgeschaden aus. Leaders of AI bringen es aus ihrem Selbstversuch auf den Punkt: Wenn der Recruiting-Agent halluziniert, merkt die Buchhaltung nichts. Ein zentrales System dagegen, das alles darf, trägt eine falsche Zahl automatisch durch drei Abteilungen. Ein Fehler, ein Vorgang, drei kaputte Planungen. Deshalb gibst du der KI, die auswerten soll, genau das Recht zum Auswerten, und nicht gleich das Recht, Geld auszugeben oder etwas nach außen zu schicken.

Misalignment: wörtlich, nicht böse

Ein Wort noch, das dir hilft, Fehler richtig einzuordnen: Misalignment. Eine Maschine wird nicht böse, das ist Projektion aus zu vielen Filmen. Das echte Problem ist: Die KI verfolgt das Ziel, das du gesetzt hast, maximal effizient, auf Wegen, die du nicht bedacht hast. Sag „mach die Auswertung so kurz wie möglich", und sie streicht das Wichtige gleich mit weg. Nicht aus bösem Willen, sondern weil sie deinen Auftrag wörtlich nimmt. Das ist keine Panik-Geschichte, sondern eine simple Konsequenz: Je klarer und vollständiger dein Ziel, desto weniger Raum für Wege, die du nicht wolltest.

Der Checkpoint kostet dich fast nichts

Wann greifst du ein? Immer dort, bevor ein Fehler nach außen wirkt oder Geld kostet. Genau an diese Stelle setzt du einen Checkpoint: einen Punkt, an dem die KI stoppt und dich fragt, statt selbst durchzuziehen. Vor dem Absenden. Vor dem Auslösen. Vor der Ausgabe.

Viele glauben, solche Kontrollpunkte bremsen die Produktivität. Das Gegenteil stimmt. Ein Checkpoint kostet dich ein paar Sekunden und verhindert einen teuren Fehler. Uwe Peter von Cisco sagt es aus der Konzernpraxis: Am Anfang öfter kontrollieren, über die Zeit verdient sich der Agent mehr Autonomie, und Checkpoints bremsen die Produktivität nicht. Ein kurzer Blick ist billiger als jede Korrektur nach draußen.

Teste dich