Am Mittag des 19. Juli hat mein KI-Assistent siebzehn Seiten dieser Website gleichzeitig beschädigt. Um 12:06 Uhr stand der Footer mitten im Text, dahinter Wortfetzen. Eine Stunde später war alles repariert — und die Geschichte gehört erzählt.
Was passiert ist
Die Aufgabe war harmlos: eine kleine Linkzeile „Aus der Werkstatt“ auf allen Unterseiten einfügen. Der Assistent nutzte dafür ein Standard-Werkzeug (sed, ein fünfzig Jahre altes Unix-Programm für Textersetzungen) — und übersah eine Eigenheit: In diesem Werkzeug bedeutet das Zeichen & nicht „und“, sondern „wiederhole hier den gefundenen Suchtreffer“. In unserer Linkzeile steckte ein & — im HTML-Code für den Umlaut in „Prüfstand“.
Die Folge: Auf allen siebzehn Seiten wurde mitten in das Wort „Prüfstand“ der Befehl injiziert, der den Seitenfuß lädt. Jede Seite renderte ihren Footer doppelt, mitten im Inhalt, mit Textresten dahinter. Kein Hacker, kein Serverausfall — ein einzelnes Sonderzeichen.
Wie es auffiel — und wie nicht
Der unbequeme Teil: Die automatische Prüfung des Assistenten hatte grünes Licht gegeben. Sie hatte kontrolliert, ob der neue Text auf den Seiten ankommt — er kam an. Sie hatte nicht kontrolliert, wie die Seite aussieht. Aufgefallen ist der Schaden einem Menschen, beim Draufschauen, per Screenshot. Die Maschine prüfte, was sie geändert hatte; der Mensch sah, was kaputt war.
Warum es in einer Stunde repariert war
Vor der Änderung hatte der Assistent — das ist bei uns Arbeitsregel, keine Kür — von jeder der siebzehn Dateien eine datierte Sicherungskopie angelegt. Die Reparatur bestand aus drei Schritten: alle Dateien aus den Sicherungen wiederherstellen, die Linkzeile mit einem Werkzeug ohne die Sonderzeichen-Falle neu einfügen, und diesmal das Ergebnis auch optisch gegenprüfen: genau ein Footer pro Seite, null Fragmente.
Was wir daraus mitnehmen
- KI-Arbeit braucht Leitplanken, kein Vertrauen. Der Assistent ist schnell und meistens richtig — „meistens“ ist bei siebzehn Seiten gleichzeitig genau das Problem. Sicherungskopien vor jeder Änderung sind der Unterschied zwischen einer Stunde Reparatur und einem Wochenende Rekonstruktion.
- Prüfen heißt: das Ergebnis prüfen, nicht die Absicht. „Der Text ist drin“ und „die Seite funktioniert“ sind zwei verschiedene Kontrollen. Automatisierte Änderungen brauchen eine Sichtprüfung des Endzustands — bei uns heißt das seither: nach jedem Massen-Eingriff ein Blick auf die gerenderte Seite, nicht nur in den Code.
- Der Fehler gehört dokumentiert, nicht versteckt. Fehlerfreie KI-Prozesse haben wir jedenfalls noch keine erlebt — unsere eigenen eingeschlossen, wie dieser Mittag zeigte. Die Frage an jeden Dienstleister (und an uns selbst) ist deshalb nicht, ob Fehler passieren, sondern ob Sicherung, Erkennung und Rückweg existieren, bevor der nächste Fehler passiert.
Was das mit Ihren Projekten zu tun hat
Genau diese drei Fragen — Wo ist die Sicherung? Wer prüft das Ergebnis? Wie sieht der Rückweg aus? — gehören bei uns zur Prüfung, bevor ein KI-Vorhaben live geht. Nicht aus Vorsicht als Selbstzweck, sondern weil dieser 19. Juli zeigte, wie schnell ein einzelnes Zeichen siebzehn Seiten lahmlegt. Wie so eine Prüfung aussieht, steht unter Der Prüfstand; die Arbeitsweise mit Messungen und offenen Zahlen im Befunde-Archiv.