Digitale Systeme entscheiden inzwischen über Kreditwürdigkeit, Bewerbungen, Wartezeiten und Leistungsansprüche. Gleichzeitig wächst die Skepsis gegenüber digitalen Entscheidungen – bei Kundinnen und Kunden, Beschäftigten und in der öffentlichen Debatte.
Die Gründe dafür liegen nicht nur in der Technik.
In der Beratungspraxis zeigt sich immer wieder ein erstaunlich einfacher Zusammenhang: Organisationen haben häufig kein technisches Problem, sondern ein Nachvollziehbarkeitsproblem. Sie können nicht mehr genau sagen, warum ein Prozess so funktioniert, wie er funktioniert, wer ihn verantwortet oder wann die zugrunde liegenden Regeln zuletzt überprüft wurden.
Damit beginnt Erklärbarkeit an einer Stelle, die in der Diskussion über digitale Systeme und künstliche Intelligenz häufig unterschätzt wird: bei der Dokumentation und Pflege organisationalen Wissens.
Was hat Vertrauen mit Dokumentation zu tun?
Vertrauen in digitale Systeme entsteht auch durch Transparenz. Transparenz setzt wiederum voraus, dass eine Organisation erklären kann, wie etwas funktioniert und warum es so geregelt ist.
Und erklären kann nur, wer selbst nachvollziehen kann.
Damit wird Dokumentation zur Voraussetzung für organisationale Nachvollziehbarkeit. Sie ist nicht das Ziel. Aber ohne sie bleibt eine Erklärung häufig eine Erinnerungsleistung einzelner Personen.
Genau deshalb spielt Dokumentation auch in den einschlägigen Regelwerken eine zentrale Rolle. Die Rechenschaftspflicht der Datenschutz-Grundverordnung und das Verzeichnis von Verarbeitungstätigkeiten verfolgen andere Zwecke als die technischen Dokumentations- und Aufzeichnungspflichten der KI-Verordnung. Gemeinsam ist ihnen jedoch eine grundlegende Governance-Logik: Organisationen müssen – abhängig vom jeweiligen Regelwerk – nachvollziehbar machen können, was sie tun, wie sie es tun und warum.
Dokumentation ist damit nicht nur Nachweis für eine Prüfung. Sie ist ein Bestandteil funktionierender Governance.
Wer Dokumentation ausschließlich als Nachweispflicht führt, baut sie für Prüfungen. Wer sie als Teil der eigenen Nachvollziehbarkeit versteht, baut sie für den Alltag – und erfüllt die Nachweispflicht dabei nicht automatisch, aber wesentlich besser.
Woran scheitert Erklärbarkeit in der Praxis?
Vier Muster begegnen uns dabei immer wieder – quer durch Branchen und Organisationsgrößen.
Unvollständige Dokumentation.
Der Prozess ist beschrieben, die entscheidenden Zwischenschritte stehen aber nirgends. Sie fehlen nicht unbedingt aus Nachlässigkeit. Für die Person, die den Prozess täglich ausführt, sind sie schlicht selbstverständlich.
Genau diese selbstverständlichen Schritte sind jedoch häufig das eigentliche Prozesswissen.
Prozesse ohne klaren Eigentümer.
Geschrieben wurden sie meist in einem Projekt. Nach dem Go-live ist das Projekt aufgelöst, das Dokument bleibt. Ab diesem Zeitpunkt ändert es niemand mehr – nicht aus Desinteresse, sondern weil unklar ist, wer dafür verantwortlich und entscheidungsbefugt ist.
Ein Prozess ohne benannte verantwortliche Person altert nicht langsam. Er bleibt exakt so stehen, wie die Organisation zu dem Zeitpunkt aussah, als er erstellt wurde.
Veraltete Richtlinien.
Formal in Kraft, inhaltlich überholt.
Wer sich daran hält, macht etwas Falsches korrekt. Wer sich nicht daran hält, lernt nebenbei, dass Richtlinien offenbar optional sind.
Der zweite Schaden ist der teurere, weil er sich nicht mit einem einfachen Update reparieren lässt.
Reviewzyklen ohne konkreten Termin.
„Überprüfung: jährlich“ steht im Dokument, das Datumsfeld daneben bleibt leer.
Damit wird Prozesspflege zur Absichtserklärung.
In der Praxis scheitert sie selten am Konzept. Sie scheitert daran, dass sie in niemandes Arbeitswoche vorkommt.
Warum fallen diese Lücken so spät auf?
Weil im Normalbetrieb niemand danach fragt.
Die Menschen, die einen Prozess täglich ausführen, kennen ihn. Solange sie da sind, funktioniert vieles.
Sichtbar werden die Lücken meist in drei Situationen: bei einer Vertretung, bei einer Prüfung oder bei einer Nachfrage von außen.
Der ehrlichste Test ist die Vertretung.
In einer Prüfung sitzt jemand daneben und erklärt, wie etwas gemeint ist. In der Krankheits- oder Urlaubsvertretung muss die Dokumentation dagegen allein tragen.
Wenn das nicht funktioniert, hat die Organisation nicht nur ein Dokumentationsproblem. Sie hat ein Wissens- und Governance-Problem.
Dabei ist eine weitere Unterscheidung wichtig: Interne Nachvollziehbarkeit und externe Transparenz sind nicht dasselbe.
Erst wenn eine Organisation intern nachvollziehen kann, wie sie arbeitet, stellt sich überhaupt die Frage, was davon nach außen kommuniziert werden sollte. Diese Entscheidung kann durch Rechte Dritter, Sicherheitsinteressen, laufende Verfahren oder den Schutz personenbezogener Daten begrenzt sein.
Die interne Nachvollziehbarkeit bleibt davon unberührt.
Und sie lässt sich nicht kurzfristig herstellen, wenn die Frage von außen bereits gestellt wurde.
Wie lassen sich Prozesse und Dokumentation dauerhaft pflegen?
Die Lösung ist weniger kompliziert, als es auf den ersten Blick erscheint.
Entscheidend ist nicht, möglichst viel zu dokumentieren. Entscheidend ist, das Richtige nachvollziehbar zu dokumentieren und aktuell zu halten.
Ein risikoorientierter Ansatz kann dabei so aussehen:
1. Verantwortung benennen.
Tragen Sie eine konkrete Person als Verantwortliche ein, nicht nur eine Abteilung. Abteilungen haben viele Aufgaben. Eine verantwortliche Person hat eine konkrete Aufgabe.
2. Einen Termin festlegen.
Ersetzen Sie „Überprüfung: jährlich“ durch ein konkretes Datum und einen Kalendereintrag bei der verantwortlichen Person.
Ein Reviewzyklus ohne Termin ist keine Pflege.
3. Den Bestand entrümpeln.
Setzen Sie überholte Richtlinien und Prozessbeschreibungen außer Kraft und dokumentieren Sie die Änderung. Ein schlanker, gültiger Bestand ist mehr wert als ein umfangreiches Archiv widersprüchlicher Dokumente.
4. Für Anwenderinnen und Anwender schreiben.
Verwenden Sie klare Sprache und konkrete Beispiele. So viel wie nötig, so wenig wie möglich.
Wenn sich eine Regel nicht an einem konkreten Beispiel erklären lässt, lohnt sich die Frage, ob die Regel selbst klar genug ist.
5. Die Auffindbarkeit testen.
Geben Sie einer neuen Kollegin eine konkrete Frage und beobachten Sie, ob sie die richtige Antwort allein findet.
Scheitert der Test, liegt das Problem häufig nicht am fehlenden Inhalt, sondern an der Struktur.
6. Änderungen nachvollziehbar halten.
Dokumentieren Sie, wer wann was geändert hat und aus welchem Anlass.
So entsteht aus einem statischen Dokument ein nachvollziehbarer Wissensbestand.
Der entscheidende Punkt ist dabei nicht die Dokumentation einzelner Dateien. Moderne Governance muss auch Prozesse, Rollen, Entscheidungen, Versionen, Freigaben und – bei digitalen Systemen – gegebenenfalls technische Aufzeichnungen nachvollziehbar machen.
Was bei KI-Systemen zusätzlich gilt
Bei KI-Systemen wird diese Frage besonders relevant.
Die KI-Verordnung verlangt für Hochrisiko-KI unter anderem eine aktuelle technische Dokumentation. Diese muss so ausgestaltet sein, dass nachvollziehbar ist, wie das System die einschlägigen Anforderungen erfüllt und die zuständigen Stellen die Compliance beurteilen können. Außerdem müssen Hochrisiko-KI-Systeme technisch die automatische Aufzeichnung relevanter Ereignisse während ihres Lebenszyklus ermöglichen. Die Verordnung spricht ausdrücklich von der Rückverfolgbarkeit des Funktionierens des Systems.
Damit wird ein Prinzip sichtbar, das über klassische Dokumentation hinausgeht:
Ein digitales System muss nicht nur funktionieren. Seine Funktionsweise und wesentliche Veränderungen müssen – abhängig von System und Rolle – auch nachvollziehbar bleiben.
Das betrifft nicht nur technische Informationen. Für eine belastbare Governance können auch Zweckbestimmung, Verantwortlichkeiten, Änderungen, Risikobewertungen, Freigaben, menschliche Aufsicht und relevante Betriebsdaten eine Rolle spielen.
Gerade deshalb sollte KI-Governance nicht als isoliertes Projekt der IT verstanden werden. Sie berührt Prozesse, Verantwortlichkeiten, Datenschutz, Risikomanagement, Compliance und interne Kontrolle.
Der regulatorische Rahmen entwickelt sich dabei weiter. Der AI Omnibus ist am 27. Juli 2026 in Kraft getreten und hat unter anderem die Zeitpläne für bestimmte Hochrisiko-KI-Systeme angepasst. Die konkrete Anwendung einzelner Anforderungen sollte deshalb immer anhand des aktuellen Rechtsstands geprüft werden.
Die grundsätzliche Governance-Frage bleibt jedoch bestehen:
Kann eine Organisation auch später noch nachvollziehen, wie ein KI-System eingesetzt wurde, wer dafür verantwortlich war und auf welcher Grundlage es betrieben oder verändert wurde?
Diese Fähigkeit entsteht nicht im Anlassfall. Sie entsteht in der laufenden Pflege – oder gar nicht.
Was lässt sich von Estland lernen?
Estland zeigt, dass Vertrauen in digitale Verwaltung nicht allein durch Kommunikation entsteht.
Ein Beispiel ist die staatliche Infrastruktur für den behördenübergreifenden Datenaustausch über X-Road, die seit 2001 eingesetzt wird. Ergänzt wird sie durch Mechanismen, mit denen Bürgerinnen und Bürger nachvollziehen können, wie auf ihre Daten zugegriffen wurde. Der estnische Data Tracker macht solche Zugriffe über das staatliche Portal sichtbar.
Das ist ein bemerkenswert einfaches Prinzip:
Nachvollziehbarkeit wird zum Normalzustand – nicht zum Sonderfall, den man erst bei einer Beschwerde oder Prüfung herstellen muss.
Natürlich lässt sich ein über Jahrzehnte gewachsenes staatliches digitales Ökosystem nicht auf Knopfdruck in einem Unternehmen oder einer Behörde kopieren.
Übertragbar ist deshalb nicht die technische Lösung.
Übertragbar ist das Prinzip.
Eine Organisation kann entscheiden, ob Nachvollziehbarkeit von Anfang an Bestandteil ihrer Prozesse ist – oder ob sie versucht, sie nachträglich zu rekonstruieren.
Die zweite Variante wird fast immer teurer.
Fazit: Vertrauen entsteht nicht allein durch Kommunikation
Vertrauen in digitale Systeme lässt sich nicht allein durch Kommunikation herstellen.
Es entsteht auch dadurch, dass eine Organisation erklären kann, wie sie arbeitet, warum sie so arbeitet und wer dafür Verantwortung trägt.
Das setzt kein perfektes Dokumentationssystem voraus.
Es setzt voraus, dass Wissen nicht ausschließlich in den Köpfen einzelner Personen steckt.
Dokumentation und Prozesspflege sind deshalb keine Verwaltungsaufgaben am Rand. Sie sind ein Bestandteil von Integrity und Governance – und eine Voraussetzung dafür, dass digitale Systeme dauerhaft verantwortungsvoll eingesetzt werden können.
Der Aufwand dafür ist überschaubar, wenn er regelmäßig anfällt.
Er wird groß, wenn er über Jahre aufgeschoben wurde.
Die vielleicht wichtigste Frage lautet deshalb nicht:
„Sind unsere Prozesse dokumentiert?“
Sondern:
„Könnte eine andere Person morgen übernehmen – und verstehen, warum wir es so machen?“
Wenn die Antwort darauf „nein“ lautet, ist das ein guter Zeitpunkt, mit der Prozesspflege zu beginnen.