Referenz-Story: Fünf KI-Agenten, eine Vorstandsdeadline – und warum Compliance-by-Design den Termin gerettet hat

Eine große gesetzliche Krankenkasse bearbeitet jedes Jahr hunderttausende Kundenanliegen, überwiegend manuell. Die Prozesse skalieren nicht, der Fachkräftemangel verschärft die Lage. Deshalb wurde ein Programm aufgesetzt, das das Anliegenmanagement mit KI-Agenten automatisieren soll: Agenten, die eingehende Anliegen verstehen, vorqualifizieren und - wo vertretbar - eigenständig bearbeiten. Achtstelliges Programmbudget, drei beteiligte Organisationen.

Von Vorstandsebene kam dazu eine klare Bedingung: Bevor das Programmbudget freigegeben wird, muss zu einem festen Termin ein funktionierender Nachweis stehen, dass dieser Ansatz in der realen Systemlandschaft der Kasse trägt - kein Foliensatz, sondern ein vorführbarer Proof of Concept mit echten Fällen.

Genau diesen PoC haben wir 2026 begleitet - als Programm-Manager und KI-Architekt zwischen Auftraggeber, IT-Dienstleister und Implementierungspartner. Der Termin wurde gehalten. Rückblickend lag das weniger am Tempo als an drei Entscheidungen, die früh gefallen sind.

Entscheidung 1: Aus „wir machen was mit KI-Agenten“ wurde ein messbarer Scope

Das Vorhaben startete, wie viele KI-Initiativen starten: große Idee, vager Auftrag. Die erste Arbeit war deshalb erstmal keine technische, sondern eine Schnitt-Entscheidung: fünf spezialisierte Agenten mit klar beschriebenen Fähigkeiten, Datenflüssen und Erfolgskriterien - und eine ebenso klare Liste dessen, was der PoC nicht leisten würde.

Das klingt banal, war aber der wichtigste Hebel für die Deadline. Ein PoC ohne Scope-Schnitt wächst mit jeder Abstimmungsrunde, und bei drei beteiligten Organisationen gibt es davon viele. Mit dem Steckbrief-Format - Zweck, Autonomiegrad, Trigger, Ein- und Ausgaben, Eskalationspfad pro Agent - hatte jede Diskussion einen Rahmen. Wer dem Scope nicht früh einen fest gesteckten Rahmen gibt, hat sich am Ende leider meist auch gegen eine volle und zufriedenstellende Umsetzung zur Deadline entschieden.

Entscheidung 2: Autonomie wurde pro Agent entschieden, nicht pauschal

„Wie autonom sollte der Agent entscheiden dürfen?“ ist die Frage, an der KI-Vorhaben im Sozialdaten-Umfeld hängen bleiben. Zu Recht, übrigens. Wir haben sie nicht pauschal beantwortet, sondern pro Agent: von teilautonomer Vorarbeit mit menschlicher Freigabe bis zur eigenständigen Bearbeitung klar abgegrenzter Standardfälle - jeweils mit einem definierten Punkt, an dem der Fall zurück an einen Menschen geht.

Der Effekt: Die kritischen Diskussionen mit Datenschutz und Fachbereich ließen sich führen, ohne das Gesamtvorhaben infrage zu stellen. Ein einzelner Agent konnte konservativer eingestellt werden, ohne dass die anderen vier warten mussten. Pauschale Autonomie-Entscheidungen - in beide Richtungen - halte ich inzwischen für einen der häufigsten Konstruktionsfehler in solchen Programmen.

Entscheidung 3: Compliance war Architektur-Anforderung, kein Prüfschritt am Ende

Sozialdaten nach SGB V, DSGVO, die Risikologik des EU AI Act: Im GKV-Umfeld ist das keine Kür, sondern die Bedingung, unter der ein System überhaupt produktiv gehen darf. Wir haben diese Anforderungen von Tag 1 wie Architektur-Anforderungen behandelt: die Datenflüsse so entworfen, dass Sozialdaten dort bleiben, wo sie hingehören, Nachvollziehbarkeit und Eskalationspfade direkt in die Agenten-Steckbriefe geschrieben statt in ein späteres Konzeptpapier - und die Klärungen mit den Datenschutz-Verantwortlichen parallel zur Implementierung geführt.

Das zieht Aufwand nach vorn, und nicht jede dieser Klärungen fühlte sich im Moment dringend an. Ob am Ende alles rechtzeitig zusammenkommt, war übrigens bis kurz vor Schluss nicht ausgemacht - Budget- und Kapazitätsengpässe gab es genug. Aber am Stichtag stand ein vorführbarer PoC, dem niemand mehr die Grundsatzfrage stellen musste. Nachträglich eingebaute Compliance kostet in meiner Erfahrung doppelt: einmal der Umbau, einmal die Zeit, in der das System nicht produktiv gehen darf.

Was ich daraus mitnehme

Der Abstand zwischen einem beeindruckenden KI-Piloten und einem produktiven System ist selten ein Technologie-Gap, sondern vor allem ein Organisations- und Architektur-Gap: Scope, Verantwortlichkeiten, Autonomiegrenzen, Datenflüsse. Die Teams, die diese Fragen früh und konkret beantworten, bauen vielleicht nicht die spektakulärsten Demos. Dafür erreichen ihre Systeme nachher eher den Regelbetrieb.

Und noch etwas, das mich selbst überrascht hat: Eine harte Deadline ist unangenehm, aber sie zwingt zu genau den Entscheidungen, die sonst monatelang offen bleiben. Ohne die frühen Festlegungen wäre der Termin aus meiner Sicht nicht zu halten gewesen - so unbequem sie im jeweiligen Moment waren.

Weiterführend aus dem Blog: Autonomiegrade von KI-Agenten und KI-Governance als Wettbewerbsvorteil.

Planen Sie ein KI-Agenten-Vorhaben in einem regulierten Umfeld? Unser KI-Agenten-Programm begleitet genau diesen Weg - vom Scope-Schnitt über die Agenten-Architektur bis zum Go/No-Go auf belastbarer Basis. Oder direkt: Erstgespräch vereinbaren.