Wo sich KI-Sicherheit im Unternehmen wirklich entscheidet

Kurzfassung. Co-Creation mit KI ist bei E-Mails, Präsentationen, Strategiepapieren zum Normalfall geworden. Ein Gremium entscheidet, ob ein Agent E-Mails verschicken darf. Governance muss als Vertrag in Architektur und Code stehen, nicht als Grundsatzdokument, denn ein Agent tut, wozu ihn seine Zugriffsrechte in die Lage versetzen. Verantwortung wird zwischen Mensch und System geteilt – Voraussetzung für die European AI Wave, keine Bremse.

Ich schreibe an einem Fachkonzept. Die KI liefert den ersten Absatz, ich korrigiere die Richtung, sie liefert den nächsten. Nach einer halben Stunde steht ein Dokument, das ich mit meinem Namen verantworte, obwohl ich vielleicht ein Drittel der Sätze selbst formuliert habe. So arbeite ich inzwischen an E-Mails, Präsentationen, Strategiepapieren. Co-Creation ist der Normalfall geworden, nicht die Ausnahme.

Am Tag darauf sitze ich in einem Gremium. Es entscheidet, ob ein Agent E-Mails verschicken darf – eine Anfrage, eine Prüfung, ein Termin, wie im Bürgeramt. Zwei Räume, zwei Geschwindigkeiten. Im einen hat die KI längst geschrieben, bevor ich den Gedanken zu Ende gebracht habe. Im anderen wartet ein einzelner Agent auf seinen Termin.

Gestern hat ein Kollege von mir, Alois Krtil, CEO vom Artificial Intelligence Center Hamburg, live im Fernsehen mehr Investition in AI Safety, in Evaluation und in unabhängige Aufsicht gefordert.¹ Er sprach von internationalen Standards und von Multi-Stakeholder-Governance und vertrat eine These, der ich zustimme: Sicherheit und digitale Souveränität schließen sich nicht aus. Am Ende stand sein Bild der European AI Wave – eigene Infrastruktur, eigenes Talent, eigene Rechenkapazität, ein offenes Innovationsökosystem.

Ich stimme ihm zu. Was ich ergänzen will, ist eine andere Ebene: nicht die der Standards und Board-Beschlüsse, sondern die der Plattform. Was in einem Unternehmen tatsächlich passiert, entscheidet sich dort – in Zugriffsrechten, in Architektur, in den Regeln, die ein Agent zur Laufzeit tatsächlich einhält.

Der Grund ist unbequem: Eine Governance-Richtlinie, die als PDF im Intranet liegt, erreicht den Agenten zur Laufzeit nicht. Ein Agent liest kein Grundsatzdokument, bevor er eine E-Mail verschickt. Er tut, wozu ihn seine Zugriffsrechte technisch in die Lage versetzen. Wenn die Rechte zu weit gefasst sind, hilft keine Unterschrift im Gremium. Governance muss deshalb als Vertrag in Architektur und Code stehen – in abgeschotteten Umgebungen², in geprüften Freigabestufen, in Bewertungsschritten, die vor jeder Ausführung laufen, nicht als Dokument, das jemand einmal gelesen hat.

Und genau hier verlaufen sich viele Unternehmen. Statt Leitplanken in die Plattform zu bauen, diskutieren Gremien, ob jeder einzelne Agent, der eine E-Mail schreiben kann, selbst durch den Ausschuss muss – ein Termin im Bürgeramt für jede neue Fähigkeit. Das bindet Zeit, ohne dass am Ende mehr Nachvollziehbarkeit oder Prüfbarkeit entsteht. Autonome Agenten sind auf diese Industrie aktuell nicht vorbereitet – ja, ich meine es so herum: nicht die Agenten sind das Risiko, sondern dass zu wenig an Verträgen und Verhaltensregeln gearbeitet wird, damit sie nicht eigene Wege gehen.

Diese Beobachtung wiederholt sich für mich über mehrere Häuser hinweg, mit insgesamt mehreren Hundert Entwicklerinnen und Entwicklern: Software entsteht zunehmend mit KI-Unterstützung, aber die Frage aus dem Anforderungsmanagement bleibt ungelöst. Wer verantwortet eine Codezeile, die eine KI vorgeschlagen hat, wenn niemand sie noch einmal gegengelesen hat? Sicherheit und Governance müssen deshalb Teil der Plattform sein, auf der Entwicklerinnen und Entwickler arbeiten, nicht ein zusätzliches Dokument neben ihr.

Meine Vermutung: Verantwortung für Software wird in den kommenden Jahren stärker zwischen Mensch und System geteilt, nicht weil Maschinen mehr Vertrauen verdienen, sondern weil Organisationen lernen, Verantwortung in überprüfbare Schritte zu zerlegen. Das ist eine Wette, keine Tatsache, und sie hält nur, wenn die technische Basis mitzieht.

Dazu kommt ein wirtschaftlicher Druck, den die Sicherheitsdebatte selten mitdenkt: Nach meiner Beobachtung ziehen die großen amerikanischen Anbieter die Preise an, und Europa hat bisher wenige eigene Alternativen auf vergleichbarem Niveau. Wer digitale Souveränität nur als Sicherheitsthema behandelt, blendet aus, dass sie auch eine Frage der Abhängigkeit ist.

Genau deshalb will ich an der European AI Wave aktiv mitbauen, nicht nur zusehen. Wir brauchen sie – eine europäische Infrastruktur mit einer Governance, die tatsächlich in der Technik ankommt, nicht nur auf dem Papier. Verantwortung ist dabei keine Bremse. Sie ist die Voraussetzung.

Wie dieser Text entstanden ist
─────────────────────────────────────────────────────────────
Modell            Claude Sonnet 5 (Anthropic), Stand 2026-09
Arbeitsweise      Rohtext selbst getippt, Fortsetzung durch das Modell,
                  zwei Redaktionsdurchgänge
Eigenanteil       Rohtext vollständig, Bürgeramt-Bild, "ja, ich meine es
                  so herum", Ausrichtung auf die European AI Wave und
                  die Zustimmung zu Alois Krtil
Geprüft           Stilabgleich gegen eigenen Textbestand · Kurzfassung ohne
                  Kenntnis des Entstehens neu abgeleitet · laut gelesen
Quellen           1 belegt, primär (siehe unten)
Verantwortlich    Michael Koch, 2026-09-29
Verfahren         innopractics.de/schreiben-mit-ki