Vertrauen in KI: Warum am Ende ein Mensch entscheidet

Kurzfassung. Vertrauen in KI baut sich nur durch Nutzung auf, und für die nächste KI-Generation wird es zur entscheidenden Frage. Darüber spreche ich auf der Bühne der Hamburger IT-Strategietage 2025; Alois Krtil (ARIC Hamburg) nimmt den Faden auf: Governance, Autonomie und die Schlagseite von Trainingsdaten, etwa bei DeepSeek – während Modelle wie ChatGPT sprunghaft an Qualität gewinnen. Meine Haltung: Am Ende soll ein Mensch entscheiden, gerade in sicherheitssensiblen Bereichen.

Ich stehe auf der großen Bühne der Hamburger IT-Strategietage 2025 und stelle meinem Publikum eine Frage: Vertrauen Sie KI? Die Antwort gebe ich gleich selbst, noch bevor jemand die Hand heben kann. Alexa und Siri sind für die meisten Menschen längst Alltag. Kaum jemand denkt beim Wetter-Check noch daran, dass dahinter KI-Technik steckt. Genau das ist der Punkt. Die Technik ist unbemerkt geworden. Sie sitzt in Küchen, Autos, Kinderzimmern, ohne dass sie je als Entscheidung wahrgenommen wurde.

Mein Satz dazu: Vertrauen baut sich nur durch Nutzung auf. Und für die nächste KI-Generation wird diese Frage noch wichtiger.

Diese nächste Generation macht gerade einen Sprung. ChatGPT beantwortet inzwischen komplexe Sachverhalte kompetent, die vor wenigen Monaten noch undenkbar gewesen wären. Gegen dieses Tempo kann sich kein Unternehmen mehr wehren. Trotzdem braucht es Fingerspitzengefühl. Technisch sind viele Systeme heute schon so weit, autonome Entscheidungen zu treffen. Die eigentliche Frage ist eine andere: Wie viel Autonomie wird akzeptiert, und wer entscheidet am Ende?

Der Faden zur Governance

Diese Frage greift auf derselben Bühne Alois Krtil auf, CEO des Artificial Intelligence Center (ARIC) Hamburg. Vertrauen aufzubauen dauert aus seiner Sicht lange, verloren geht es dagegen schnell. Deshalb seien Governance, Ethik, Robustheit und Security in der aktuellen KI-Entwicklung keine Nebensache.

Krtil nennt DeepSeek als Beispiel und stellt eine Frage, die bei mir seither hängen geblieben ist: „Wer hat die Deutungshoheit über die Datengrundlage für das Training?" Viele Modelle sind laut Krtil von Haus aus in eine Richtung trainiert, also gebiased¹ — mit einer Schlagseite, die aus den Trainingsdaten stammt und in den Antworten wieder auftaucht. Das eigentliche Problem liegt tiefer. Man sieht nur die Antwort, nie die Daten, die sie geformt haben. Ein API-Aufruf liefert ein Ergebnis, keine Auskunft über seine Herkunft. Wer ein Modell hinter einer fremden API nutzt, kann diese Schlagseite nicht prüfen. Er kann ihr nur vertrauen oder es lassen.

Das dürfe aber kein Grund sein, KI zu meiden, so Krtil weiter. Governance sei kein Hexenwerk. Man könne sich an guter alter Software-Entwicklungspraxis orientieren, auch dort zählten Sicherheit und Kontrolle seit jeher zu den Grundlagen. Unternehmen müssten in Qualität investieren und den Reifegrad der Technologie hochhalten, bei aller Euphorie. Die Architektur müsse von Anfang an zu den eigenen Anforderungen passen.

Meine Haltung: Am Ende entscheidet ein Mensch

Zur Ausgangsfrage von der Bühne komme ich hier zurück. Autonome Systeme sind technisch machbar. Für mich heißt das nicht, dass sie überall autonom entscheiden sollten. Gerade in hochregulierten und sicherheitssensiblen Bereichen bleibt es aus meiner Sicht richtig, dass am Ende ein Mensch entscheidet. Das ist eine Haltung, keine Vorschrift. Man kann das anders sehen.

Ich begründe sie so: Akzeptanz entsteht durch die Interaktion mit Menschen, nicht allein durch die Fähigkeiten des Systems. Eine Entscheidung, die niemand mehr nachvollziehen oder korrigieren kann, untergräbt genau das Vertrauen, das sie erst gewinnen müsste. Deshalb ziehe ich die Grenze bewusst enger, als es rein technisch nötig wäre.

Das heißt nicht, KI links liegen zu lassen. Im Gegenteil: anfangen, sich langsam herantasten, im Zweifel auch um Hilfe bitten. Genau das gebe ich meinem Publikum in Hamburg mit.

Mehr zum Auftritt: Hamburger IT-Strategietage 2025. Der Bericht von CIO.de, auf den sich dieser Text stützt: KI – Vertrauen baut sich durch Nutzung auf (öffnet neues Fenster).

Wie dieser Text entstanden ist
─────────────────────────────────────────────────────────────
Modell            Claude Sonnet 5 (Anthropic), Stand 2026-09
Arbeitsweise      Entwurf durch das Modell, zwei unabhängige Fassungen
                  verglichen, diese gewählt, ein Redaktionsdurchgang
Eigenanteil       Vortrag, Aussagen und Haltung (belegt durch den Bericht
                  von CIO.de), Korrekturen, Freigabe
Geprüft           Prüfung auf Floskeln · Stilabgleich gegen eigenen
                  Textbestand · Kurzfassung ohne Kenntnis des Entstehens
                  neu abgeleitet, einmal korrigiert
Quellen           1 Beleg: Bericht von CIO.de vom 20.02.2025
Verantwortlich    Michael Koch, 2026-10-01
Verfahren         innopractics.de/schreiben-mit-ki