KI ist nicht hyperintelligent: Warum Datenqualität zählt

Kurzfassung. KI übernimmt repetitive Aufgaben, ist aber nicht hyperintelligent; sie bildet menschliche Fehler und Vorurteile ab, wenn Trainingsdaten verzerrt sind. Entscheidend ist nicht, ob ein Modell rechnet, sondern woraus es gelernt hat. Datenschutz und Datenqualität sind daher kein Standortnachteil, sondern ermöglichen Deutschland und Europa, im verantwortungsbewussten Umgang mit KI international Vorreiter zu werden.

Im Januar 2022 stellt mich das ARIC Hamburg als neues Vorstandsmitglied vor und bittet mich zum Interview. Die ersten Fragen sind sachlich: wie ich zur KI kam, welche Anwendungen mich interessieren. Dann wird es zugespitzt. Die Redaktion konfrontiert mich mit einer hypothetischen Skeptikerin: „Ich möchte das gar nicht, dass alles per KI funktioniert, das ist mir unheimlich." Keine Frage mehr nach Anwendungsfällen, sondern nach Vertrauen. Meine Antwort in Teil 1 des Interviews (öffnet neues Fenster) war keine Beruhigung. Es war eine Einschränkung, die gegen meine eigene Branche argumentiert.

Ich habe geantwortet, dass KI vor allem repetitive Aufgaben löst, Aufgaben, die ohnehin niemand gern macht: dieselben Fragen in E-Mails beantworten, Personen zählen. Das war der einfache Teil der Antwort. Der zweite Teil war unbequemer: KI kann auch nichts anderes. Sie ist nicht hyperintelligent und übernimmt vor allem Routinetätigkeiten. Im negativen Fall bildet sie sogar unsere Fehler und Vorurteile ab, weil sie mit menschlichen Daten trainiert wird.

Das ist keine Randbemerkung. Eine KI lernt nicht aus der Welt, sondern aus den Daten, die wir ihr geben. Bildet diese Auswahl bestehende Verzerrungen ab, etwa weil bestimmte Gruppen über- oder unterrepräsentiert sind oder weil frühere Entscheidungen selbst schon diskriminierend waren, übernimmt das System dieses Muster als vermeintliche Regel und wendet es in großem Maßstab an. Die Software kann dabei technisch einwandfrei arbeiten, das Ergebnis ist trotzdem falsch. Deshalb war meine Position damals: Auf Datenqualität zu bestehen ist keine Kür. Durch eine willkürliche, unzureichende oder diskriminierende Auswahl von Input-Daten lassen sich Analyseergebnisse verzerren oder manipulieren, gewollt oder ungewollt.

Dieselbe Haltung trägt der zweite Teil des Interviews, eine Woche später erschienen, in dem es um den internationalen Vergleich geht. USA und China liegen bei KI vorn, sage ich dort, und in Deutschland begrenzen strenge Datenschutzregeln, was Unternehmen mit Daten anfangen können. Man könnte das als Standortnachteil lesen. Ich habe es damals anders eingeordnet, in Teil 2 des Interviews (öffnet neues Fenster): „Ich sehe sogar, dass Deutschland oder Europa durch die Beachtung von Datenschutz, Sicherheit und Ethik einen Wettbewerbsvorteil gewinnen und im verantwortungsbewussten Umgang mit KI internationale Vorreiter sein können."

Das war 2022 eine Gegenposition zum damaligen Zeitgeist. Sie folgt derselben Logik wie meine Antwort auf die Skeptikerin: Wer Daten prüft und rechtfertigt, statt sie nur zu sammeln, baut Systeme, deren Ergebnisse sich nachvollziehen lassen. Das ist kein Argument gegen Tempo. Im selben Gespräch habe ich gesagt, dass die Sorge, etwas falsch zu machen, kein Grund sein darf, Daten lieber gar nicht zu nutzen. Mit guter Expertise sind Datenschutz, Datenanalyse und KI sehr gut miteinander vereinbar. Aber die Reihenfolge gilt nur in eine Richtung: erst die Frage, woher die Daten kommen und was sie abbilden, dann die Frage, was das Modell damit anfängt.

Für Entscheider, die KI-Projekte verantworten, folgt daraus eine unbequeme Prüffrage, keine Entwarnung: nicht ob ein Modell rechnet, sondern woraus es gelernt hat. Schlechte oder lückenhafte Daten lassen Projekte schon in einem frühen Stadium scheitern, das war 2022 meine Beobachtung aus der Praxis. Und wer Datenschutz als Bremse behandelt statt als Teil der Datenqualität, verzichtet auf genau die Disziplin, die verlässliche Ergebnisse erst möglich macht.

Mehr zu meiner Rolle im ARIC steht im Eintrag ARIC Hamburg: Mitglied im Vorstand.

Das Interview im Original: Teil 1 vom 19.01.2022 (öffnet neues Fenster) und Teil 2 vom 27.01.2022 (öffnet neues Fenster).

Wie dieser Text entstanden ist
─────────────────────────────────────────────────────────────
Modell            Claude Sonnet 5 (Anthropic), Stand 2026-09
Arbeitsweise      Entwurf durch das Modell,
                  Redaktionsdurchgänge: 2
Eigenanteil       alle Aussagen und Haltungen aus dem
                  Interview 2022, Auswahl der übernommenen
                  Prüfpunkte
Geprüft           Abgleich mit der Quelle · Stilabgleich ·
                  Prüfung durch drei Gegenleser
Quellen           2 belegt, davon 2 Primärquellen
Verantwortlich    Michael Koch
Verfahren         innopractics.de/schreiben-mit-ki