KI und Datenqualität - Perspektiven aus Data Science, Ethik, Normung und Recht

Ohne Daten gibt es keine Künstliche Intelligenz. Dieser Leitsatz ist in der digitalen Transformation allgegenwärtig und doch wird seine tiefere Bedeutung oft unterschätzt. Algorithmen des maschinellen Lernens (ML) sind keine magischen Werkzeuge, sondern mathematische Systeme, die Muster in den Daten erkennen, mit denen sie trainiert werden. Die Qualität dieser Daten ist daher nicht nur ein technisches Detail, sondern das Fundament, auf dem die Leistungsfähigkeit, Zuverlässigkeit und gesellschaftliche Akzeptanz von KI-Systemen ruht. Das bekannte Prinzip „Garbage In, Garbage Out“ (GIGO) gewinnt im Zeitalter der KI eine neue, kritische Dimension.

Eine der größten Herausforderungen beim Einsatz von verantwortungsvoller und vertrauenswürdiger KI ist die Bereitstellung ausreichender, vor allem aber qualitativ hochwertiger Trainingsdaten. Mangelhafte Daten führen nicht nur zu ineffizienten Modellen und schlechten Geschäftsergebnissen, sondern können auch ethische Verwerfungen und rechtliche Risiken nach sich ziehen. Um dieses komplexe Thema zu beleuchten, betrachten wir die Symbiose von KI und Datenqualität aus vier zentralen Perspektiven: der Data Science, der Ethik, der Normung und des Rechts. Nur ein ganzheitliches Verständnis ermöglicht es Unternehmen, die wahren Potenziale der KI auszuschöpfen und gleichzeitig ihrer Verantwortung gerecht zu werden.

Die Data-Science-Perspektive: Datenqualität als technisches Fundament

Aus Sicht der Data Science ist die Qualität der Daten der entscheidende Faktor für die Leistungsfähigkeit eines KI-Modells. Ein Algorithmus kann noch so fortschrittlich sein – wenn er mit fehlerhaften, unvollständigen oder inkonsistenten Daten trainiert wird, wird sein Ergebnis unweigerlich mangelhaft sein. Die Vorbereitung und Bereinigung von Daten (Data Preprocessing) nimmt daher nicht selten bis zu 80 % der Zeit in einem KI-Projekt in Anspruch.

Dimensionen der Datenqualität

In der Praxis wird Datenqualität anhand verschiedener Kriterien bewertet. Für KI-Anwendungen sind besonders folgende Dimensionen relevant:

• Vollständigkeit: Fehlen in den Datensätzen wichtige Werte oder ganze Attribute? Ein KI-Modell zur Vorhersage von Kundenabwanderung kann keine validen Muster lernen, wenn bei vielen Kunden die Nutzungsdauer fehlt.
• Korrektheit (Accuracy): Entsprechen die Daten der Realität? Falsch eingetragene Postleitzahlen, veraltete Kontaktinformationen oder fehlerhafte Messwerte führen zu verzerrten Modellen.
• Konsistenz: Sind die Daten über verschiedene Systeme und Zeitpunkte hinweg widerspruchsfrei? Wenn ein Produkt in der Vertriebsdatenbank „Modell X-100“ und im Lagerverwaltungssystem „X100“ heißt, kann eine KI keine zuverlässige Bestandsoptimierung durchführen.
• Aktualität (Timeliness): Sind die Daten auf dem neuesten Stand? Ein Empfehlungssystem, das auf monatealten Klickdaten basiert, wird die aktuellen Interessen der Nutzer kaum treffen.
• Eindeutigkeit: Sind Entitäten klar identifizierbar? Doppelte Kundeneinträge (Dubletten) verfälschen Analysen und können dazu führen, dass dieselbe Person von der KI unterschiedlich behandelt wird.

Die Vernachlässigung dieser Dimensionen führt direkt zu unternehmerischen Nachteilen: Prognosemodelle liefern unzuverlässige Vorhersagen, Klassifikationssysteme treffen falsche Entscheidungen und Automatisierungsprozesse scheitern. Eine solide Datenstrategie und etablierte Data-Governance-Prozesse sind daher keine Kür, sondern eine technische Notwendigkeit für jedes Unternehmen, das KI ernsthaft nutzen möchte.

Die ethische Perspektive: Bias, Fairness und gesellschaftliche Verantwortung

Während die technische Perspektive auf Korrektheit und Effizienz abzielt, rückt die ethische Betrachtung die gesellschaftlichen Auswirkungen von KI in den Fokus. Daten sind niemals vollständig neutral. Sie sind ein Abbild der Realität – und damit auch der in ihr existierenden Vorurteile, Ungleichheiten und historischen Verzerrungen (Bias).

Wie systemischer Bias in KI-Modelle gelangt

Wenn ein KI-Modell mit Daten trainiert wird, die einen solchen systemischen Bias enthalten, wird es diesen nicht nur lernen, sondern potenziell sogar verstärken. Die Folgen können gravierend sein:

• Diskriminierung im Recruiting: Eine KI, die anhand historischer Einstellungsdaten eines männerdominierten Unternehmens trainiert wird, könnte lernen, Bewerberinnen systematisch zu benachteiligen, da sie Muster aus der Vergangenheit reproduziert.
• Ungerechte Kreditvergabe: Ein Modell zur Bonitätsprüfung könnte Personen aus bestimmten Postleitzahlengebieten schlechter bewerten, weil die Trainingsdaten eine historische Korrelation zwischen Wohnort und Zahlungsausfällen aufweisen – und so bestehende sozioökonomische Nachteile fortschreiben.
• Fehlerhafte medizinische Diagnosen: Wenn KI-Modelle zur Hautkrebs-Erkennung überwiegend mit Bildern von heller Haut trainiert werden, kann ihre Genauigkeit bei dunkleren Hauttypen dramatisch sinken.

Die ethische Herausforderung besteht darin, solche Verzerrungen in den Datensätzen zu erkennen, zu bewerten und aktiv zu mitigieren. Dies erfordert mehr als nur technische Algorithmen zur Bias-Erkennung. Es erfordert eine bewusste Auseinandersetzung mit der Herkunft der Daten, dem Kontext ihrer Erhebung und den potenziellen Auswirkungen auf verschiedene Bevölkerungsgruppen. Fairness wird so zu einer zentralen Metrik der Datenqualität, die über die rein technische Korrektheit hinausgeht. Für Unternehmen bedeutet dies, dass Datenkompetenz auch eine ethische Kompetenz umfassen muss, um Reputationsschäden und den Verlust von gesellschaftlichem Vertrauen zu vermeiden.

Die Perspektive von Normung und Recht: Leitplanken für vertrauenswürdige KI

Die wachsende Bedeutung von KI hat Regulierungsbehörden und Normungsinstitute auf den Plan gerufen. Ziel ist es, Rahmenbedingungen zu schaffen, die Risiken für Individuen und die Gesellschaft begrenzen. Datenqualität spielt dabei eine Rolle.

Normung als Instrument der Qualitätssicherung

Normen und Standards wie die ISO/IEC 25012 (Data Quality Model) definieren einen gemeinsamen Rahmen und eine einheitliche Terminologie zur Messung und Steuerung der Datenqualität. Solche Standards bieten Unternehmen konkrete Anleitungen, um Data-Governance-Prozesse zu etablieren. Anstatt das Rad neu zu erfinden, können sie auf bewährte Praktiken zurückgreifen. Für KI-Systeme werden derzeit spezifische Normen entwickelt (z. B. unter dem Dach von ISO/IEC JTC 1/SC 42), die Anforderungen an Transparenz, Robustheit und eben auch die Qualität der zugrundeliegenden Daten formulieren. Die Einhaltung solcher Normen kann als Qualitätssiegel dienen und das Vertrauen von Kunden und Partnern stärken.

Rechtliche Anforderungen: DSGVO und der EU AI Act

Auch der Gesetzgeber stellt klare Anforderungen an den Umgang mit Daten. Die Datenschutz-Grundverordnung (DSGVO) verlangt in Art. 5 Abs. 1 Buchst. d, dass personenbezogene Daten sachlich richtig und erforderlichenfalls auf dem neuesten Stand sind. Welche Pflichten sich daraus im Einzelfall ergeben, hängt unter anderem von der Verarbeitung und dem jeweiligen Sachverhalt ab.

Der EU AI Act (Verordnung (EU) 2024/1689) ist in Kraft und gilt stufenweise. Seit dem 2. Februar 2025 gelten unter anderem die Verbote bestimmter KI-Praktiken und die Pflicht zur Förderung von KI-Kompetenz; seit dem 2. August 2025 gelten die Governance-Regeln und die Pflichten für Anbieter von KI-Modellen mit allgemeinem Verwendungszweck. Der AI Act gilt grundsätzlich seit dem 2. August 2026. Für bestimmte Hochrisiko-Systeme wurden die Übergangsfristen durch die AI-Omnibus-Verordnung geändert: Die Regeln für Hochrisiko-Anwendungen in bestimmten Bereichen nach Anhang III gelten ab dem 2. Dezember 2027, die für KI-Systeme in regulierten Produkten nach Anhang I ab dem 2. August 2028. Für konkrete Fälle sind die jeweiligen Übergangs- und Ausnahmeregeln maßgeblich.

Die Datenanforderungen in Artikel 10 betreffen Hochrisiko-KI-Systeme, die mit Techniken trainiert werden, bei denen Daten zum Einsatz kommen. Sie beziehen sich auf die für Training, Validierung und Test verwendeten Datensätze und umfassen unter anderem Anforderungen an Daten-Governance, Relevanz, Repräsentativität und möglichst geringe Fehlerhaftigkeit und Vollständigkeit – soweit dies dem jeweiligen Zweck angemessen ist. Das ist keine pauschale Pflicht, sämtliche Trainingsdaten aller KI-Systeme fehlerfrei oder vollständig zu machen.

Fazit: Datenkompetenz als strategischer Hebel für erfolgreiche KI

Die vier Perspektiven zeigen: Datenqualität ist eine technische und organisatorische Voraussetzung für verlässliche KI-Anwendungen. Ihre Bedeutung hängt vom jeweiligen Einsatz, den betroffenen Personen und den geltenden Anforderungen ab.

Wer KI einsetzt, sollte nachvollziehen können, woher die verwendeten Daten stammen, wie ihre Eignung bewertet wird und welche Grenzen daraus für das System folgen. Zuständigkeiten und Prüfverfahren sollten sich am jeweiligen Anwendungsfall und den einschlägigen rechtlichen Anforderungen orientieren.