Datenqualitätsanforderungen
Für alle Datensätze, die im Zusammenhang mit einem Hochrisiko-KI-System verwendet werden, müssen folgende Qualitätskriterien erfüllt sein:
- Relevanz: Die Daten müssen für den Zweck des Systems geeignet sein.
- Repräsentativität: Sie müssen die Vielfalt der Anwendungssituationen und der betroffenen Personengruppen widerspiegeln.
- Fehlerfreiheit: Bekannte Fehler müssen soweit möglich bereinigt werden.
- Vollständigkeit: Fehlende Daten müssen identifiziert und ihr Einfluss auf die Systemleistung bewertet werden.
- Aktualität: Die Daten müssen die aktuelle Realität widerspiegeln.
Bias-Erkennung und -Prävention
Eines der zentralen Anliegen von Artikel 10 ist die Vermeidung von Diskriminierung durch verzerrte Daten. Anbieter müssen:
- Mögliche Verzerrungen (Bias) in den Datensätzen identifizieren
- Prüfen, ob bestimmte Personengruppen unter- oder überrepräsentiert sind
- Maßnahmen zur Bias-Korrektur dokumentieren
- Spezifische Schutzmaßnahmen für sensible Merkmale (Geschlecht, Alter, Rasse etc.) ergreifen
Ausnahmsweise darf besonderes Datenmaterial (wie Gesundheitsdaten oder biometrische Daten) verarbeitet werden, wenn dies zur Erkennung und Korrektur von Bias im Hochrisiko-KI-System unbedingt erforderlich ist – allerdings nur unter strengen Datenschutzauflagen und mit geeigneten Schutzmaßnahmen.
AI Act Compliance Tool
Ist Ihr KI-System EU AI Act-konform?
Kostenlos prüfen in 10 Minuten — spezifisch für Ihr Unternehmen und Ihre Branche.
Jetzt Risiko prüfen →