KI in der öffentlichen Verwaltung: Besondere Pflichten für Behörden

Behördliche KI-Systeme sind in vielen Fällen Hochrisiko: Biometrische Identifikationssysteme für Strafverfolgung (Anhang III Nr. 1), KI für Grenz- und Migrationskontrolle (Anhang III Nr. 7), KI in der Rechtspflege (Anhang III Nr. 8), KI für essentielle öffentliche Dienste (Sozialhilfe, Arbeitslosengeld, Ausländerbehörde, Anhang III Nr. 5), KI in kritischer Infrastruktur-Management. Behörden müssen ihre KI-Systeme systematisch klassifizieren und für Hochrisiko-Systeme alle Pflichten erfüllen.

Für staatliche Stellen gelten besonders strenge Verbote: Social Scoring (Bewertung von Bürgern nach Sozialverhalten) ist vollständig verboten, biometrische Echtzeit-Überwachung im öffentlichen Raum nur in engen Ausnahmen erlaubt, Emotionserkennung für staatliche Stellen massiv eingeschränkt, KI zur Erstellung von Profilen auf Basis besonderer Datenkategorien. Diese Verbote schützen vor einem KI-basierten Überwachungsstaat und sind nicht verhandelbar.

Behörden, die Hochrisiko-KI in Entscheidungen über Bürger einsetzen, müssen: Betroffene über den KI-Einsatz informieren (Art. 26 Abs. 6), menschliche Überprüfung aller wesentlichen KI-gestützten Entscheidungen sicherstellen, eine Erklärung auf Anfrage bereitstellen (Art. 86 EU AI Act), das Recht auf Widerspruch gegen KI-Entscheidungen einräumen. Diese Pflichten ergänzen bestehende verwaltungsrechtliche Transparenzpflichten (Begründungspflicht, Akteneinsicht).

Für Kommunen: Viele kleine Gemeinden nutzen KI nur in Standardsoftware (z.B. KI-Features in ERP) – hier sind die Pflichten minimal. Für Kreisbehörden und Länder: Prüfen Sie KI-Einsatz in Sozialhilfe, Ausländerrecht und Strafverfolgung sorgfältig. Für Bundesbehörden: Umfassende KI-Governance-Frameworks erforderlich. Ressource: Öffentliche Stellen können auf Leitlinien des Bundesinnenministeriums und der Datenschutzbehörden zurückgreifen.