Datenschutz bei KI in der öffentlichen Verwaltung: Was wirklich gilt

Der Datenschutz bei KI in der öffentlichen Verwaltung ist der Punkt, an dem die meisten kommunalen KI-Vorhaben ins Stocken geraten – oft nicht, weil etwas verboten wäre, sondern weil unklar ist, was erlaubt ist. Dieser Beitrag ordnet die Rechtslage ein: DSGVO, Datenschutz-Folgenabschätzung und EU AI Act. Und er zeigt fünf Leitplanken, mit denen Kommunen KI einsetzen können, ohne sich rechtlich angreifbar zu machen.

Warum für Verwaltungen strengere Maßstäbe gelten

Bürgerinnen und Bürger können sich ihre Verwaltung nicht aussuchen. Wer einen Bauantrag stellt oder Sozialleistungen beantragt, muss seine Daten abgeben – ein Ausweichen auf einen anderen Anbieter gibt es nicht. Deshalb gilt für Behörden eine besondere Grundrechtsbindung, und deshalb wiegen Fehler beim KI-Einsatz hier schwerer als in der Privatwirtschaft. Dazu kommt: Verwaltungsdaten sind häufig besonders sensibel – Gesundheitsdaten, Sozialdaten, Daten über die wirtschaftliche Lage.

Die Rechtslage in Kürze: DSGVO, DSFA, AI Act

DSGVO. Verarbeitet ein KI-System personenbezogene Daten, braucht die Behörde eine Rechtsgrundlage – in der Regel die Erfüllung einer öffentlichen Aufgabe (Art. 6 Abs. 1 lit. e DSGVO) in Verbindung mit einer Fachnorm. Zweckbindung und Datenminimierung gelten uneingeschränkt: Ein Sprachmodell darf nicht mehr Bürgerdaten sehen, als für die konkrete Aufgabe nötig ist.

Datenschutz-Folgenabschätzung (DSFA). Nach Art. 35 DSGVO ist eine DSFA Pflicht, wenn eine Verarbeitung voraussichtlich ein hohes Risiko für Betroffene birgt. Beim Einsatz von KI auf personenbezogene Daten wird das regelmäßig der Fall sein – neue Technologie plus systematische Verarbeitung ist genau die Konstellation, für die die DSFA geschaffen wurde. Praktisch heißt das: DSFA vor dem Piloten, nicht danach.

EU AI Act. Die KI-Verordnung der EU ist seit 2024 in Kraft; ihre Pflichten greifen gestaffelt bis 2027. Sie arbeitet risikobasiert – und viele Verwaltungsanwendungen mit unmittelbarer Wirkung auf Bürger fallen in die Hochrisiko-Kategorie, etwa KI im Kontext von Sozialleistungen. Für Hochrisiko-Systeme gelten Dokumentations-, Transparenz- und Aufsichtspflichten. Ein KI-Textassistent für interne Entwürfe ist dagegen kein Hochrisiko-System. Die Einstufung des konkreten Anwendungsfalls gehört an den Anfang jedes Projekts.

Klarstellung: Weder DSGVO noch AI Act verbieten Kommunen den KI-Einsatz. Sie verlangen, dass der Einsatz geplant, dokumentiert und kontrollierbar ist – das ist Projektarbeit, kein Hindernis.

Das eigentliche Problem: Drittland-Dienste

Die schwierigste Frage ist selten das Ob, sondern das Wo der Verarbeitung. Bei US-Cloud-Diensten stellt sich seit dem Schrems-II-Urteil des EuGH die Frage nach dem Drittlandtransfer – und der Zugriff von US-Behörden auf Daten bei US-Anbietern lässt sich vertraglich nicht vollständig ausschließen. Für Verwaltungen mit sensiblen Bürgerdaten bedeutet das praktisch drei Optionen:

1. EU-Hosting mit Auftragsverarbeitungsvertrag – KI-Dienste, die nachweislich in der EU betreiben und keine Daten zum Training verwenden.
2. Selbst gehostete Modelle – offene Sprachmodelle auf eigener oder kommunaler Rechenzentrums-Infrastruktur; maximale Kontrolle, höherer Betriebsaufwand.
3. Personenbezug vermeiden – KI nur auf anonymisierte oder rein fachliche Inhalte ohne Bürgerdaten anwenden. Für Textassistenz und Wissenssuche reicht das oft schon.

Fünf Leitplanken für die Praxis

1. Keine personenbezogenen Daten in öffentliche KI-Tools. Was in ein frei zugängliches Web-Tool getippt wird, verlässt den Verantwortungsbereich der Behörde.
2. Rechtsgrundlage und DSFA vor dem Piloten klären. Mit Datenschutzbeauftragtem und ggf. Personalrat – nicht als Nachtrag.
3. Datenstandort vertraglich sichern. EU-Verarbeitung, kein Training mit eigenen Daten, AV-Vertrag – oder selbst hosten.
4. Menschliche Letztentscheidung festschreiben. KI bereitet vor, Menschen entscheiden. Das gehört schriftlich in die Dienstanweisung.
5. Beschäftigte schulen und Freigaben regeln. Eine kurze, klare KI-Richtlinie verhindert Schatten-Nutzung wirksamer als ein Verbot.

Häufige Fragen

Dürfen Kommunen ChatGPT und ähnliche Tools nutzen? Pauschal verboten ist es nicht. Ohne dienstliche Regelung und ohne Schutz vor Personenbezug ist es aber riskant. Der saubere Weg führt über eine geprüfte Variante mit EU-Datenverarbeitung oder eine selbst gehostete Lösung – geregelt in einer Dienstanweisung.

Braucht jeder KI-Einsatz eine DSFA? Nein. Verarbeitet das System keine personenbezogenen Daten, ist keine DSFA nötig. Sobald Bürger- oder Beschäftigtendaten im Spiel sind, sollte die DSFA der Standard sein.

Was ändert der AI Act konkret für Kommunen? Er zwingt zur Einstufung jedes Anwendungsfalls nach Risiko. Für Hochrisiko-Anwendungen kommen Dokumentations- und Aufsichtspflichten dazu. Wer heute mit risikoarmen Anwendungsfällen startet und sauber dokumentiert, ist vorbereitet.

Fazit

Datenschutz ist beim KI-Einsatz in der Verwaltung kein Blocker, sondern eine Planungsaufgabe: Anwendungsfall einstufen, Rechtsgrundlage klären, DSFA durchführen, Datenstandort sichern, Letztentscheidung beim Menschen belassen. Wie der Einstieg insgesamt gelingt, zeigt der Beitrag KI in der öffentlichen Verwaltung – und wenn Sie den Weg nicht allein gehen wollen: Sprechen Sie mich an.