Themen › Büro

Unterweisung: Sicherer Umgang mit Künstlicher Intelligenz (KI) für kommunale Betreiber

Rechtssicher · Barrierefrei · Mit Zertifikat

Demo buchen Kostenlos testen
UWC-Nr. 5601 30 Min Lerndauer

Künstliche Intelligenz wird in Kommunalverwaltungen zunehmend zur Automatisierung von Standardaufgaben wie Antragsprüfung, Bürger-Service oder Dokumenten­klassifizierung eingesetzt. Als kommunalen Betreiber tragen Sie nicht nur die Verantwortung für reibungslose Prozesse, sondern auch für den schutzkonformen Umgang mit personenbezogenen Daten und die Sicherheit der Mitarbeitenden. Unsere praxisnahe Online-Unterweisung zeigt Ihnen, wie Sie KI-Systeme betreiberspezifisch sicher, rechtskonform und effizient einsetzen – ohne juristische Stolperfallen. Sie lernen, sich von anderen Nutzergruppen (z. B. Endnutzer oder Entwickler) abzugrenzen, Datenschutz-Best-Practice umzusetzen und dokumentierte Sicherheitsmaßnahmen aufzubauen.

Warum Unterweisungscenter?

Barrierefrei

WCAG 2.2 AA

Mehrsprachig

DE, EN, FR u.a.

Zertifikat

Automatisch als PDF

Ein-Klick

Keine Registrierung

KISS

Kurz und bündig

Rechtssicher

ArbSchG-konform

⚖️ Rechtliche Grundlagen

Arbeitsschutzgesetz (ArbSchG) § 3 ArbSchG – Sicherheits- und Gesundheitsschutz: Der Arbeitgeber hat die erforderlichen Maßnahmen zu treffen, dass den Beschäftigten Sicherheit und Gesundheitsschutz bei der Arbeit unter Berücksichtigung der Umständen gewährleistet sind. § 5 ArbSchG – Gefährdungsbeurteilung: Der Arbeitgeber hat die Arbeitsstätten, Arbeitsmittel und Arbeitsabläufe zu beurteilen, um Gefährdungen für Sicherheit und Gesundheit festzustellen und geeignete Schutzmaßnahmen zu treffen. § 12 ArbSchG – Unterweisungspflicht: Beschäftigte müssen hinreichend und angemessen über alle Gefährdungen und Schutzmaßnahmen unterrichtet und wiederkehrend unterwiesen werden.

Datenschutz-Grundverordnung (DSGVO) Art. 5 DSGVO – Grundsätze: Verhältnismäßigkeit, Zweckbindung, Datenminimierung. Art. 32 DSGVO – Technische und organisatorische Maßnahmen: Stand der Technik, Pseudonymisierung, Verschlüsselung. Art. 35 DSGVO – Datenschutz-Folgenabschätzung bei hochrisikobehafteten Verarbeitungen.

Betriebssicherheitsverordnung (BetrSichV) § 3 BetrSichV – Gefährdungsbeurteilung für Arbeitsmittel, einschließlich Software und KI-Systeme. § 4 BetrSichV – Instandhaltung und Prüfung sicherheitsrelevanter Einrichtungen. § 14 BetrSichV – Betreiberverantwortung.

DGUV Vorschrift 1 – Grundsätze der Prävention § 4 DGUV V1 – Risikobeurteilung und Schutzmaßnahmen nach dem TOP-Prinzip (Technisch, Organisatorisch, Persönlich).

📋 Pflichten des Arbeitgebers

1. Gefährdungsbeurteilung KI-Systeme Der Arbeitgeber muss gemäß § 5 ArbSchG und § 3 BetrSichV eine spezifische Gefährdungsbeurteilung für alle KI-basierten Anwendungen (z. B. Chatbot, automatische Klassifizierung von Bauanträgen) durchführen. Dabei sind Risiken wie Datenlecks, Fehlinterpretationen oder Diskriminierung zu berücksichtigen.

2. Regelmäßige Unterweisung Nach § 12 ArbSchG müssen Mitarbeitende, die als Betreiber fungieren, mindestens einmal jährlich unterwiesen werden. Die Teilnehmerzahl, Inhalte und Dauer sind lückenlos zu dokumentieren (Unterweisungsnachweis).

3. Wirksame Schutzmaßnahmen Technisch: Rollen- und Berechtigungskonzepte, Zugriffskontrollen, Audit-Logs. Organisatorisch: Datenschutzerklärung aktualisieren, Verarbeitungsverzeichnis pflegen. Persönlich: Sensibilisierung für Phishing gegen KI-Interfaces, Whistleblower-Kanal.

4. Dokumentation und Nachweise Protokoll der Gefährdungsbeurteilung (mind. 10 Jahre). Unterweisungsnachweise (mind. 3 Jahre). Datenschutz-Folgenabschätzung bei KI-Systemen mit hohem Risiko (Art. 35 DSGVO).

📘 Inhalte der Unterweisung

1. Rolle des kommunalen KI-Betreibers verstehen

Als Betreiber sind Sie Verantwortlicher nach Art. 4 Nr. 7 DSGVO. Sie bestimmen Zweck und Mittel der Datenverarbeitung, nicht aber die technische Entwicklung. Das grenzt Sie ab von:

  • Endnutzern (z. B. Bürger*innen, die Chatbot benutzen).
  • Entwicklern (externe KI-Anbieter, die Algorithmen trainieren).
  • Auftragsverarbeitern (Cloud-Hosting, Hosting-Dienstleister).

Lernziel: Rechte und Pflichten klar zuordnen, Verträge (AVV) zweckmäßig gestalten.

2. Datenschutz-Best-Practice für KI-Workflows

  • Datenminimierung: Nur die Daten erfassen, die für die konkrete Verwaltungsaufgabe zwingend erforderlich sind.
  • Pseudonymisierung: Personenkennungen (Name, Geburtsdatum) vor dem Einsatz im Trainingsdatensatz maskieren.
  • Einwillung vs. öffentliches Interesse: Bauanträge oft ohne Einwillung verarbeitbar, Gesundheitsdaten jedoch nur mit expliziter Einwillung.
  • Löschfristen: Festlegung nach DSGVO und jeweiliger Fachvorschriften (z. B. GO NRW: 10 Jahre für Bauakten).

3. Risikoanalyse konkreter Anwendungsfälle

Beispiel 1: KI-gestützter Bürger-Chatbot

  • Risiko: Halluzinationen (falsche Antworten) → Haftung der Kommune.
  • Maßnahme: Mensch-Review durch Fachverwaltung vor Absenden.

Beispiel 2: Automatische Eingangspost-Klassifizierung

  • Risiko: Missklassifizierung → Rechtsverlustfristen.
  • Maßnahme: KI-Konfidenzschwelle unter 85 % → manuelle Nachprüfung.

4. Dokumentation und Reporting

  • Checkliste „KI-System-Betrieb“ monatlich aktualisieren.
  • Sicherheitsvorfälle (z. B. Datenpanne) unverzüglich melden (§ 33 BDSG).
  • Transparenzbericht für Bürger*innen veröffentlichen.

5. Praxis-Workshop: Rollen & Verantwortlichkeiten festlegen

Interactive Übung: Erstellen eines RACI-Matrix für ein KI-Projekt „KI-gestützte Grundsteuerberechnung“.

⚠️ Gefährdungen & Schutzmaßnahmen

Typische Gefährdungen

  • Datenlecks durch unsichere API-Schnittstellen zu externen KI-Clouds.
  • Diskriminierung infolge verzerrter Trainingsdaten (z. B. bei Sozialleistungsprüfung).
  • Transparenzdefizit: Bürger*innen können KI-Entscheidungen nicht nachvollziehen.
  • Systemausfall durch Ransomware, die KI-Infrastruktur verschlüsselt.

TOP-Prinzip: Absteigende Wirksamkeit

  • Technisch: Ende-zu-Ende-Verschlüsselung, Zero-Trust-Architektur, regelmäßige Pen-Tests.
  • Organisatorisch: Datenschutzbeauftragte einbinden, 4-Augen-Prinzip bei kritischen KI-Entscheidungen.
  • Persönlich: Phishing-Trainings, Awareness-Quiz „KI-Tricks erkennen“.

🎯 Zielgruppen & Branchen

Die Unterweisung richtet sich an:

  • Kommunalverwaltungen (Stadt-, Kreis-, Gemeindeverwaltungen).
  • Sozialämter mit KI-unterstützter Leistungsprüfung.
  • Bauämter bei digitalen Prüfverfahren.
  • IT-Verantwortliche und Datenschutzbeauftragte in öffentlichen Einrichtungen.

Besonderheiten: Oft kleine Teams, begrenzte Ressourcen, hoher Anspruch an Transparenz gegenüber Bürger*innen.

📅 Intervalle & Dokumentation

Regelmäßige Unterweisung Erstunterweisung vor erstmaliger Tätigkeit, danach jährlich (§ 12 ArbSchG). Bei neuen KI-Systemen oder wesentlichen Änderungen sofortige Nachunterweisung.

Dokumentationspflichten

  • Unterweisungsbogen (Name, Inhalte, Datum, Unterschrift) – Aufbewahrung 3 Jahre.
  • Gefährdungsbeurteilung (mind. 10 Jahre).
  • Datenschutz-Folgenabschätzung (mind. 10 Jahre).

🛠️ In der Praxis

✅ Checkliste

  • ☐ Gefährdungsbeurteilung KI-Systeme aktuell (max. 2 Jahre alt)?
  • ☐ Verarbeitungsverzeichnis und Betroffeneninformation aktualisiert?
  • ☐ AVV mit KI-Anbietern vorhanden und signiert?
  • ☐ Rollen- und Berechtigungskonzept dokumentiert?
  • ☐ Incident-Response-Plan bei KI-Pannen erstellt?
  • ☐ Mitarbeitende mindestens einmal jährlich unterwiesen?
  • ☐ Audit-Logs regelmäßig ausgewertet?
  • ☐ Transparenzbericht für Bürger*innen veröffentlicht?

⚠️ Häufige Fehler

1. Verwechslung Betreiber vs. Auftragsverarbeiter
Viele Kommunen glauben, durch Cloud-Hosting automatisch „unschuldig“ zu sein. Tatsächlich bleiben sie Verantwortlicher nach DSGVO.

2. Fehlende Datenschutz-Folgenabschätzung
Große KI-Projekte ohne DPIA starten – Bußgeld bis 10 Mio. € droht.

3. Unterweisung nur für IT-ler
Auch Sachbearbeitende, die KI-Ergebnisse freigeben, müssen regelmäßig geschult werden.

4. Keine regelmäßige Aktualisierung der Gefährdungsbeurteilung
KI-Systeme lernen kontinuierlich; Risiken ändern sich.

5. Fehlende Dokumentation von KI-Fehlverhalten
Vorfälle werden intern gelöst, aber nicht gemeldet oder dokumentiert – Verlust von Beweismitteln.

ℹ️ Sonderfälle

Telearbeit & Mobile KI-Nutzung
Mitarbeitende greifen von zu Hause auf Cloud-KI zu. Zusätzliche Risiko: unsichere WLANs. Maßnahme: VPN-Zwang, Device-Management.

Aushilfskräfte & Werkstudent*innen
Kurzfristige Einsätze erfordern abgespeckte, aber vollständige Unterweisung und getrenntes Rollenkonzept (nur lesender Zugriff).

💬 Häufige Fragen

Häufige Fragen (FAQ)

  1. Wer ist eigentlich der „Betreiber“ eines KI-Chatbots in einer Kommune?
    Die Kommune selbst bestimmt Zweck und Mittel der Verarbeitung – also der Verantwortliche i. S. d. DSGVO. Der externe KI-Anbieter ist Auftragsverarbeiter.
  2. Muss ich bei jeder neuen KI-Version erneut unterweisen?
    Nein, nur bei wesentlichen Änderungen (neue Datenflüsse, neue Funktionen) oder spätestens jährlich.
  3. Wie lange muss ich die Unterweisungsnachweise aufbewahren?
    3 Jahre gemäß ArbSchG. Bei Datenschutzvorfällen empfehlen sich 6 Jahre.
  4. Gibt es branchenspezifische Vorgaben für Kommunen?
    Ja, z. B. Kommunalabgabengesetze, Bauordnungen. Prüfen Sie die jeweiligen Speicherfristen.
  5. Können wir die Schulung rein digital durchführen?
    Ja, wenn Interaktion, Prüfung und Dokumentation gewährleistet sind (§ 12 Abs. 2 ArbSchG).
  6. Müssen Ehrenamtliche geschult werden, die KI-Systeme nutzen?
    Nur, wenn sie längerfristig und aufgabenbezogen Zugriff haben. Kurzfristige Beratungen sind ausgenommen.
  7. Welche Bußgelder drohen bei Unterlassung?
    Art. 83 DSGVO: bis 10 Mio. € oder 2 % des Jahresumsatzes. ArbSchG: bis 30.000 €.
  8. Ist eine externe Datenschutz-Folgenabschätzung Pflicht?
    Nicht zwingend, aber empfohlen bei hohem Risiko. Eigenes Know-how reicht bei kompetenten Mitarbeitern.

📚 Ähnliche Unterweisungen

UWC-4067

Arbeitsschutz für Vieltelefonierer

Büro
UWC-4060

Arbeitssicherheit und Überfallprävention für kommunale Kassen DGUV Regel 115-005

Büro
UWC-4013

Bewegung & Pausen

Büro
UWC-4070

Bildschirmarbeitsplatz für ortsgebundene Bildschirmgeräte

Büro

Jetzt rechtssicher online unterweisen

Starten Sie sofort mit der digitalen Unterweisung „Sicherer Umgang mit KI für kommunale Betreiber“. Lückenloses Zertifikat, sofortiger Nachweis, jederzeit abrufbar – für Ihre Kommune und alle Mitarbeitenden.

Kostenlos testen Beratung anfordern