Thema · Allgemein

Unterweisung Sicherer Umgang mit KI für kommunale Anwender*innen

Rechtssicher · Barrierefrei · Mit Zertifikat

Kostenfreies Strategiegespräch vereinbaren Themenübersicht

UWC-Nr. 5600 ca. 31 Minuten Lernzeit

Beschäftigte arbeiten gemeinsam an Laptops in einem hellen Büro

Steckbrief

Dauer
ca. 31 Minuten, jederzeit unterbrechbar
Bereiche
Allgemein · IT Schulungen · Verwaltung, Büro
Nachweis
Zertifikat automatisch als PDF
Sprachen
Deutsch, Englisch, Französisch und weitere
Kennung
UWC-Nr. 5600

Ihre Vorteile

Warum Unterweisungscenter?

  • Rechtssicher

    ArbSchG-konform

  • Mehrsprachig

    DE, EN, FR u. a.

  • Zertifikat

    Automatisch als PDF

  • Ein Klick

    Keine Registrierung

  • KISS

    Kurz und bündig

  • Barrierefrei

    WCAG 2.2 AA

Auf dieser Seite
Künstliche Intelligenz verändert den Verwaltungsalltag: Bürgeranfragen werden per Chatbot beantwortet, Formulare automatisiert geprüft und Dienstpläne optimiert. Doch mit jeder Nutzung steigt das Risiko für Datenschutzverstöße, Fehlentscheidungen oder sogar Diskriminierung. Kommunale Mitarbeiter*innen benötigen daher eine fundierte Unterweisung, die Chancen und Risiken von KI transparent macht. Unsere praxisorientierte Schulung vermittelt das notwendige Fachwissen, um KI-Anwendungen rechtskonform, sicher und ethisch einzusetzen – von der EU-KI-Verordnung bis zur korrekten Datenklassifizierung nach DSGVO.

Abschnitt 1

Rechtliche Grundlagen

Die Einführung und Nutzung KI-basierter Systeme in kommunalen Verwaltungen unterliegt mehreren rechtlichen Regelwerken:

  • Arbeitsschutzgesetz (ArbSchG) §§ 5, 12 und 13: Der Arbeitgeber muss Gefährdungen für Sicherheit und Gesundheit der Beschäftigten erfassen und beurteilen sowie geeignete Schutzmaßnahmen festlegen und deren Wirksamkeit überprüfen. Die Unterweisung ist gemäß § 12 ArbSchG zwingend durchzuführen.
  • Betriebssicherheitsverordnung (BetrSichV) §§ 3, 4 und 6: Für sicherheitsrelevante KI-Anwendungen (z. B. Zugriffskontrollsysteme) ist eine Betriebsanweisung zu erstellen. Die Inbetriebnahme darf nur durch qualifizierte Person erfolgen.
  • DGUV Vorschrift 2 (Unfallverhütungsvorschrift „Firmenärztlicher Dienst“) § 3: Bei KI-Systemen mit psychischer Belastung (z. B. automatisierte Leistungsüberwachung) ist die Einbindung des Betriebsarztes vorgeschrieben.
  • EU-KI-Verordnung (KI-Verordnung VO [EU] 2024/1689): Ab 2. Februar 2025 gelten risikobasierte Anforderungen für KI-Systeme in der öffentlichen Verwaltung.
  • DSGVO Art. 5, 6 und 32: Verarbeitung personenbezogener Daten ist nur auf Basis einer Rechtsgrundlage erlaubt; angemessene technische und organisatorische Maßnahmen sind umzusetzen.

Abschnitt 2

Pflichten des Arbeitgebers

Arbeitgeber kommunaler Einrichtungen tragen die Verantwortung für eine vollständige Gefährdungsbeurteilung (§ 5 ArbSchG) und die regelmäßige Unterweisung (§ 12 ArbSchG) aller Beschäftigten, die mit KI-Systemen arbeiten. Die Unterweisung muss vor Aufnahme der Tätigkeit erfolgen und danach in jährlichen Abständen wiederholt werden. Dokumentiert werden muss: Teilnehmende Personen, Inhalte, Zeitpunkt und Unterschrift. Bei neuen KI-Features oder Gesetzesänderungen ist eine aktualisierte Schulung sofort durchzuführen. Die Dokumentationspflicht nach Art. 30 DSGVO erfordert zusätzlich ein Verzeichnis aller KI-Verarbeitungstätigkeiten.

Abschnitt 3

Inhalte der Unterweisung

1. Grundlagen Künstlicher Intelligenz (KI)

  • Definition und Abgrenzung zu klassischer Software
  • Maschinelles Lernen vs. Generative KI
  • Einsatzfelder in der Kommunalverwaltung (Bürgerservice, Dokumentenmanagement, Ressourcenplanung)

2. Rechtliche Rahmenbedingungen

  • EU-KI-Verordnung: Risikoklassen, Transparenzpflichten, Audit-Anforderungen
  • DSGVO-Compliance: Rechtsgrundlagen, Datenminimierung, Betroffenenrechte
  • Kommunalrechtliche Besonderheiten: Datenkategorien, Zuständigkeiten, Behördenwege

3. Typische Risiken und Bedrohungen

  • Datenmanipulation: Prompt-Injection, Ransomware, Deepfake-Dokumente
  • Verzerrung & Diskriminierung: Verzerrte Trainingsdaten führen zu Benachteiligung
  • Shadow-IT: Unbefugte Nutzung von Online-KI-Tools (z. B. ChatGPT ohne Freigabe)
  • Transparenzmängel: „Black-Box“-Entscheidungen ohne Nachvollziehbarkeit

4. Praxisnahe Anwendungsfälle

  • Bürgerportal-Chatbot: Sichere Implementierung, Datenschutzerklärung, Eskalationspfade
  • Automatische Dokumentenerfassung: Klassifizierung sensibler Daten, Löschfristen
  • Personaleinsatzplanung: Ausschluss sensibler Merkmale (Gesundheitsdaten, Religion)

5. Schutzmaßnahmen und Best Practices

  • Vier-Augen-Prinzip: KI-Ergebnisse vor Freigabe prüfen
  • Pseudonymisierung: Klarnamen in Testumgebungen maskieren
  • Regelmäßige Audits: Schulungen, Penetrationstests, Datenschutz-Folgeabschätzung

6. Notfallmanagement

  • Verdacht auf Datenleck: Sofortmaßnahmen, Meldepflicht an Datenschutzbeauftragte*n
  • Fehlverhalten der KI erkannt: Eskalationsprotokoll, Rückverfolgbarkeit sicherstellen

Abschnitt 4

Gefährdungen & Schutzmaßnahmen

Hauptgefährdungen:

  • Datenschutzverstöße durch Offenlegung personenbezogener Daten an Cloud-KI-Dienste
  • Diskriminierung aufgrund verzerrter Algorithmen (z. B. bei Wohngeld-Anträgen)
  • Psychische Belastung durch Überwachung oder Entscheidungsdruck durch KI
  • Rechtsunsicherheit durch fehlende Dokumentation der KI-Entscheidungslogik

Schutzmaßnahmen nach TOP-Prinzip:

  • Technisch: Verschlüsselte Datentransfers, Zero-Trust-Architektur, Rollen-basierte Zugriffsrechte
  • Organisatorisch: Freigabeprozesse, Datenschutz-Folgeabschätzung, regelmäßige Kontrollen
  • Personell: Schulung, Sensibilisierung, Verhaltenskodex für KI-Nutzung

Abschnitt 5

Zielgruppen & Branchen

Die Unterweisung richtet sich primär an:

  • Kommunalverwaltungen (Stadt-, Kreis-, Gemeindeverwaltungen)
  • Sozialämter mit KI-gestützter Antragsprüfung
  • Bürgerbüros mit Chatbot- oder KI-Formular-Systemen
  • IT-Abteilungen in öffentlichen Einrichtungen

Besonderheiten: Besonders hoher Datenschutz-Fokus, strenge Haftungsregelungen, häufige Interaktion mit besonders sensiblen Daten (Gesundheits-, Sozialdaten).

Abschnitt 6

Intervalle & Dokumentation

Die Erstunterweisung muss vor erstmaliger Nutzung eines neuen KI-Systems erfolgen. Wiederholungsunterweisungen sind jährlich durchzuführen sowie bei jeder wesentlichen Änderung (z. B. neues KI-Modell, Gesetzesnovellierung). Die Dokumentation erfolgt schriftlich oder digital mit Namensvermerk und Datum. Aufbewahrungsfrist: 5 Jahre ab letzter Unterweisung (§ 12 Abs. 4 SGB VII). Die Gefährdungsbeurteilung ist spätestens alle 2 Jahre zu überprüfen und bei Änderungen unverzüglich anzupassen.

In der Praxis

Was Verantwortliche wissen müssen

Checkliste

Das sollten Sie prüfen

  • KI-System in Gefährdungsbeurteilung erfasst und bewertet
  • Datenschutz-Folgeabschätzung (DPIA) durchgeführt und aktuell
  • Alle Mitarbeitenden vor erstmaliger Nutzung geschult und dokumentiert
  • Verzeichnis der Verarbeitungstätigkeiten (Art. 30 DSGVO) geführt
  • Notfallplan bei Datenschutzvorfall vorhanden und getestet
  • Zugriffsrechte rollenbasiert vergeben und regelmäßig geprüft
  • Dokumentierte Eskalationspfade für KI-Fehlverhalten
  • Jährliche Schulung terminiert und im Kalender verankert

Häufige Fehler

Das geht oft schief

  1. Shadow-IT unentdeckt
    Mitarbeitende nutzen freie Online-KI-Tools wie ChatGPT, ohne Freigabe oder Datenschutzanalyse.
  2. Fehlende DPIA
    KI-Systeme mit hoch sensiblen Daten ohne Datenschutz-Folgeabschätzung eingeführt.
  3. Unklare Verantwortlichkeiten
    Kein festgelegter Ansprechpartner für KI-Sicherheitsfragen.
  4. Versäumte Wiederholungsschulung
    Nach Software-Updates oder neuen Gesetzen keine Aktualisierung der Schulung.
  5. Fehlende Dokumentation
    Entscheidungswege der KI werden nicht nachvollziehbar gespeichert.
  6. Unzureichende Zugriffsrechte
    Praktikant*in erhält Zugriff auf vollständige Bürgerakten via KI-Schnittstelle.

Sonderfälle

Das gilt zusätzlich

  • Auszubildende
    Intensivere Einführung durch enge Betreuung, zusätzliche Feedback-Runden.
  • Telearbeitende
    Schulung muss remote durchführbar sein, VPN- und Gerätesicherheit integrieren.
  • Führungskräfte
    Vertiefung der Haftungs- und Compliance-Risiken, Fokus auf Eskalations- und Audit-Pflichten.

Häufige Fragen

Fragen zur Unterweisung Sicherer Umgang mit Künstlicher Intelligenz (KI) für kommunale Anwender

Dürfen wir ChatGPT zur internen Dokumentenvorbereitung nutzen?
Nur nach Freigabe durch die Datenschutzbeauftragte und mit Firmen-Account ohne Datenspeicherung. Keine Eingabe personenbezogener Daten.

Wie oft muss die Unterweisung wiederholt werden?
Jährlich sowie bei jeder wesentlichen Änderung (neues KI-Modell, Gesetzesänderung).

Ist eine DPIA für jedes KI-System Pflicht?
Ja, wenn personenbezogene Daten verarbeitet und Risiken für Betroffene bestehen (Art. 35 DSGVO).

Wer haftet bei KI-Fehlentscheidungen?
Letztlich die Gemeinde als Auftraggeberin; daher präzise Dokumentation und Eskalationspfade.

Können Azubis eigenständig mit KI arbeiten?
Nur unter Aufsicht und nach vollständiger Schulung, da sie als „junge Beschäftigte“ besonders geschützt sind.

Muss ein externer Dienstleister auditiert werden?
Ja, gemäß EU-KI-Verordnung Art. 25 müssen Dienstleister Transparenznachweise erbringen.

Wie dokumentiere ich eine KI-Entscheidung nachvollziehbar?
Speichern des Prompts, des KI-Outputs, der verwendeten Version und des verantwortlichen Prüfers.

Weiterlesen

Jetzt rechtssicher online unterweisen

Sparen Sie Zeit und Geld: Mit unserer digitalen KI-Sicherheitsunterweisung schulen Sie alle Mitarbeitenden flexibel und dokumentieren rechtskonform. Inklusive Updates bei neuen Gesetzesänderungen.

Kostenfreies Strategiegespräch vereinbaren