Thema · Allgemein

Unterweisung: Sicherer Umgang mit Künstlicher Intelligenz (KI) für kommunale Betreiber

Rechtssicher · Barrierefrei · Mit Zertifikat

Kostenfreies Strategiegespräch vereinbaren Themenübersicht

UWC-Nr. 5601 ca. 20 Minuten Lernzeit

Beschäftigte arbeiten gemeinsam an Laptops in einem hellen Büro

Steckbrief

Dauer
ca. 20 Minuten, jederzeit unterbrechbar
Bereiche
Allgemein · IT Schulungen · Verwaltung, Büro
Nachweis
Zertifikat automatisch als PDF
Sprachen
Deutsch, Englisch, Französisch und weitere
Kennung
UWC-Nr. 5601

Ihre Vorteile

Warum Unterweisungscenter?

  • Rechtssicher

    ArbSchG-konform

  • Mehrsprachig

    DE, EN, FR u. a.

  • Zertifikat

    Automatisch als PDF

  • Ein Klick

    Keine Registrierung

  • KISS

    Kurz und bündig

  • Barrierefrei

    WCAG 2.2 AA

Auf dieser Seite
Künstliche Intelligenz wird in Kommunalverwaltungen zunehmend zur Automatisierung von Standardaufgaben wie Antragsprüfung, Bürger-Service oder Dokumenten­klassifizierung eingesetzt. Als kommunalen Betreiber tragen Sie nicht nur die Verantwortung für reibungslose Prozesse, sondern auch für den schutzkonformen Umgang mit personenbezogenen Daten und die Sicherheit der Mitarbeitenden. Unsere praxisnahe Online-Unterweisung zeigt Ihnen, wie Sie KI-Systeme betreiberspezifisch sicher, rechtskonform und effizient einsetzen – ohne juristische Stolperfallen. Sie lernen, sich von anderen Nutzergruppen (z. B. Endnutzer oder Entwickler) abzugrenzen, Datenschutz-Best-Practice umzusetzen und dokumentierte Sicherheitsmaßnahmen aufzubauen.

Abschnitt 1

Rechtliche Grundlagen

Arbeitsschutzgesetz (ArbSchG) § 3 ArbSchG – Sicherheits- und Gesundheitsschutz: Der Arbeitgeber hat die erforderlichen Maßnahmen zu treffen, dass den Beschäftigten Sicherheit und Gesundheitsschutz bei der Arbeit unter Berücksichtigung der Umständen gewährleistet sind. § 5 ArbSchG – Gefährdungsbeurteilung: Der Arbeitgeber hat die Arbeitsstätten, Arbeitsmittel und Arbeitsabläufe zu beurteilen, um Gefährdungen für Sicherheit und Gesundheit festzustellen und geeignete Schutzmaßnahmen zu treffen. § 12 ArbSchG – Unterweisungspflicht: Beschäftigte müssen hinreichend und angemessen über alle Gefährdungen und Schutzmaßnahmen unterrichtet und wiederkehrend unterwiesen werden.

Datenschutz-Grundverordnung (DSGVO) Art. 5 DSGVO – Grundsätze: Verhältnismäßigkeit, Zweckbindung, Datenminimierung. Art. 32 DSGVO – Technische und organisatorische Maßnahmen: Stand der Technik, Pseudonymisierung, Verschlüsselung. Art. 35 DSGVO – Datenschutz-Folgenabschätzung bei hochrisikobehafteten Verarbeitungen.

Betriebssicherheitsverordnung (BetrSichV) § 3 BetrSichV – Gefährdungsbeurteilung für Arbeitsmittel, einschließlich Software und KI-Systeme. § 4 BetrSichV – Instandhaltung und Prüfung sicherheitsrelevanter Einrichtungen. § 14 BetrSichV – Betreiberverantwortung.

DGUV Vorschrift 1 – Grundsätze der Prävention § 4 DGUV V1 – Risikobeurteilung und Schutzmaßnahmen nach dem TOP-Prinzip (Technisch, Organisatorisch, Persönlich).

Abschnitt 2

Pflichten des Arbeitgebers

1. Gefährdungsbeurteilung KI-Systeme Der Arbeitgeber muss gemäß § 5 ArbSchG und § 3 BetrSichV eine spezifische Gefährdungsbeurteilung für alle KI-basierten Anwendungen (z. B. Chatbot, automatische Klassifizierung von Bauanträgen) durchführen. Dabei sind Risiken wie Datenlecks, Fehlinterpretationen oder Diskriminierung zu berücksichtigen.

2. Regelmäßige Unterweisung Nach § 12 ArbSchG müssen Mitarbeitende, die als Betreiber fungieren, mindestens einmal jährlich unterwiesen werden. Die Teilnehmerzahl, Inhalte und Dauer sind lückenlos zu dokumentieren (Unterweisungsnachweis).

3. Wirksame Schutzmaßnahmen Technisch: Rollen- und Berechtigungskonzepte, Zugriffskontrollen, Audit-Logs. Organisatorisch: Datenschutzerklärung aktualisieren, Verarbeitungsverzeichnis pflegen. Persönlich: Sensibilisierung für Phishing gegen KI-Interfaces, Whistleblower-Kanal.

4. Dokumentation und Nachweise Protokoll der Gefährdungsbeurteilung (mind. 10 Jahre). Unterweisungsnachweise (mind. 3 Jahre). Datenschutz-Folgenabschätzung bei KI-Systemen mit hohem Risiko (Art. 35 DSGVO).

Abschnitt 3

Inhalte der Unterweisung

1. Rolle des kommunalen KI-Betreibers verstehen

Als Betreiber sind Sie Verantwortlicher nach Art. 4 Nr. 7 DSGVO. Sie bestimmen Zweck und Mittel der Datenverarbeitung, nicht aber die technische Entwicklung. Das grenzt Sie ab von:

  • Endnutzern (z. B. Bürger*innen, die Chatbot benutzen).
  • Entwicklern (externe KI-Anbieter, die Algorithmen trainieren).
  • Auftragsverarbeitern (Cloud-Hosting, Hosting-Dienstleister).

Lernziel: Rechte und Pflichten klar zuordnen, Verträge (AVV) zweckmäßig gestalten.

2. Datenschutz-Best-Practice für KI-Workflows

  • Datenminimierung: Nur die Daten erfassen, die für die konkrete Verwaltungsaufgabe zwingend erforderlich sind.
  • Pseudonymisierung: Personenkennungen (Name, Geburtsdatum) vor dem Einsatz im Trainingsdatensatz maskieren.
  • Einwillung vs. öffentliches Interesse: Bauanträge oft ohne Einwillung verarbeitbar, Gesundheitsdaten jedoch nur mit expliziter Einwillung.
  • Löschfristen: Festlegung nach DSGVO und jeweiliger Fachvorschriften (z. B. GO NRW: 10 Jahre für Bauakten).

3. Risikoanalyse konkreter Anwendungsfälle

Beispiel 1: KI-gestützter Bürger-Chatbot

  • Risiko: Halluzinationen (falsche Antworten) → Haftung der Kommune.
  • Maßnahme: Mensch-Review durch Fachverwaltung vor Absenden.

Beispiel 2: Automatische Eingangspost-Klassifizierung

  • Risiko: Missklassifizierung → Rechtsverlustfristen.
  • Maßnahme: KI-Konfidenzschwelle unter 85 % → manuelle Nachprüfung.

4. Dokumentation und Reporting

  • Checkliste „KI-System-Betrieb“ monatlich aktualisieren.
  • Sicherheitsvorfälle (z. B. Datenpanne) unverzüglich melden (§ 33 BDSG).
  • Transparenzbericht für Bürger*innen veröffentlichen.

5. Praxis-Workshop: Rollen & Verantwortlichkeiten festlegen

Interactive Übung: Erstellen eines RACI-Matrix für ein KI-Projekt „KI-gestützte Grundsteuerberechnung“.

Abschnitt 4

Gefährdungen & Schutzmaßnahmen

Typische Gefährdungen

  • Datenlecks durch unsichere API-Schnittstellen zu externen KI-Clouds.
  • Diskriminierung infolge verzerrter Trainingsdaten (z. B. bei Sozialleistungsprüfung).
  • Transparenzdefizit: Bürger*innen können KI-Entscheidungen nicht nachvollziehen.
  • Systemausfall durch Ransomware, die KI-Infrastruktur verschlüsselt.

TOP-Prinzip: Absteigende Wirksamkeit

  • Technisch: Ende-zu-Ende-Verschlüsselung, Zero-Trust-Architektur, regelmäßige Pen-Tests.
  • Organisatorisch: Datenschutzbeauftragte einbinden, 4-Augen-Prinzip bei kritischen KI-Entscheidungen.
  • Persönlich: Phishing-Trainings, Awareness-Quiz „KI-Tricks erkennen“.

Abschnitt 5

Zielgruppen & Branchen

Die Unterweisung richtet sich an:

  • Kommunalverwaltungen (Stadt-, Kreis-, Gemeindeverwaltungen).
  • Sozialämter mit KI-unterstützter Leistungsprüfung.
  • Bauämter bei digitalen Prüfverfahren.
  • IT-Verantwortliche und Datenschutzbeauftragte in öffentlichen Einrichtungen.

Besonderheiten: Oft kleine Teams, begrenzte Ressourcen, hoher Anspruch an Transparenz gegenüber Bürger*innen.

Abschnitt 6

Intervalle & Dokumentation

Regelmäßige Unterweisung Erstunterweisung vor erstmaliger Tätigkeit, danach jährlich (§ 12 ArbSchG). Bei neuen KI-Systemen oder wesentlichen Änderungen sofortige Nachunterweisung.

Dokumentationspflichten

  • Unterweisungsbogen (Name, Inhalte, Datum, Unterschrift) – Aufbewahrung 3 Jahre.
  • Gefährdungsbeurteilung (mind. 10 Jahre).
  • Datenschutz-Folgenabschätzung (mind. 10 Jahre).

In der Praxis

Was Verantwortliche wissen müssen

Checkliste

Das sollten Sie prüfen

  • Gefährdungsbeurteilung KI-Systeme aktuell (max. 2 Jahre alt)?
  • Verarbeitungsverzeichnis und Betroffeneninformation aktualisiert?
  • AVV mit KI-Anbietern vorhanden und signiert?
  • Rollen- und Berechtigungskonzept dokumentiert?
  • Incident-Response-Plan bei KI-Pannen erstellt?
  • Mitarbeitende mindestens einmal jährlich unterwiesen?
  • Audit-Logs regelmäßig ausgewertet?
  • Transparenzbericht für Bürger*innen veröffentlicht?

Häufige Fehler

Das geht oft schief

  1. Verwechslung Betreiber vs. Auftragsverarbeiter
    Viele Kommunen glauben, durch Cloud-Hosting automatisch „unschuldig“ zu sein. Tatsächlich bleiben sie Verantwortlicher nach DSGVO.
  2. Fehlende Datenschutz-Folgenabschätzung
    Große KI-Projekte ohne DPIA starten – Bußgeld bis 10 Mio. € droht.
  3. Unterweisung nur für IT-ler
    Auch Sachbearbeitende, die KI-Ergebnisse freigeben, müssen regelmäßig geschult werden.
  4. Keine regelmäßige Aktualisierung der Gefährdungsbeurteilung
    KI-Systeme lernen kontinuierlich; Risiken ändern sich.
  5. Fehlende Dokumentation von KI-Fehlverhalten
    Vorfälle werden intern gelöst, aber nicht gemeldet oder dokumentiert – Verlust von Beweismitteln.

Sonderfälle

Das gilt zusätzlich

  • Telearbeit & Mobile KI-Nutzung
    Mitarbeitende greifen von zu Hause auf Cloud-KI zu. Zusätzliche Risiko: unsichere WLANs. Maßnahme: VPN-Zwang, Device-Management.
  • Aushilfskräfte & Werkstudent*innen
    Kurzfristige Einsätze erfordern abgespeckte, aber vollständige Unterweisung und getrenntes Rollenkonzept (nur lesender Zugriff).

Häufige Fragen

Fragen zur Unterweisung Sicherer Umgang mit Künstlicher Intelligenz (KI) für kommunale Betreiber

Wer ist eigentlich der „Betreiber“ eines KI-Chatbots in einer Kommune?
Die Kommune selbst bestimmt Zweck und Mittel der Verarbeitung – also der Verantwortliche i. S. d. DSGVO. Der externe KI-Anbieter ist Auftragsverarbeiter.

Muss ich bei jeder neuen KI-Version erneut unterweisen?
Nein, nur bei wesentlichen Änderungen (neue Datenflüsse, neue Funktionen) oder spätestens jährlich.

Wie lange muss ich die Unterweisungsnachweise aufbewahren?
3 Jahre gemäß ArbSchG. Bei Datenschutzvorfällen empfehlen sich 6 Jahre.

Gibt es branchenspezifische Vorgaben für Kommunen?
Ja, z. B. Kommunalabgabengesetze, Bauordnungen. Prüfen Sie die jeweiligen Speicherfristen.

Können wir die Schulung rein digital durchführen?
Ja, wenn Interaktion, Prüfung und Dokumentation gewährleistet sind (§ 12 Abs. 2 ArbSchG).

Müssen Ehrenamtliche geschult werden, die KI-Systeme nutzen?
Nur, wenn sie längerfristig und aufgabenbezogen Zugriff haben. Kurzfristige Beratungen sind ausgenommen.

Welche Bußgelder drohen bei Unterlassung?
Art. 83 DSGVO: bis 10 Mio. € oder 2 % des Jahresumsatzes. ArbSchG: bis 30.000 €.

Ist eine externe Datenschutz-Folgenabschätzung Pflicht?
Nicht zwingend, aber empfohlen bei hohem Risiko. Eigenes Know-how reicht bei kompetenten Mitarbeitern.

Weiterlesen

Jetzt rechtssicher online unterweisen

Starten Sie sofort mit der digitalen Unterweisung „Sicherer Umgang mit KI für kommunale Betreiber“. Lückenloses Zertifikat, sofortiger Nachweis, jederzeit abrufbar – für Ihre Kommune und alle Mitarbeitenden.

Kostenfreies Strategiegespräch vereinbaren