Datenschutz beim KI-Einsatz an Schulen
Information für Lehrpersonen | Kanton Zürich | Basierend auf dem IDG und dem Fragekatalog Sek II
Dieses Dokument fasst die wichtigsten datenschutzrechtlichen Grundsätze zusammen, die Lehrpersonen beim Einsatz von KI-Tools beachten müssen. Es basiert auf dem kantonalen Gesetz über die Information und den Datenschutz (IDG) des Kantons Zürich und den juristischen Bewertungen des Fragekatalogs Sek II. Es ersetzt keine Rechtsberatung.
1. Rechtlicher Rahmen
Schulen im Kanton Zürich sind öffentliche Organe und unterstehen dem Gesetz über die Information und den Datenschutz (IDG). Dieses regelt, wie Personendaten bearbeitet werden dürfen. Ergänzend kann das Bundesgesetz über den Datenschutz (DSG) relevant sein. Lehrpersonen agieren als Teil des öffentlichen Organs «Schule».
2. Personendaten im Schulkontext
Gewöhnliche Personendaten
- • Namen, E-Mail-Adressen, Klassenzugehörigkeit
- • Noten und Prüfungsergebnisse
- • Schülerarbeiten (Aufsätze, Präsentationen, Lösungen)
- • Chat- und Kommunikationsprotokolle
- • Lernstandsdaten, Feedbacks
Besonders schützenswerte Personendaten
- • Gesundheitsdaten, Lernschwächen
- • Disziplinarmassnahmen
- • Biometrische Daten (Stimmaufnahmen zur Identifikation)
- • Profile (automatisierte Auswertung: Profiling)
- • Fotos und Videos von Schüler:innen
→ Erfordern besondere Schutzmassnahmen und DSFA
3. Die drei KI-Modell-Typen und ihre datenschutzrechtliche Bewertung
OKI – Offene KI-Modelle
z.B. ChatGPT Free, Gemini Free – Daten werden für Training/eigene Zwecke des Anbieters genutzt
- ✗ Keine Personendaten eingeben
- ✗ Keine Verpflichtung der SuS zur Nutzung (wenn Personendaten erforderlich)
- ✗ Amtsgeheimnis wird bei vertraulichen Informationen verletzt
- ✗ Bekanntgabe nur mit Einwilligung im Einzelfall möglich (umstritten bei kontinuierlichem Einsatz)
- ✓ Nutzung ohne Personendaten grundsätzlich möglich (Unterrichtsplanung, Ideengenerierung)
GKImW – Geschlossene KI mit Weitergabe
z.B. ChatGPT Enterprise/Edu, Azure OpenAI, schulische KI-Plattformen mit externem Hosting
- ⚠ Personendaten nur mit Auftragsdatenbearbeitungsvertrag (RR IT-AGB)
- ⚠ DSFA (Datenschutzfolgenabschätzung) ist Pflicht
- ⚠ Verhältnismässigkeitsprinzip stets prüfen
- ⚠ Besonders schützenswerte PD erfordern zusätzliche Schutz- und Sicherheitsvorkehrungen
- ⚠ Grenzüberschreitende Bekanntgabe: Voraussetzungen prüfen
- ✓ Bei Erfüllung aller Voraussetzungen: Personendaten grundsätzlich möglich
GKIoW – Geschlossene KI ohne Weitergabe
Daten werden nicht an Dritte weitergegeben und nicht für Training verwendet – es gibt zwei Varianten:
Variante 1: GKIoW-Lokal – auf eigenem Gerät oder eigener Infrastruktur
z.B. lokal installierte Modelle (LM Studio, Ollama), schulinterne Server, kantonale On-Premise-Lösungen. Daten verlassen das Gerät bzw. das Schulnetz nie.
Variante 2: GKIoW-Cloud – registrierter Cloud-Dienst ohne Training und ohne dauerhafte Speicherung
z.B. ein KI-Dienst im Internet, bei dem man sich registriert, aber der Anbieter vertraglich zusichert: kein Training mit Eingabedaten, keine dauerhafte Speicherung der Prompts, eingeschränkter Zugriff. Vergleichbar mit einer Cloud wie Microsoft 365: Dokumente können temporär gespeichert werden, aber der Zugriff ist auf den registrierten Nutzer beschränkt – genau wie in einer Cloud, wo nur berechtigte Personen auf Dateien zugreifen können. Die Daten verbleiben in einer geschützten Umgebung.
- ✓ Gewöhnliche Personendaten grundsätzlich zulässig
- ✓ Sicherste Option für den schulischen Einsatz
- ⚠ Verhältnismässigkeitsprinzip weiterhin beachten
4. Zentrale Grundsätze
| Grundsatz | Bedeutung für den KI-Einsatz |
|---|---|
| Verhältnismässigkeit | Die Datenbearbeitung muss geeignet und erforderlich sein. Nicht erheblich invasiver als bei analoger Bearbeitung. |
| Zweckbindung | Daten dürfen nur für den vorgesehenen Zweck (Unterricht, Bewertung) verwendet werden. |
| Transparenz | Bei bestimmten Einsatzszenarien (z.B. Plagiatsprüfung) müssen SuS informiert werden. Sonst empfohlen. |
| Datensicherheit | Die Schule ist verantwortlich für angemessene technische und organisatorische Massnahmen. |
| Datenminimierung | Nur so viele Daten wie nötig eingeben. Speicherdauer auf das Notwendige beschränken. |
5. Checkliste vor dem KI-Einsatz mit Personendaten
Welche Art von Daten gebe ich ein? (Keine PD → alle Modelle möglich)
Welcher KI-Modell-Typ liegt vor? (OKI / GKImW / GKIoW)
Ist die Bearbeitung verhältnismässig? (Geeignet und erforderlich?)
Sind besonders schützenswerte PD betroffen? (→ Besondere Massnahmen, DSFA)
Wo werden die Daten gespeichert? (CH/EU = OK, USA = nur mit Framework + Verschlüsselung)
Bestehen vertragliche Vorkehrungen? (Bei GKImW: Auftragsdatenbearbeitungsvertrag)
Wurde eine DSFA durchgeführt? (Bei GKImW mit PD: Pflicht)
Müssen SuS/Eltern informiert werden? (Plagiatssoftware: Ja. Sonst: empfohlen)
Können SuS zur Nutzung verpflichtet werden? (OKI: Nein bei PD-Pflicht)
Ist die Anonymisierung ausreichend? (Namen entfernen allein genügt i.d.R. nicht)
6. Wichtige Spezialhinweise
ChatGPT (Grundversionen)
In ChatGPT (Konsumentenversionen) dürfen keinerlei Personendaten eingegeben werden, da OpenAI keine genügenden datenschutzrechtlichen Zusicherungen abgibt. Enterprise-/Edu-Versionen bedürfen einer eingehenden Prüfung.
Besonders schützenswerte Personendaten gehören nicht in KI-Tools
Besonders schützenswerte Personendaten (Gesundheitsdaten, Lernschwächen, Disziplinarfälle, sensible Elternkorrespondenz) gehören in keine KI – auch nicht in GKIoW-Systeme auf dem eigenen Gerät. Solche Daten sind ausschliesslich in geschützten Verwaltungsumgebungen (z.B. kantonale Schulverwaltungssysteme, geschützte Fachapplikationen) zu bearbeiten und zu speichern, nicht auf individuellen Geräten von Lehrpersonen.
Amtsgeheimnis
Die Eingabe vertraulicher Informationen in OKI oder GKImW kann das Amtsgeheimnis verletzen. Vertrauliche Inhalte gehören grundsätzlich nur in geschützte Verwaltungsumgebungen.
Haftung
Die Schule ist für die Datensicherheit verantwortlich. Bei Datenverlust greift die Staatshaftung der Gemeinde, die unter Umständen Regress auf Angestellte nehmen kann. Lehrpersonen bleiben für Bewertungsentscheide verantwortlich, auch wenn KI-Tools eingesetzt werden.
Einwilligung
Eine explizite Einwilligung der Erziehungsberechtigten ist für den KI-Einsatz grundsätzlich nicht erforderlich. Es gelten die allgemeinen datenschutzrechtlichen Grenzen. Urteilsfähige Minderjährige können selbst einwilligen.
7. Grenzüberschreitende Datenübermittlung
| Serverstandort | Bewertung |
|---|---|
| Schweiz | ✓ Kein Problem |
| EU/EWR | ✓ Angemessenes Datenschutzniveau. Vorsicht bei US-Muttergesellschaften (CLOUD Act). |
| USA | ⚠ Nur bei Unternehmen mit Swiss-U.S. Data Privacy Framework. Besondere PD nur verschlüsselt. |
| Unbekannt | ✗ Nicht zulässig für Personendaten. |