Hinweis: Diese Seite ist eine verständliche Zusammenfassung unserer KI-Praxis. Die finale, juristisch geprüfte Fassung im Sinne von Art. 13, 26 und 50 EU AI Act (VO 2024/1689) sowie Art. 13/14 DSGVO wird vor produktivem Roll-out ergänzt. Bis dahin gilt sie als informativer Platzhalter, nicht als abschließende rechtliche Erklärung.

KI-Transparenz · EU AI Act

Wenn KI mitschreibt, sagen wir es dir.

„Der Digitale Kompass“ nutzt an einzelnen Stellen generative KI, um Eltern, Lehrkräfte und Kinder zu unterstützen. Auf dieser Seite erfährst du transparent, wo, wie und mit welchen Grenzen — im Sinne von Art. 50 und Art. 26 EU AI Act.

1. Wo wir KI einsetzen

Klare Zwecke, klare Grenzen.

Guardian-Chat
Antwortet auf Fragen von Eltern und Fachkräften zu digitaler Gewalt, Cybermobbing, Sharenting und Notfall-Situationen. Verweist auf geprüfte Quellen (BSI, klicksafe, JRC, Polizeiliche Kriminalprävention).
Kein Hochrisiko-System (Art. 6). Chatbot mit Transparenzpflicht (Art. 50 Abs. 1).
Trainings-Roleplay
Simuliert Gesprächspartner:innen (Kind, Elternteil, Kollegium), damit Nutzer:innen schwierige Gespräche üben können. Rein didaktisch.
Kein Hochrisiko-System. Chatbot mit Transparenzpflicht (Art. 50 Abs. 1).
Coach & Modul-Erklärungen
Erläutert Kursinhalte und beantwortet inhaltliche Rückfragen zu Modulen.
Kein Hochrisiko-System. Transparenzpflicht (Art. 50 Abs. 1).

Was wir bewusst NICHT tun:

· Keine Bewertung, Auswahl oder Benotung von Personen (kein Hochrisiko-Einsatz nach Anhang III).
· Kein automatisiertes „Screening“ von Kindern, keine biometrische Kategorisierung.
· Kein Einsatz verbotener Praktiken nach Art. 5 (kein Social Scoring, keine emotionale Manipulation, kein Predictive Policing).
· Keine automatisierten Entscheidungen mit rechtlicher Wirkung (Art. 22 DSGVO).

2. So erkennst du KI-Inhalte

Art. 50 Abs. 1 & Abs. 4 EU AI Act — Kennzeichnungspflicht.

An jeder Oberfläche, an der ein Sprachmodell antwortet, siehst du eine sichtbare Markierung — die KI-Badge KI-generierte Antworten — sowie einen Hinweis unter dem Eingabefeld. Sollten wir in Zukunft synthetische Bilder, Videos oder Audio verwenden, kennzeichnen wir diese maschinenlesbar und sichtbar (Art. 50 Abs. 2).

3. Anbieter, Modelle & Datenflüsse

Modell-Klasse

Große Sprachmodelle (LLM) eines EU-konformen Anbieters, angebunden über ein AI-Gateway. Konkrete Modelle können sich weiterentwickeln; eine tagesaktuelle Liste stellen wir auf Anfrage zur Verfügung.

Wo Daten verarbeitet werden

Anfragen werden verschlüsselt an den Modell-Anbieter übertragen. Wir wählen bevorzugt Anbieter mit Verarbeitung in der EU bzw. mit geeigneten Garantien nach Art. 46 DSGVO.

Was gespeichert wird

Chatverläufe angemeldeter Nutzer:innen werden in unserer EU-Datenbank gespeichert, damit du sie fortsetzen kannst. Du kannst sie jederzeit löschen (Art. 17 DSGVO).

Training

Deine Eingaben werden nicht zum Training generativer Modelle verwendet — weder durch uns noch durch den Modell-Anbieter (vertraglich zugesichert).

4. Menschliche Aufsicht (Human Oversight)

Art. 14 EU AI Act — sinngemäß angewendet.

· Alle inhaltlichen Empfehlungen im Guardian-Chat verweisen auf geprüfte externe Quellen (BSI, klicksafe, JRC, BBK, ProPK, Nummer gegen Kummer).
· Bei akuten Notfällen zeigt Guardian sofort Notfallnummern (110, 112, 0800 111 0 111) und tritt aus dem KI-Modus heraus.
· Redaktion & Pädagogik prüfen kritische Prompts und Systemanweisungen periodisch.
· Nutzer:innen können jede Antwort melden — wir prüfen manuell nach.

5. Grenzen & bekannte Risiken

· KI-Antworten können falsch, unvollständig oder veraltet sein („Halluzinationen“). Verlasse dich nicht auf einzelne Aussagen — prüfe wichtige Entscheidungen mit den verlinkten Quellen.
· KI ersetzt keine Rechts-, medizinische, psychologische oder digitalforensische Beratung.
· Für Minderjährige unter 16 Jahren empfehlen wir Begleitung durch eine erwachsene Vertrauensperson.
· Bei Verdacht auf Straftaten: Polizei einbinden. Beweismittel nicht selbst sichern (siehe „Beweissicherungs-Falle“ im Workshop-Buch).

6. Verbotene Praktiken (Art. 5 EU AI Act)

„Der Digitale Kompass“ setzt keine der nach Art. 5 EU AI Act verbotenen KI-Praktiken ein — insbesondere kein Social Scoring, keine unterschwellige Manipulation, keine Ausnutzung von Schutzbedürftigkeit Minderjähriger, keine biometrische Fernidentifizierung, keine Emotionserkennung im Bildungs- oder Arbeitskontext.

7. KI-Kompetenz (Art. 4 EU AI Act)

Art. 4 EU AI Act verpflichtet Anbieter und Betreiber, für ausreichende KI-Kompetenz ihrer Mitarbeitenden und weiteren betroffenen Personen zu sorgen. Für Lehrkräfte an bayerischen Schulen bieten wir dazu eine eigene Fortbildung „EU AI Act Art. 4 — KI-Kompetenz für Lehrkräfte“ mit vier Modulen und abschließendem Zertifikat an. Details siehe Bereich Schule.

8. Rechtsgrundlagen

· Verordnung (EU) 2024/1689 (EU AI Act), insb. Art. 4, 5, 6, 13, 14, 26, 50.
· Verordnung (EU) 2016/679 (DSGVO), insb. Art. 6, 13, 14, 22.
· § 25 TDDDG (Cookies / Endgeräte-Zugriff).
· Länder-Schulrecht bei Einsatz in Schulen (in Bayern u. a. BayEUG, BaySchO).

9. Deine Rechte

· Recht auf Auskunft, Berichtigung, Löschung und Datenübertragbarkeit (Art. 15–20 DSGVO).
· Recht, KI-Funktionen nicht zu nutzen — die statischen Kursinhalte, Workshop-Bücher, Praxiskarten und Notfall-Playbooks funktionieren vollständig ohne KI.
· Recht auf Widerspruch gegen die Verarbeitung (Art. 21 DSGVO).
· Recht auf Beschwerde bei einer Aufsichtsbehörde (Art. 77 DSGVO). Zuständig ist grds. die Datenschutzaufsicht deines Wohnorts; für Bayern (nicht-öffentlicher Bereich) das BayLDA in Ansbach.

10. Kontakt & Meldeweg

Fragen zur KI-Nutzung, Beschwerden, Meldung problematischer KI-Antworten oder Ausübung deiner Rechte:

E-Mail: ki@der-digitale-kompass.com

Wir antworten in der Regel innerhalb von 5 Werktagen. Bitte gib (wenn möglich) das ungefähre Datum, den Modus (Guardian / Roleplay / Coach) und einen Ausschnitt der Antwort an.

Datenschutz →AGB →Impressum →

Letzte Aktualisierung: 23. Juli 2026 · Bezugsrahmen: VO (EU) 2024/1689, DSGVO, TDDDG.