KI-Compliance-Basics – Was du darfst, was du musst, was du lässt

Drei Fehler, die täglich passieren

Das Problem entsteht an drei Stellen: Eingabe, Ausgabe, Veröffentlichung. Drei typische Szenarien aus dem Arbeitsalltag:

1. Der Datenschutz-Fehler: Ein Projektbericht mit Partnernamen und Förderkennzeichen wird in ChatGPT eingefügt, um eine Zusammenfassung zu erstellen. Risiko: Datenabfluss.
2. Die erfundene Quelle: ChatGPT liefert eine plausible Statistik für eine Pressemitteilung. Die Zahl ist frei erfunden. Die PM geht raus. Risiko: Reputation.
3. Das Logo im Bild: Ein KI-generiertes Bild für Social Media enthält im Hintergrund ein erkennbares Markenlogo. Unbemerkt. Risiko: Markenrecht.

Alle drei Fehler passieren nicht aus böser Absicht. Sondern weil niemand gezeigt hat, worauf man achten muss.

Was du in dieser Lesson lernst

Keine Rechtsvorlesung. Stattdessen: Praktische Orientierung entlang deines tatsächlichen Workflows. Du lernst drei Prüfmomente kennen, die zur Gewohnheit werden.

Stell dir vor, du fährst Auto. Du musst nicht wissen, wie der Motor funktioniert. Aber die Verkehrsregeln musst du kennen. Der EU AI Act ist die Straßenverkehrsordnung für KI. Seit 2024 tritt er stufenweise in Kraft.

Vier Risikostufen — Wo stehst du?

Was muss gekennzeichnet werden?

Ab dem 2. August 2026 werden Transparenzpflichten durchgesetzt:

• Chatbots: Nutzer müssen wissen, dass sie mit einer KI interagieren.
• KI-Texte und Bilder: Kennzeichnung als "KI-generiert" bei öffentlicher Nutzung.
• Deepfakes: Maschinenlesbare Markierung verpflichtend. Für Menschen klar erkennbar kennzeichnen.

Quick-Check: Betrifft mich das?

Du willst ein Protokoll zusammenfassen lassen. Im Text stehen Personalnummern, Krankmeldungen und der Name einer Kollegin. Darf das in ChatGPT? Kurze Antwort: Nein. Längere Antwort: Es kommt auf das Tool an.

Die roten Linien: Art. 9 DSGVO

Für diese Datenkategorien gilt ein grundsätzliches Verarbeitungsverbot. Sie dürfen unter keinen Umständen in externe KI-Tools eingegeben werden:

• Gesundheitsdaten (Diagnosen, Krankschreibungen)
• Ethnische Herkunft
• Politische Meinungen / Religiöse Überzeugungen
• Biometrische Daten
• Sexuelle Orientierung

Personenbezogene Daten: Breiter als gedacht

Nicht das Tool ist das Problem — sondern die Kombination

Zwei Techniken für den Soforteinsatz

Du musst nicht auf jede KI-Nutzung verzichten, nur weil sensible Daten im Spiel sind. Zwei einfache Techniken machen die meisten Texte KI-tauglich, ohne dass Informationen verloren gehen.

Technik 1: Maskierung

Bei der Maskierung ersetzt du konkrete Identifikatoren durch Platzhalter in eckigen Klammern. Der Trick: Die KI braucht die echten Namen nicht. Sie braucht nur die Struktur und die Rollen. Ob die Person "Marie Schmidt" oder "[PERSON_1]" heißt, ist für eine Zusammenfassung oder Analyse irrelevant.

Technik 2: Generalisierung

Generalisierung geht einen Schritt weiter: Statt Platzhalter zu setzen, machst du konkrete Details bewusst unscharf. Exakte Zahlen werden zu Größenordnungen, spezifische Abteilungen zu allgemeinen Beschreibungen, Firmennamen zu Rollen. Das Ergebnis bleibt für die KI genauso verwertbar — aber ein Rückschluss auf Personen oder Unternehmen wird unmöglich.

KI-Outputs sind Entwürfe, keine Ergebnisse. Das gilt rechtlich und inhaltlich. Zwei Risiken stecken in jedem generierten Text: Er könnte falsch sein. Und er könnte jemandem gehören.

Urheberrecht: Die zwei Seiten der Medaille

Beides ist gleichzeitig wahr und beides betrifft dich:

1. Kein Schutz für dich: Rein KI-generierte Inhalte erhalten keinen Urheberrechtsschutz. Wettbewerber können deine KI-Texte frei kopieren.
2. Risiko für dich: KI kann geschütztes Material aus Trainingsdaten reproduzieren. Veröffentlichst du das, haftest du für Urheberrechtsverletzungen.

Das Spektrum: Wann sind KI-Outputs geschützt?

Halluzinationen: Warum KI "lügt"

Die KI will den Satz beenden, nicht die Wahrheit sagen. Sie greift nicht auf eine Datenbank zu. Sie berechnet Wahrscheinlichkeiten für das nächste Wort. Eine erfundene Tatsache kann sprachlich perfekt passen.

Wo halluziniert KI am häufigsten?

• Quellen und Zitate: Erfindet plausible aber nicht-existente Quellen
• Rechtliche Aussagen: Paragraphen und Fristen werden plausibel kombiniert, aber falsch
• Zahlen und Statistiken: Konkrete Zahlen wirken seriös, sind aber oft geschätzt oder erfunden
• Personen und Biografien: Mischt echte und erfundene Fakten
• Aktuelles: Alles nach dem Trainings-Cutoff wird geraten
• Fachliche Randbereiche: Je nischiger das Thema, desto mehr Erfindung

Ein KI-generiertes Bild für Social Media. Im Hintergrund: ein erkennbares Markenlogo. Im Vordergrund: eine Person, die einer bekannten Politikerin ähnelt. Beide Probleme sind unsichtbar — bis jemand klagt.

Die typischen Risiken bei KI-Bildern

• Markenrechte: Cola-Flasche, Porsche-Silhouette, Logos, Künstlerstile (Pixar, Banksy). Aktiv gegensteuern bei Bild-Prompts!
• Persönlichkeitsrechte: Bekannte Persönlichkeiten, unbeabsichtigte Doppelgänger. Immer mit fiktiven Personen arbeiten!
• Wettbewerbsrecht: Optimierte oder verzerrte Darstellung eigener Produkte.
• Bias: Stereotype Darstellungen (z.B. CEO = männlich/weiß, Hochzeit = westlich).
• Falsche Details: Technisch inkorrekte Darstellungen (z.B. falsche Maschinenteile).

Das Ampelsystem

Drei Szenarien aus der Praxis

Du hast jetzt das Wissen. Jetzt braucht es eine Gewohnheit. Die gute Nachricht: Drei Fragen an drei Stellen reichen aus, um die häufigsten Compliance-Fehler zu vermeiden.

Die drei Prüfmomente

Kompakt-Checkliste zum Mitnehmen

Vor dem Input

• Personenbezogene Daten maskiert?
• Art. 9 Daten (Gesundheit, Religion etc.) ausgeschlossen?
• Geschäftsgeheimnisse gefiltert?
• Passendes Tool (Enterprise vs. Consumer) gewählt?

Nach der Generierung

• Fakten und Zahlen verifiziert?
• Quellenangaben gegengeprüft?
• Auf Bias und Stereotype geprüft?
• Substanziell überarbeitet (nicht nur Copy-Paste)?

Vor der Veröffentlichung

• Text: 4-Augen-Prinzip bei externen Texten?
• Bild: Personen und Marken geprüft (Ampelsystem)?
• Als KI-generiert gekennzeichnet?
• Transparenzpflichten erfüllt?

Für Grauzonen: Der 4-Fragen-Test

Nicht alles ist schwarz oder weiß. Wenn die Checkliste nicht weiterhilft, stell dir vier Fragen:

1. Transparenz-Test: Wäre ich bereit, öffentlich zu erklären, wie wir die KI hier einsetzen?
2. Fairness-Test: Behandeln wir alle Betroffenen fair und respektvoll?
3. Konsequenz-Test: Was passiert, wenn alle Organisationen so handeln würden?
4. Bauchgefühl-Test: Fühlt sich die Entscheidung richtig an? Unbehagen ernst nehmen.

KI-Compliance klingt nach Bürokratie. In Wahrheit sind es fünf Regeln und drei Gewohnheiten. Du hast jetzt beides.

Die fünf Regeln dieser Lesson

Dein Minimal-Setup: Drei Schritte für heute

1. Prüfe deine Tools: Welche KI-Tools nutzt du? Consumer-Version oder Enterprise? Ist ein Auftragsverarbeitungsvertrag vorhanden?
2. Maskiere ab sofort: Bei jedem Prompt mit internen Daten — Personennamen ersetzen, Geschäftsgeheimnisse generalisieren.
3. Kennzeichne proaktiv: KI-generierte Inhalte ab heute als solche markieren. Nicht auf den Stichtag 2026 warten.

Ausblick: Governance im Team

Wenn du KI nicht nur allein nutzt, sondern im Team oder in der Organisation einführen willst, braucht es zwei Dokumente: Eine schlanke Compliance-Richtlinie (Was darf, was nicht? Max. 5-10 Seiten, selten aktualisiert) und ein lebendiges Anwenderhandbuch (Wie nutzen wir KI richtig? Wiki-Stil, wächst durch Mitarbeitende). Die Richtlinie schützt. Das Handbuch befähigt. Beides zusammen ist die Basis für professionellen KI-Einsatz im Team.

Begriffe aus dieser Lesson

• Auftragsverarbeitungsvertrag — Ein Auftragsverarbeitungsvertrag (AVV) regelt, wie ein KI-Anbieter mit den personenbezogenen Daten umgeht, die du ihm zur Verarbeitung gibst. Ohne AVV keine DSGVO-konforme Nutzung mit personenbezogenen Daten.
• DSGVO im KI-Kontext — Die DSGVO regelt den Umgang mit personenbezogenen Daten, auch wenn KI-Tools involviert sind. Solange keine personenbezogenen Daten in die KI fließen, greift die DSGVO nicht. Sobald sie fließen, braucht es eine Rechtsgrundlage.
• EU AI Act — Der EU AI Act ist die erste umfassende KI-Regulierung weltweit. Er klassifiziert KI-Systeme nach Risikoklassen (verboten, hoch, begrenzt, minimal) und definiert Pflichten für Anbieter und Betreiber.
• Prompt Injection — Prompt Injection ist ein Sicherheitsproblem, bei dem Nutzer-Input die System-Anweisungen eines KI-Systems manipuliert. Das Modell folgt dann den eingeschleusten Anweisungen statt den vorgesehenen.

Passende Fragen

• Betrifft der EU AI Act nur KI-Entwickler?
  Nein. Der AI Act reguliert auch Betreiber, also Anwender. Wer KI im Unternehmen einsetzt, hat Transparenzpflichten und muss Risikoklassen beachten. Sich als „reiner Nutzer" aus der Verantwortung zu nehmen, funktioniert rechtlich nicht.
• Ist das Ersetzen von Namen schon Anonymisierung?
  Nein. Namen durch „Person A" zu ersetzen ist Pseudonymisierung, nicht Anonymisierung. Die DSGVO gilt weiterhin, weil ein Rückschluss auf die echte Person noch möglich ist, zum Beispiel über den Kontext der Daten.
• Ist der API-Zugang zu KI automatisch sicherer als die App?
  Nicht unbedingt. Entscheidend ist, ob ein Auftragsverarbeitungsvertrag vorliegt, wo die Daten verarbeitet werden und ob sie für das Training genutzt werden. Die Schnittstelle allein sagt über Sicherheit wenig aus.
• Ist Open-Source-KI nicht vom AI Act reguliert?
  Nur teilweise. Die Open-Source-Ausnahme des AI Act gilt für Systeme mit minimalem und begrenztem Risiko. Bei Hochrisiko-Anwendungen gelten dieselben Pflichten wie für kommerzielle Modelle.
• Sind KI-generierte Texte urheberrechtlich geschützt?
  In der Regel nein. Ein einfacher Prompt reicht nicht, um ein eigenes Werk zu schaffen. Erst substanzielle menschliche Bearbeitung begründet Urheberschutz. Wer KI-Texte direkt weiterverwendet, hat oft keine exklusiven Rechte daran.
• Verbietet die DSGVO KI-Nutzung?
  Nein. Die DSGVO setzt Bedingungen für die Verarbeitung personenbezogener Daten, verbietet KI aber nicht. KI-Nutzung mit anonymisierten oder öffentlichen Daten ist unproblematisch. Wer personenbezogene Daten verarbeitet, braucht eine saubere Rechtsgrundlage.