Sind KI-Detection-Tools zuverlässig?

„Einfach durch den KI-Detector ziehen" klingt nach schneller Lösung. Die Realität: KI-Detection ist ein Wettrüsten, und die Detektoren liegen chronisch einen Schritt hinter den Generatoren zurück.

Warum die Fehlerquoten so hoch sind

Neue Modelle, alte Training-Daten: Detektoren werden auf Ergebnissen bekannter Modelle trainiert. Neue Modelle produzieren Bilder, die in den Trainingsdaten fehlen, und werden nicht erkannt.

Post-Processing: Wer sein KI-Bild durch Upscaling, Color-Grading oder leichte Bearbeitung schickt, umgeht viele Detektoren.

Falsch-Positive bei Kunst: Bestimmte echte Kunststile (hyperrealistische Malerei, stark bearbeitete Fotografie) werden von Detektoren oft als KI eingestuft. Falsche Vorwürfe sind real.

Adversarial-Techniken: Es gibt bereits Tools, die gezielt KI-Bilder so verändern, dass Detektoren versagen.

Die typischen Fehlermuster

Falsch-Negativ: KI-Bild wird als echt eingestuft. Ein Detektor sagt „98 % echt", das Bild ist komplett KI-generiert.

Falsch-Positiv: Echtes Foto wird als KI erkannt. Kann zu falschen Anschuldigungen gegen Fotografen oder Journalisten führen.

Grau-Bereich: Bilder mit hybrider Bearbeitung (echtes Foto, KI-retuschiert) produzieren Scores zwischen 40 und 60 Prozent, unbrauchbar für Entscheidungen.

Die verantwortliche Nutzung

• Detection-Tools als einen Baustein in der Gesamtbewertung
• Nie als alleiniges Kriterium bei Entscheidungen mit Konsequenzen
• Auf Unsicherheit aufmerksam machen, nicht Gewissheit suggerieren
• Mehrere Detektoren parallel nutzen, Widerspruch zwischen ihnen ist aussagekräftig

Die strukturelle Antwort

Langfristig wird Herkunftsnachweis (C2PA, digitale Signaturen bei Kamera-Aufnahmen) wichtiger als Detection. Prüfen, woher ein Bild kommt, statt nachträglich zu raten, ob es echt ist.

Die aktuelle Empfehlung

Für journalistische oder juristische Zwecke: menschliche Prüfung mit Detection als Hilfsmittel. Nie Detection als alleinige Basis.