Ist KI-generierter Code sicher?
Standardmäßig nein. Untersuchungen zeigen, dass knapp die Hälfte der KI-generierten Code-Beispiele durch gängige Sicherheitstests fällt, und größere Modelle schneiden nicht besser ab. Funktional ist der Code gut, sicherheitstechnisch systematisch schwach. Sicherheit muss explizit in den Prompt.
Die unbequeme Antwort zuerst: KI-generierter Code funktioniert meist, aber er ist nicht von selbst sicher. Der Veracode-Report 2025 hat es vermessen: Rund 45 Prozent der getesteten KI-Code-Beispiele fielen durch OWASP-Sicherheitstests. Und das Überraschende daran: Größere, neuere Modelle schreiben nicht sichereren Code. Das Problem verschwindet nicht mit dem nächsten Modell-Update.
Die drei typischen Lücken
Fehlende Eigentums-Checks (IDOR): Der Agent baut ein solides Login, prüft danach aber nicht, ob die angefragten Daten dem Nutzer gehören. Jeder Eingeloggte kann fremde Daten per ID abrufen. Der häufigste schwere Fehler in KI-gebauten Apps.
Env Exposure: Der Agent braucht einen API-Key im Frontend und nimmt den Weg des geringsten Widerstands, ein PUBLIC_-Prefix an der Umgebungsvariable. Damit steht der Key in jedem Browser, für jeden sichtbar.
Daten in Logs und Fehlermeldungen: Stack Traces, SQL-Fragmente oder Nutzerdaten in Fehlerausgaben. Praktisch beim Entwickeln, ein Geschenk für Angreifer in Produktion.
Was hilft: Sicherheit bestellen
Der Agent kennt die sicheren Muster, er wendet sie nur nicht ungefragt an. Deshalb gehören die Grenzen explizit in den Prompt: „Verify the caller owns the resource. Never log request bodies or tokens. Error responses never leak stack traces or SQL. Parameterized queries only."
Und danach: prüfen lassen
Vor dem Merge einen Security-Review-Prompt über den Code laufen lassen, in einer frischen Session, denn der Agent, der den Code geschrieben hat, verteidigt ihn. Wichtig dabei: eine Negativliste, was NICHT gemeldet werden soll, sonst geht das echte Finding im Rauschen spekulativer Warnungen unter.