Agentic Data & Software Engineering

Sicherer SDLC mit KI: Die KI, die testet, sollte nicht die sein, die den Code geschrieben hat

Von Xavier Franco, CEO de Elternativa · Grupo Zemsania
· 6 Min. Lesezeit

Mit Unterstützung von KI verfasst und von Xavier Franco geprüft

Tür eines Tresorraums mit zwei getrennten Schlössern, in einem steckt der Schlüssel, das andere wartet auf seinen.
In diesem Artikel

Es gibt eine Regel, die in jedem seriösen Unternehmen niemand infrage stellt: Wer etwas macht, ist nicht der, der es für gut befindet. Die Buchhaltung wird von jemand anderem geprüft. Eine große Zahlung zeichnen zwei Personen. Und doch akzeptieren wir bei der KI genau das Gegenteil: dass dasselbe Werkzeug, das den Code schreibt, entscheidet, ob der Code stimmt. Deshalb bestehe ich auf einer Regel, die ich so zusammenfasse: Die KI, die testet, sollte nicht die sein, die den Code geschrieben hat.

Was der SSDLC ist und warum er wieder wichtig wird

Der sichere SDLC (secure software development life cycle, SSDLC) ist der Lebenszyklus der Softwareentwicklung mit Sicherheit in jedem Schritt: in der Anforderung, im Design, im Code, in den Tests und im Deployment. Er ist keine Phase am Ende, sondern eine Arbeitsweise.

Da die KI einen guten Teil des Codes schreibt, rückt der sichere SDLC wieder in den Mittelpunkt. Denn das Volumen steigt stark, und was früher in Ruhe geprüft wurde, kommt jetzt in einem Tempo an, das keine Person Zeile für Zeile lesen kann.

In der Praxis: Fragen Sie Ihr Team, welcher Teil des in diesem Monat integrierten Codes von einer KI geschrieben wurde. Wenn das niemand weiß, haben Sie schon Ihre erste Aufgabe.

Was die Daten zu KI-generiertem Code sagen

Veracode hat im Juli 2025 eine Studie veröffentlicht, die man im Kopf behalten sollte. Sie analysierte 80 Programmieraufgaben mit mehr als 100 Sprachmodellen, und der generierte Code führte in 45 % der Fälle Sicherheitslücken ein. Bei Java lag die Fehlerquote über 70 %. Und eine Erkenntnis, die ich für die wichtigste halte: Die größeren Modelle schnitten nicht wesentlich besser ab als die kleinen.

Das heißt: Auf das nächste Modell zu warten, löst das Problem nicht. Der Code, den eine KI schreibt, ist wie der jeder Person Code, der geprüft werden muss.

Der DORA-Bericht 2025 weist aus einem anderen Blickwinkel in dieselbe Richtung: 30 % der Fachleute geben an, wenig oder kein Vertrauen in KI-generierten Code zu haben. Und er warnt, dass ohne solide Kontrollsysteme, wie starke automatisierte Tests, eine ausgereifte Versionskontrolle und schnelle Feedbackzyklen, ein höheres Änderungsvolumen zu mehr Instabilität führt.

Warum dieselbe KI sich nicht selbst testen kann

Wenn Sie eine KI auffordern, Code zu schreiben und im selben Gespräch auch die Tests dazu, passiert etwas sehr Menschliches: Die Tests bestätigen, was der Code schon tut, nicht, was er tun sollte. Hat das Modell die Anforderung falsch verstanden, erben die Tests das Missverständnis und werden grün.

Deshalb genügt «die KI macht auch die Tests» nicht. Die Prüfung muss von woanders ausgehen:

  • Von den Kriterien, die vor Beginn festgelegt wurden, nicht vom bereits geschriebenen Code.
  • Von einer anderen Instanz, die nicht gesehen hat, wie die Lösung hergeleitet wurde.
  • Von einer Person, die entscheidet, ob das Gelieferte dem Gewünschten entspricht.

In der Praxis: Sehen Sie sich eine kürzlich mit KI erledigte Aufgabe an. Wenn die Tests in derselben Sitzung wie der Code geschrieben wurden, fragen Sie sich, was passiert wäre, wenn die Anforderung falsch verstanden worden wäre.

Schreibende und Prüfende trennen

So setzen wir es in unserer Methode um, Schritt für Schritt:

  1. Anforderung und Plan. Jede Aufgabe entsteht mit ihrem Vertrag und ihren Abnahmekriterien, vor Beginn festgelegt. Dieser Vertrag ist die Referenz für alles Weitere.
  2. Entwicklung. Eine KI-Instanz schreibt den Code.
  3. Tests. Sie werden von einer anderen Instanz als der, die den Code geschrieben hat, mit einer getrennten Testwarteschlange ausgeführt. Wer ausführt, validiert nicht seine eigene Arbeit.
  4. Review und Validierung. Eine Person validiert den Abschluss anhand des Codes, und die Unterschrift wird festgehalten.
  5. PR und Deployment. Die KI öffnet den Pull Request und respektiert Ihr Git und Ihre CI/CD mit deren gewohnten Kontrollen.

Das ist kein Misstrauen gegenüber der KI. Es ist dieselbe Funktionstrennung, die wir bei jedem wichtigen Prozess anwenden.

Die Tests in der Sprache des Fachbereichs

Ein Test, den nur sein Autor versteht, ist ebenfalls keine Kontrolle. Deshalb finde ich es gut, wenn Testfälle in der Sprache des Fachbereichs geschrieben werden, mit Szenarien nach dem Muster «Angenommen, wenn, dann», die jede Person lesen kann.

So muss, wer entscheidet, ob etwas taugt, den Testcode nicht lesen, um zu wissen, was geprüft wurde. Und jeder Fall ist mit der Story und der Entscheidung verknüpft, die ihn ausgelöst haben, mit seinem Ergebnis als Nachweis festgehalten.

In der Praxis: Lassen Sie sich die Testfälle einer kritischen Funktion zeigen. Wenn Sie sie ohne Hilfe nicht verstehen, validiert Ihr Fachbereich sie nicht.

Was man lernt, bleibt als Regel

Wenn ein Test einen Fehler findet, ist es am einfachsten, ihn zu beheben und weiterzumachen. Nützlich ist, dass sich dieser Fehler nicht wiederholt. In unserer Methode wird jeder gemessene Fehler zusammen mit der Absicherung gespeichert, die ihn überwacht: ein automatischer Test, eine Prüfung im Code oder eine Constraint in der Datenbank. Und er warnt nur die Rollen und Aufgaben, die er betrifft.

Mit KI ist das wichtiger denn je, weil sich eine Instanz nicht daran erinnert, was in der vorherigen Aufgabe passiert ist. Steht die Lektion nicht im System, geht sie verloren.

Wo Sie anfangen

  1. Messen Sie, welcher Teil Ihres Codes bereits von KI geschrieben wird.
  2. Legen Sie Abnahmekriterien fest, vor jeder Aufgabe, nicht danach.
  3. Trennen Sie, wer schreibt, von dem, der testet, auch wenn beide KI sind.
  4. Lassen Sie eine Person jeden Abschluss validieren, mit festgehaltener Unterschrift.
  5. Machen Sie aus jedem Fehler eine Regel, die sich selbst prüft.

Wie wir Ihnen helfen

Bei Agentic Data & Software Engineering orchestrieren wir die Entwicklungs-KI, die Sie bereits haben, über den gesamten SDLC: jede Aufgabe mit ihrem Vertrag und ihren vor Beginn festgelegten Kriterien, Tests, die von einer anderen Instanz als der ausgeführt werden, die den Code geschrieben hat, und eine Person aus Ihrem Team, die jeden Abschluss anhand des Codes validiert. Der Code bleibt in Ihrem Git und respektiert Ihre CI/CD.

Wir tun das mit Agentagile, unserer Methodik für die Entwicklung mit KI: Jede Lieferung wird nach denselben Regeln getestet und validiert, und nichts geht ohne die Freigabe Ihres Teams weiter.

Häufige Fragen

Was ist der SSDLC?

Es ist der Lebenszyklus der Softwareentwicklung mit in jeden Schritt integrierter Sicherheit: Anforderung, Design, Code, Tests und Deployment.

Ist KI-generierter Code sicher?

Nicht standardmäßig. Eine Veracode-Studie von 2025 fand Schwachstellen in 45 % der analysierten Aufgaben, und die größeren Modelle schnitten nicht wesentlich besser ab.

Kann die KI ihren eigenen Code testen?

Sie kann Tests ausführen, aber wenn dieselbe Instanz, die den Code geschrieben hat, sie schreibt, bestätigen sie tendenziell, was der Code ohnehin tut. Besser testet eine andere Instanz und eine Person validiert.

Wer validiert den Code, den die KI schreibt?

Eine Person aus dem Team, die den Abschluss anhand des Codes gegen die vor Beginn festgelegten Kriterien prüft.

Weiterlesen