Agent schreibt – Agent prüft?

KI-Agenten übernehmen zunehmend Aufgaben in der Softwareentwicklung – nicht nur beim Schreiben von Code, sondern auch bei dessen Prüfung.

Das zeigt eine interessante Entwicklung:

Wenn KI immer mehr Code erzeugt, kann die Kontrolle darüber kaum ausschliesslich durch Menschen erfolgen. Bei grossen Codebasen wäre das schlicht nicht skalierbar.

Eine mögliche Architektur

Künftig könnten Entwicklungsprozesse deshalb häufiger so aufgebaut sein:

Agent erstellt Code
↓
zweiter Agent überprüft ihn
↓
automatisierte Tests validieren das Verhalten
↓
Regeln und Guardrails prüfen Architektur und Sicherheit
↓
der Mensch entscheidet

Damit entstehen regelrechte Agentenketten innerhalb der Softwareentwicklung.

Unabhängige Prüfung statt Selbstkontrolle

Entscheidend ist dabei ein Punkt:

Ein Agent sollte nicht einfach seinem eigenen Ergebnis vertrauen.

Das gilt genauso wie bei menschlichen Entwicklern: Wer etwas selbst erstellt hat, sollte nicht die einzige Instanz sein, die dessen Qualität bewertet.

Gute Agentensysteme brauchen deshalb mehrere voneinander getrennte Prüfmechanismen.

Dazu gehören:

• automatisierte Tests
• unabhängige Prüf-Agenten
• Architekturregeln
• Security-Checks
• Guardrails
• menschliche Freigaben bei kritischen Entscheidungen

Der neue Engpass ist die Verifikation

Je schneller wir Software erzeugen können, desto wichtiger wird eine andere Frage:

Wie schnell können wir sie zuverlässig überprüfen?

Der Engpass in der KI-gestützten Softwareentwicklung könnte deshalb künftig weniger das Schreiben von Code sein.

Der eigentliche Engpass wird möglicherweise die verlässliche Verifikation des erzeugten Codes.