Wer baut, prüft nicht.
Was gute KI-Entwicklung vom Vier-Augen-Prinzip gelernt hat.
In jedem ordentlichen Betrieb gibt es eine Wareneingangsprüfung, eine Freigabe, ein zweites Paar Augen. Niemand lässt den Monteur seine eigene Arbeit abnehmen. Bei KI-Agenten passiert genau das aber ständig: Derselbe Agent schreibt den Code und erklärt ihn danach für gelungen. Die besten Abläufe, die gerade unter dem Namen Software-Factory entstehen, drehen das um.
Die Idee einer Software-Factory ist schnell erklärt: Oben kommt ein Auftrag hinein, unten kommt geprüfte Software heraus. Dazwischen arbeiten KI-Agenten in festen Stationen, auch nachts und an mehreren Aufträgen gleichzeitig. Warum das Konzept trägt und woher es kommt, steht in Die Software-Factory. Hier geht es um die Frage, die Unternehmer zu Recht zuerst stellen: Woher weiß ich, dass das Ergebnis stimmt?
Erst prüfen, ob der Auftrag überhaupt taugt
Die erste Station baut nichts. Sie liest den Auftrag und stellt drei Fragen: Steht drin, was gebaut werden soll? Lässt sich jedes Kriterium überprüfen? Widerspricht sich etwas? Fehlt eine Kleinigkeit, kommt eine konkrete Rückfrage mit zwei, drei Antwortmöglichkeiten. Ist der Auftrag grundsätzlich unklar, wird er abgelehnt.
Das klingt pedantisch, verhindert aber den teuersten Fehler überhaupt: Ein Agent, der bei Unklarheit einfach annimmt, was gemeint sein könnte, und dann sehr schnell sehr viel Falsches baut. Eine gute Rückfrage am Anfang kostet eine Minute. Eine falsche Annahme kostet einen Tag.
Die Prüfung entsteht vor dem Bauen
Der Kern liegt in der Abnahme. Bevor eine Zeile Code entsteht, schreibt ein eigener Agent Testszenarien zu den Anforderungen: Was muss passieren, wenn ein Kunde das Formular ohne E-Mail abschickt? Was, wenn zwei Leute gleichzeitig denselben Termin buchen? Der Agent, der danach baut, bekommt diese Szenarien nicht zu sehen. Er kann also nicht auf die Prüfung hin optimieren.
Nach dem Bauen startet ein frischer Agent, der nur drei Dinge kennt: die Anforderungen, die Szenarien und das Ergebnis. Er öffnet die Anwendung im Browser und spielt jedes Szenario durch. Findet er etwas, geht der Auftrag mit dem Befund zurück in die Umsetzung. Erst wenn alles besteht, landet das Ergebnis bei einem Menschen zur Freigabe.
- Getrennte Rollen: Wer baut, prüft nicht. Ein Agent bewertet seine eigene Arbeit gern zu gut, genau wie ein Mensch.
- Verdeckte Prüfkriterien: Die Tests stehen fest, bevor gebaut wird, und der Bauende kennt sie nicht.
- Mensch am Ende: Die letzte Freigabe bleibt eine bewusste Entscheidung, mit Vorschau zum Durchklicken.
Gleicher Ablauf, messbare Qualität
Weil jeder Auftrag dieselben Stationen durchläuft, wird Qualität zum ersten Mal messbar: Wie oft gab es Rückfragen? Wie oft hat die Abnahme beim ersten Versuch bestanden? Wie lange dauert ein Auftrag im Schnitt? Ändert man etwas am Ablauf, sieht man nach ein paar Tagen, ob es besser geworden ist. Das ist derselbe Gedanke wie in jeder Fertigung: Was man misst, kann man verbessern.
Dazu kommt ein Vorteil, der in Teams oft unterschätzt wird. Normalerweise arbeitet jeder Entwickler mit eigenen Gewohnheiten und eigenen Prompts. In einer Factory läuft jedes Projekt durch denselben Ablauf. Die Qualität hängt dann weniger davon ab, wer gerade am Projekt sitzt.
Wie viel davon ein Projekt braucht
Ehrlich eingeordnet: So ein Aufbau ist Softwareentwicklung in ihrer besten Form, nicht die Mindestanforderung. Für ein kleines internes Werkzeug reicht oft eine klare Beschreibung, ein Agent und ein prüfender Blick. Dafür braucht es keine Fabrik. Sobald aber Kunden mit einer Lösung arbeiten, Rechnungen darüber laufen oder mehrere Projekte parallel betreut werden, zahlt sich die getrennte Abnahme schnell aus. Der Aufwand richtet sich nach dem Einsatz.
Was das für dich als Auftraggeber heißt
Du musst keine Factory betreiben, um davon zu profitieren. Aber du kannst die richtigen Fragen stellen, wenn jemand Software für dich baut: Wer prüft das Ergebnis, und ist das eine andere Instanz als die, die gebaut hat? Woran wird gemessen, ob etwas fertig ist? Was passiert, wenn eine Anforderung unklar ist? Gute Antworten auf diese drei Fragen sagen mehr über die Qualität aus als jede Liste mit Technologien.
Und der wichtigste Teil liegt bei dir, nicht bei der KI: eine klare Beschreibung dessen, was du brauchst. Je genauer die Anforderung, desto weniger muss irgendwer raten. Genau dabei helfe ich im ersten Gespräch. Wie sich die Rollen dabei gerade verschieben, steht in Vom Entwickler zum Produktmanager.
In guten KI-Abläufen prüft nie der, der gebaut hat. Eine Eingangsprüfung stellt Rückfragen statt zu raten, Testszenarien entstehen vor dem Bauen und bleiben dem bauenden Agenten verborgen, und ein unabhängiger Agent nimmt ab, bevor ein Mensch freigibt. Wie viel davon ein Projekt braucht, hängt vom Einsatz ab.
