Warum dein KI-Agent scheitert, bevor er angefangen hat

Das Problem ist nicht das Modell

Ich habe in den letzten Monaten viele Teams dabei beobachtet, wie sie KI-Agenten in ihre Workflows integrieren.

Das Muster ist immer das gleiche.

Aufgabe rein. Ergebnis raus. Ergebnis schlecht. Prompt anpassen. Nochmal. Wieder schlecht. Frust. "Das Modell ist einfach nicht gut genug."

Das Modell ist fast nie das Problem.

Das Problem ist das, was vor dem ersten Token passiert.

Was ein Agent eigentlich braucht

Wenn du einem Agenten eine Aufgabe gibst, macht er im Hintergrund genau das, was ein neuer Mitarbeiter am ersten Tag macht.

Er schaut sich an, was gefragt wurde.

Er fängt an.

Und irgendwann, mitten in der Arbeit, stellt er sich die Frage, die über alles entscheidet: Bin ich fertig?

Wenn du ihm keine Antwort darauf gegeben hast, erfindet er eine.

Manchmal errät er richtig. Meistens nicht.

Definition of Done ist kein Entwickler-Jargon

In der klassischen Softwareentwicklung gibt es das Konzept der "Definition of Done". Es ist das Kriterium, das ein Task erfüllen muss, bevor er als abgeschlossen gilt.

Nicht "ich habe mein Bestes gegeben".

Nicht "es sieht ungefähr so aus wie gewünscht".

Konkret. Messbar. Eindeutig.

Ich habe gemerkt, dass genau dieses Konzept der entscheidende Unterschied ist, ob ein KI-Projekt im ersten Durchlauf funktioniert oder zehn Iterationen braucht.

Der Agent nutzt deine Definition of Done nicht als nette Orientierung.

Er nutzt sie als Maßstab.

Aktiv.

Er prüft sich selbst daran. Korrigiert sich. Versucht das Ergebnis anzupassen, bis die Bedingungen erfüllt sind.

Wenn du ihm eine präzise Definition gibst, arbeitet er wie ein Profi.

Wenn du ihm keine gibst, arbeitet er wie jemand, dem du gesagt hast "mach das irgendwie fertig" und dann gegangen bist.

Acceptance Criteria: Der zweite Schritt, den die meisten überspringen

Noch eine Stufe tiefer als die Definition of Done liegen die Acceptance Criteria.

Sie beantworten nicht nur "wann ist es fertig", sondern "wie sieht fertig konkret aus".

In der Praxis bedeutet das, du formulierst vor dem Start schriftlich:

Was muss das Ergebnis enthalten.

Was darf es nicht enthalten.

Welche Qualitätsstandards gelten.

Wie die Ausgabe strukturiert sein soll.

Das klingt nach Mehraufwand.

Das ist Mehraufwand.

Und er zahlt sich fast immer aus, weil du ihn einmal trägst, statt ihn zehnmal zu vermeiden und trotzdem zu haben.

Warum beide grossen Anbieter das verstanden haben

OpenAI und Anthropic haben ihre Coding-Harnesses mit iterativen Feedback-Schleifen ausgestattet. Das heisst, der Agent führt eine Aufgabe aus, evaluiert das Ergebnis, und korrigiert nach, wenn etwas nicht stimmt.

Das ist kein Zufall.

Das ist die Antwort auf genau das Problem, das ich oben beschrieben habe.

Der Loop ist das Sicherheitsnetz.

Aber das Sicherheitsnetz funktioniert nur, wenn der Agent weiss, gegen welchen Standard er sein Ergebnis misst.

Ein Loop ohne Definition of Done ist ein Agent, der endlos kreist und nie landet.

Was das für deine Praxis bedeutet

Bevor du das nächste Mal einen Agenten losschickst, nimm dir zehn Minuten.

Schreib auf, wann der Task abgeschlossen ist. Nicht vage. Konkret.

Schreib auf, welche Bedingungen das Ergebnis erfüllen muss. Nicht als Wunschliste. Als Kriterien.

Wenn du diese zehn Minuten nicht investierst, investierst du sie später trotzdem. Verteilt auf Iterationen, Frust und das Gefühl, dass das Modell irgendwie nie das liefert, was du dir vorgestellt hast.

Die meisten KI-Projekte scheitern nicht an der Intelligenz des Modells.

Sie scheitern an der Unklarheit des Auftrags.

Das ist keine technische Herausforderung.

Das ist eine Kommunikationsherausforderung.

Und die liegt komplett in deiner Hand.

FAQ

Was ist eine Definition of Done bei KI-Agenten?

Eine Definition of Done ist ein konkretes Kriterium, das festlegt, wann eine Aufgabe abgeschlossen ist. Sie stammt ursprünglich aus der Softwareentwicklung und wurde dort genutzt, um Tasks eindeutig abzugrenzen. Bei KI-Agenten dient sie als Maßstab, an dem der Agent sein eigenes Ergebnis prüft und korrigiert.

Was ist der Unterschied zwischen Definition of Done und Acceptance Criteria?

Die Definition of Done beantwortet die Frage, wann eine Aufgabe fertig ist. Acceptance Criteria gehen einen Schritt weiter und legen fest, wie das fertige Ergebnis konkret aussehen muss, also welche Inhalte enthalten sein müssen und welche nicht. Beide zusammen geben einem Agenten einen klaren Rahmen statt vager Vorgaben.

Warum liefert mein KI-Agent schlechte Ergebnisse, obwohl das Modell gut ist?

Meistens liegt das nicht am Modell, sondern an einer fehlenden oder unklaren Aufgabenbeschreibung. Wenn der Agent keine klare Vorgabe hat, wann eine Aufgabe erledigt ist, muss er selbst raten und trifft dabei oft falsche Annahmen. Eine präzise Definition of Done und klare Acceptance Criteria beheben dieses Problem meist ohne Modellwechsel.

Was macht ein iterativer Feedback-Loop bei einem KI-Agenten?

Ein iterativer Feedback-Loop lässt einen Agenten eine Aufgabe ausführen, das Ergebnis selbst bewerten und bei Bedarf nachbessern. So gehen OpenAI und Anthropic in ihren Coding-Harnesses vor. Der Loop funktioniert allerdings nur, wenn der Agent einen klaren Standard hat, gegen den er sein Ergebnis misst, sonst korrigiert er ohne Ziel.

Wie schreibe ich Acceptance Criteria für einen KI-Agenten?

Du legst vor dem Start schriftlich fest, was das Ergebnis enthalten muss, was es nicht enthalten darf, welche Qualitätsstandards gelten und wie die Ausgabe strukturiert sein soll. Diese Kriterien formulierst du konkret und nicht als Wunschliste. So kann der Agent sein Ergebnis aktiv daran überprüfen, statt zu raten.