Der Agent multipliziert das, was Sie bereits wissen, und auch das, was Sie nicht wissen

Vor einigen Tagen haben wir eine Lieferung mit 47 Commits in 24 Stunden abgeschlossen, aufgeteilt auf Backend und Frontend. Sie wurden von einer einzigen Person erstellt, die mit einem Coding-AgentCoding-AgentEin KI-Agent, der selbstständig Code innerhalb eines Projekts schreibt, modifiziert und testet gearbeitet hat. Das ist eine Zahl, die Aufmerksamkeit erregt, und genau deshalb sollte man sofort dazusagen, dass sie nicht die entscheidende ist.

Das Entscheidende ist, warum es möglich war und was passiert wäre, wenn sich dasselbe Werkzeug in anderen Händen befunden hätte.

Code zu schreiben ist nicht mehr der Engpass

Ein Coding-Agent schreibt schnell, wird nicht müde und reiht an einem Arbeitstag Dutzende von Änderungen aneinander. Das beseitigt das Problem nicht, sondern verschiebt es nur. Früher war die Codeerstellung der langsame Teil. Heute ist es langsam, zu wissen, welcher Code benötigt wird, und zu überprüfen, ob der geschriebene Code das tut, was er soll.

Mit anderen Worten: Der Agent sorgt für die Geschwindigkeit. Die Richtung gibt der Mensch vor.

Was sich multipliziert

Ein Agent verstärkt die Person, die ihn steuert, in beide Richtungen.

Wenn Sie das System gut kennen, wissen, in welcher Reihenfolge die Dinge zu tun sind, und einen Fehler erkennen, wenn Sie ihn sehen, verwandelt der Agent dieses Wissen in einem Tempo in fertige Arbeit, das es früher nicht gab.

Wenn Sie es nicht kennen, verwandelt der Agent Ihre Wissenslücken ebenso schnell in Code. Und das Ergebnis sieht gut aus, was es gerade so gefährlich macht.

Ein erfundenes, aber sehr vertrautes Beispiel. Ein Online-Shop beschließt, Preise nicht mehr mit Dezimalstellen zu speichern, sondern auf ganze Cents umzustellen, um Rundungsdifferenzen zu vermeiden. Der Agent erhält den Auftrag, lokalisiert die über zwanzig betroffenen Dateien und ändert sie alle an einem Nachmittag. Die Tests sind erfolgreich. Der Code liest sich gut. Zwei Wochen später führen prozentuale Rabatte in einigen Warenkörben dazu, dass ein Cent zu wenig berechnet wird. In einer einzigen dieser Dateien hat der Agent vor statt nach der Multiplikation gerundet. Niemand hat es bemerkt, weil die Testdaten glatte Beträge waren und die Änderung exakt genauso aussah wie die anderen zwanzig.

Wer diese Berechnung kannte, hätte vor der Freigabe einen Test mit 19,99 € und 15 % verlangt. Wer sie nicht kannte, akzeptierte eine korrekte Änderung an zwanzig Stellen und eine fehlerhafte an einer Stelle – mit dem gleichen Vertrauen in alle einundzwanzig.

Deshalb funktioniert der Satz in beide Richtungen: Der Agent multipliziert das, was Sie bereits wissen, und auch das, was Sie nicht wissen.

Drei Dinge, die man beherrschen muss, wenn man einen Agenten steuert

1. Was man fordert. Man muss das System gut genug kennen, um die Arbeit in eingegrenzte Schritte zu unterteilen, diese in der richtigen Reihenfolge auszuführen und zu erkennen, wenn das Ergebnis nicht dem entspricht, was gefordert wurde. Ein Agent beantwortet die Frage, die Sie ihm stellen, nicht die, die Sie hätten stellen sollen.

2. Was er anfassen darf. Die Berechtigungen eines Agenten müssen minimal und explizit sein: welche Repositories, welche Branches, welche Credentials und ob er Zugriff auf die Produktion hat oder nicht. Vollzugriff zu gewähren, „um schneller voranzukommen“, ist der kürzeste Weg, um aus einem kleinen Fehler einen großen zu machen.

3. Wie weit er gehen darf. Nicht alle Aktionen wiegen gleich schwer. Eine Änderung in einem Branch lässt sich rückgängig machen; ein Löschen von Daten oder ein fehlerhaftes Deployment nicht immer. Irreversible Aktionen werden ausnahmslos von einem Menschen überprüft, bevor sie ausgeführt werden.

Wie wir es machen

Das ist keine Theorie. Unser Alltag mit Agenten folgt vier unumstößlichen Regeln:

• Der Agent arbeitet frei lokal und in Arbeits-Branches. Die Produktion rührt er nicht an, ohne dass ein Mensch Schritt für Schritt seine Zustimmung gibt.
• Vor dem Bereitstellen wird ein Backup der zu ersetzenden Daten erstellt und ein bereits geschriebenes Rollback-Verfahren bereitgehalten. Wenn etwas schiefgeht, wird es innerhalb einer Minute wiederhergestellt, ohne zu improvisieren.
• Die Tests werden ausgeführt, bevor etwas geändert wird, und danach erneut auf dem Server ausgeführt. Wenn ein Test fehlschlägt, wird das Deployment nicht durchgeführt, egal wie eilig es ist.
• Wenn der Agent „erledigt“ sagt, überprüft jemand, ob das stimmt. Die Behauptung ist kein Beweis.

Es sind langweilige Regeln. Genau deshalb funktionieren sie.

Hier geht es nicht nur um Code

All das gilt gleichermaßen oder sogar noch mehr für die Agenten, die in Unternehmen Einzug halten, ohne eine einzige Zeile Code zu schreiben: derjenige, der Kunden über WhatsApp antwortet, derjenige, der Ausgaben erfasst, derjenige, der Termine verschiebt, oder derjenige, der E-Mails im Namen von jemandem versendet. Dies sind Aktionen, die sich auf reale Daten und Personen auswirken, und einige davon lassen sich nicht rückgängig machen.

Dieselbe Frage gilt für alle: Was darf er alleine tun, was erfordert eine Genehmigung und wer erteilt diese? In NAiOS kann ein Agent einen Zahlungseinzug, einen Versand oder eine Änderung an einem Datensatz vorschlagen, aber die Aktion wird von einem Menschen bestätigt. Das ist es, was wir ein HITL-Unternehmen nennen, bei dem der Mensch in den Prozess eingebunden ist. Nicht weil der Agent ungeschickt wäre, sondern weil Verantwortung nicht delegiert werden kann.

Bei mehreren Agenten erst recht

Wenn eine Person mehrere Agenten gleichzeitig koordiniert, ist das oben Genannte keine bloße Best Practice mehr, sondern eine zwingende Voraussetzung. Ein Fehler tritt dann nicht mehr nur an einer Stelle oder zu einem einzigen Zeitpunkt auf. Die Berechtigungen und Grenzen jedes Agenten sind das, was ein parallel arbeitendes Team von einem Problem unterscheidet, das sich parallel ausbreitet.

Das Fazit

Agenten ersetzen nicht das eigene Urteilsvermögen, sie machen es wertvoller. Wer genau weiß, was er tut, erreicht an einem Tag das, was früher Wochen dauerte. Wer es nicht weiß, erreicht dasselbe – allerdings mitsamt seinen Fehlern.

Die Frage für jedes Unternehmen, das Agenten einführt, lautet nicht, wie viel schneller es sein kann. Sondern wer sie steuern wird, mit welchen Berechtigungen und mit welchen Grenzen. Das ist im Übrigen das, was die europäische KI-VerordnungAI Act (KI-Verordnung)Verordnung (EU) 2024/1689: das erste umfassende Gesetz über künstliche Intelligenz mit Verpflichtungen je nach Risikostufe als menschliche Aufsicht bezeichnet und was sie von Unternehmen verlangt, dass deren Teams dies ab Artikel 4 beherrschen. Wir fangen genau dort an.