Der nächste ERP-Nutzer könnte nicht menschlich sein

Jeder Bildschirm ist eine Vermutung darüber, wer schaut.

Betrachten Sie, was ein ERP aus der Sicht seines Benutzers ist. Hinter der Marke steht eine Reihe von Tabellen und Regeln: Kunden, Artikel, Bestellungen, Rechnungen, Bestandsbewegungen und die Einschränkungen, die sie konsistent halten. Davor sitzt der Teil, für den der Großteil des Geldes ausgegeben wurde: mehrere tausend Bildschirme, die diese Tabellen einer Person einige Felder auf einmal in einer Reihenfolge präsentieren, die eine Person folgen kann, mit Beschriftungen, die eine Person lesen kann, und Schaltflächen, die eine Person finden kann.

Jeder dieser Bildschirme kodiert eine Vermutung darüber, wer auf der anderen Seite ist. Die Vermutung ist eine Person mit einem begrenzten Arbeitsgedächtnis, daher ist das Formular in Tabs unterteilt. Eine Person, die von links nach rechts liest, sodass das wichtige Feld oben links ist. Eine Person, die ungefähr sieben Dinge im Kopf behalten kann, sodass das Dashboard sechs Kacheln hat. Eine Person, die Tippfehler macht, sodass es eine Validierung beim Absenden gibt. Eine Person, die müde wird, sodass der häufige Weg weniger Klicks hat. All dies ist gutes Design für den Benutzer, den der Designer hatte, und vier Jahrzehnte lang war dieser Benutzer der einzige, der existierte.

Die Konsequenz ist, dass die Benutzeroberfläche eine verlustbehaftete Darstellung des Datenmodells für eine Art von Leser ist. Das Modell weiß, dass eine Rechnung Zeilen, einen Kunden, ein Fälligkeitsdatum und einen Status hat; der Bildschirm zeigt die Zeilen auf einem Tab, den Kunden auf einem anderen und den Status als Farbe. Arbeit, die fünf Datensätze berührt, bedeutet fünf Bildschirme, und die Person trägt den Faden zwischen ihnen in ihrem Kopf. Dieser Faden ist das, wofür ein Unternehmen sein Verwaltungspersonal bezahlt, um ihn zu halten.

Der neue Benutzer hat Werkzeuge, keine Hände

Ein KI-Agent, der ein Geschäftssystem betreibt, erhält davon nichts. Was er erhält, wenn er sich über das Model Context Protocol verbindet, ist das Ergebnis einer Anfrage zur Auflistung von Werkzeugen: für jedes Werkzeug einen Namen, eine Beschreibung, die für ein Modell zum Lesen geschrieben wurde, ein Schema für seine Eingaben und optional eine Anmerkung, die angibt, ob das Werkzeug nur liest, ob es etwas zerstören kann und ob es sicher ist, es zweimal aufzurufen. Der Agent wählt ein Werkzeug aus, ruft es mit typisierten Argumenten auf, liest das Ergebnis und wählt erneut. Die eigene Zusammenfassung des Protokolls ist, dass es eine standardisierte Möglichkeit ist, KI-Anwendungen mit externen Systemen zu verbinden, so wie ein gemeinsamer Anschluss Geräte verbindet, und die großen Kunden sprechen es jetzt: Claude, ChatGPT, Cursor und VS Code unter ihnen.

Betrachten Sie, was dieser Benutzer nicht benötigt. Er benötigt die Rechnung nicht in Tabs unterteilt, da er den gesamten Datensatz auf einmal halten kann. Er benötigt das wichtige Feld nicht oben links, da es kein Links gibt. Er benötigt keine sechs Kacheln, da er nach der Anzahl fragen kann, die er möchte. Er wird nicht müde, und es gibt keine Klicks. Jedes Zugeständnis, das den Bildschirm für eine Person gut gemacht hat, ist für diesen Benutzer entweder irrelevant oder ein Hindernis.

Und schauen Sie, was es stattdessen braucht, was der Bildschirm nie bereitgestellt hat. Es braucht eine präzise Beschreibung jeder Aktion, denn die Beschreibung ist das gesamte Verständnis. Es braucht ein vollständiges Schema, denn es kann kein Beispiel sehen. Es muss wissen, welche Aktionen sicher erneut versucht werden können. Es braucht das Ergebnis, um zu sagen, was passiert ist und was es als Nächstes tun kann. Für diesen Benutzer ist die Dokumentation die Schnittstelle, und Benennung ist Design: Ein breites Werkzeug mit einer zweizeiligen Beschreibung ist ein schlechteres Produkt als dieselbe Fähigkeit als drei Werkzeuge mit klaren Namen und ehrlichen Beschreibungen, egal wie die Bildschirme darüber aussehen.

Der Umweg über den Bildschirm wird nicht lange dauern

Die erste Reaktion auf einen neuen Benutzer besteht immer darin, ihn wie den alten zu behandeln. Die robotergestützte Prozessautomatisierung hat dies ein Jahrzehnt lang getan: Ein Bot meldet sich mit einem Dienstkonto an und steuert die Bildschirme, als hätte er Hände, indem er die Schaltfläche über ihren Selektor oder ihre Koordinaten findet. Die aktuelle Version gibt einem Sprachmodell einen Screenshot und einen Cursor. Die Nutzung von Anthropic-Computern tut genau das, und die Dokumentation ist sorgfältig darin, zu sagen, wo es hingehört: Es existiert für die Fälle, in denen keine engere Schnittstelle verfügbar ist, es leitet Sie zu einem Browser-Tool, wenn die Arbeit innerhalb einer Seite bleibt, und es fordert eine Person auf, alles mit bedeutenden realen Konsequenzen, einschließlich finanzieller Transaktionen, zu bestätigen.

Das Kostüm ist teuer zu tragen. Ein Bildschirm gibt einer Maschine keine Versprechen, daher bricht jede Änderung, die für die Person vorgenommen wird, die Automatisierung, die vorgibt, eine zu sein. Jede Schicht zwischen dem Agenten und der Aktion, der Screenshot, das Raten, welcher Pixel der Knopf ist, der eingegebene Text, der möglicherweise im richtigen Feld gelandet ist oder auch nicht, ist ein Ort, an dem man falsch liegen kann, und ein Modell ist bereits ein Ort, an dem man falsch liegen kann. Screen-Driving ist die Brücke, die Sie bauen, während das System darunter nichts Besseres hat, und die Anbieter der Bots sagen das selbst: Sie beschreiben den Roboter jetzt als Ausführungsschicht, die ein Agent für die Systeme anruft, die es noch benötigen.

Was Software werden muss

Wenn das bisherige Argument zutrifft, ergibt sich die Form von agent-native Software daraus, und sie ist mehr als nur eine API im Hintergrund. Fünf Eigenschaften müssen gleichzeitig zutreffen.

• Jede Aktion ist ein Werkzeug. Nicht die Dutzend, die der Anbieter für sicher hielt, sondern die gesamte Oberfläche, die eine Person durch die Bildschirme erreichen kann: erstellen, lesen, bewegen, genehmigen, senden, abgleichen. Alles andere, und der Agent muss für den Rest auf den Bildschirm zurückgreifen.
• Jeder Anruf trägt eine Identität. Der Agent agiert als spezifische Person, durch eine normale Anmeldung, und die ihm angebotenen Werkzeuge werden vor dem Zugriff nach der Rolle dieser Person gefiltert und erneut überprüft, wenn sie ausgeführt werden. Ein Agent, der uneingeschränkten Zugriff auf das System hat, ist ein Designfehler, kein Feature.
• Es fragt von Natur aus. Einige Aktionen werden ausgeführt; einige warten auf eine Person; einige werden direkt abgelehnt. Das Protokoll selbst besagt, dass immer ein Mensch im Prozess sein sollte, der einen Toolaufruf ablehnen kann, und die großen Kunden fragen standardmäßig vor einem Schreibvorgang. Die Software muss die Kategorien explizit machen, anstatt zu hoffen, dass das Modell höflich ist.
• Die Ausgaben haben eine Obergrenze. Wo die eigene Logik des Systems Geld kostet oder wo ein Tool Geld bindet, gibt es eine Obergrenze pro Verbindung, die das System durchsetzt und an der das Modell nicht vorbeireden kann.
• Das Protokoll ist das Produkt. Jeder Aufruf, seine Eingaben und sein Ergebnis, unter der Identität, die ihn erstellt hat, ist überprüfbar wie die Handlungen einer Person. Für einen Agenten ist die Prüfspur der Weg, wie Vertrauen Woche für Woche aufgebaut wird.

Eine sechste Eigenschaft ist weniger eine Anforderung als eine Konsequenz. Wenn Arbeit durch Tools erledigt wird, wird der Nachweis als Nebenprodukt geführt: Der Agent, der Rechnungen erstellt, nachverfolgt und abgleicht, hinterlässt genau die Rechnung, die Nachverfolgung und den Abgleich, die eine Person getippt hätte, ohne das Tippen. Die Bildschirme bleiben erhalten, um zu schauen, zu überprüfen und zu entscheiden. Sie hören auf, der einzige Ort zu sein, an dem Arbeit stattfinden kann.

Der Einwand, den es ernst zu nehmen gilt

Der stärkste Einwand räumt ein, dass Agenten die Arbeit erledigen können, und weist darauf hin, dass sie dies manchmal fälschlicherweise, selbstbewusst, bei einem Schreibvorgang tun. Das ist wahr, und die ehrliche Dokumentation sagt das auch: ChatGPT behandelt jedes Tool ohne eine schreibgeschützte Annotation als einen Schreibvorgang und erfordert standardmäßig eine Bestätigung; Claude bittet um Genehmigung, bevor ein Tool von einem benutzerdefinierten Connector aufgerufen wird, und warnt, dass ein bösartiger Server versteckte Anweisungen enthalten kann. Die Kunden haben recht, vorsichtig zu sein, und ein Unternehmen sollte es auch sein.

Aber beachten Sie, wo die Vorsicht leben muss. Sie kann nicht im Modell leben, das die Partei ist, die falsch sein könnte. Sie muss in der Software leben, wo gute Software sie bereits für menschliche Benutzer platziert hat. Validierung, Berechtigungen, Genehmigungsschwellen, Rückgängig, Prüfung: Jede dieser Funktionen existiert, weil der vorherige Benutzer ebenfalls Fehler gemacht hat, selbstbewusst, bei einem Schreibvorgang. Agent-native Software nimmt diese alte Disziplin bei jeder Aktion ernst, anstatt nur bei den wenigen, an die sich der Bildschirmdesigner erinnert hat, und wendet sie auf einen Benutzer an, der vor dem Mittagessen hundert Tools aufruft.

Ein zweiter Einwand ist der Determinismus. Einige Arbeiten müssen für die gleichen Eingaben nachweislich immer die gleichen Ausgaben produzieren. Diese Arbeit sollte ein fester Workflow bleiben, und der Agent sollte den Workflow als Tool aufrufen, anstatt ihn zu improvisieren. Urteil ersetzt hier keine Regeln; das System benötigt beides, sichtbar für einen Benutzer, der sie unterscheiden kann.

Wer es baut und für wen

Die letzte Konsequenz ist die, die der Unternehmer bemerken sollte. Wenn der Benutzer der Software ein Agent sein kann, kann es auch der Ersteller. Ein Entwickler beschreibt einem Agenten, den er bereits hat, die App, die er möchte, der Agent erstellt sie mit einer Reihe von Build-Tools, der Entwickler validiert sie lokal und veröffentlicht sie, und ab dem ersten Tag ist jedes Tool, das die App bereitstellt, für jeden anderen Agenten auf der Plattform verfügbar. Das Unternehmen, das es installiert, lernt seine Bildschirme nicht kennen; seine Mitarbeiter bringen den Agenten, den sie bereits verwenden, und beschreiben das Ergebnis. Das ist die Grundlage, auf der Sois aufgebaut ist, hier als eine Umsetzung des Arguments angeboten, nicht als dessen Schlussfolgerung.

Die Schlussfolgerung ist einfacher. Vierzig Jahre lang war die Frage, die sich ein Software-Designer stellte, was die Person auf der anderen Seite sehen muss. Der nächste Benutzer sieht nicht. Er liest einen Vertrag und ruft an, was er anrufen darf, und wird dies im Namen derselben Personen tun, für die die Bildschirme erstellt wurden. Software, die diesen Benutzer als Erstklassigen Bürger behandelt, wird flüssig bedient. Software, die den Bildschirm als einzige Tür behält, wird weiterhin durch ein Schlüsselloch von einem Agenten in einem Kostüm bedient, bis die Eigentümer des Kostüms müde werden und sich bewegen.

Dieser Artikel wird überprüft, wenn sich die beschriebenen Produkte ändern. Nächste geplante Überprüfung: 4. Dezember 2026.