De echte zorg bij het overdragen van werk aan een agent is niet of het meestal goed gaat. Het is wat er gebeurt op de dag dat het niet goed gaat. Een systeem waarop je kunt vertrouwen is er een waar een fout klein, zichtbaar en omkeerbaar is, door ontwerp, niet door toeval.
Fouten zijn een kwestie van schadebereik
Elk systeem dat echt werk doet, mens of agent, zal af en toe iets fout doen. Wat telt is niet doen alsof dat niet zo is; het is de schade beperken. Goed ontwerp houdt een fout ingeperkt, brengt het snel aan het licht en maakt het gemakkelijk om ongedaan te maken. Dat is de maatstaf om elk agentsysteem op te beoordelen.
Machtigingen beperken wat fout kan gaan
Een agent handelt alleen binnen de machtigingen van de persoon die het vertegenwoordigt, gecontroleerd wanneer de tools worden aangeboden en opnieuw wanneer ze worden uitgevoerd. Het kan niet aanraken wat die persoon niet kon, dus het ergste geval wordt begrensd door een grens die je al begrijpt. Een fout blijft binnen de lijn die je hebt gesteld.
Goedkeuringen vangen de belangrijke besluiten
De besluiten die het meest zouden schaden, een grote terugbetaling, een contract, een betaling boven een drempel, zijn precies degene die naar een persoon worden geleid voordat ze gebeuren. De agent bereidt ze voor; jij keurt ze goed. Dus acties met hoog risico worden nooit zonder toezicht uitgevoerd.
Het audittrail maakt het omkeerbaar
Elke actie wordt vastgelegd: wat de agent deed, namens wie, en wanneer. Als iets fout gaat, zie je precies wat er gebeurde en kun je het terugdraaien, in plaats van te gissen. Opvangbaar en omkeerbaar wint het altijd van zelfverzekerd en ondoorzichtig.
Waarom dit beter is dan een zelfverzekerd fout antwoord
Een model alleen kan een vloeiend, fout antwoord geven zonder spoor. Een agent die echte tools gebruikt binnen een geautoriseerd, gecontroleerd systeem is het tegenovergestelde: zijn acties zijn begrensd, geregistreerd en controleerbaar. De structuur rond het model is wat ruwe capaciteit omzet in iets waar je echt op kunt vertrouwen.
Vertrouwen is niet de afwezigheid van fouten; het is wat het systeem eraan doet. Zie hoe Sois agentacties begrenst en registreert, of start een workspace en stel de limieten in voordat je iets delegeert.