Úprimná obava z delegovania práce agentovi nie je, či väčšinou urobí veci správne. Je to, čo sa stane v deň, keď to neurobí. Systém, ktorému môžete dôverovať, je taký, kde je chyba malá, viditeľná a zvrátiteľná, navrhnutá, nie šťastím.
Chyby sú otázkou rozsahu výbuchu.
Akýkoľvek systém, ktorý vykonáva skutočnú prácu, či už človek alebo agent, občas niečo pokazí. Dôležité nie je predstierať opak; je to obmedzenie škody. Dobrý dizajn udržuje chybu pod kontrolou, rýchlo ju odhalí a uľahčuje jej zrušenie. To je pohľad, ktorým hodnotíte akýkoľvek agentný systém.
Oprávnenia obmedzujú, čo sa môže pokaziť.
Agent koná iba v rámci oprávnení osoby, ktorú zastupuje, kontrolovaných pri ponuke jeho nástrojov a znova, keď ich používa. Nemôže sa dotknúť toho, čo tá osoba nemôže, takže najhorší scenár je obmedzený hranicou, ktorú už chápete. Chyba zostáva v rámci vymedzeného priestoru, ktorý ste nastavili.
Schválenia zachytávajú tie, ktoré majú následky.
Rozhodnutia, ktoré by najviac ublížili, veľká refundácia, zmluva, platba nad prahom, sú presne tie, ktoré sú pred ich uskutočnením poslané osobe. Agent ich pripravuje; vy ich schvaľujete. Takže akcie s vysokými stávkami nikdy neprebiehajú bez dozoru.
Auditná stopa robí proces zvratným.
Každá akcia je zaznamenaná: čo agent urobil, v koho mene a kedy. Keď je niečo zlé, môžete presne vidieť, čo sa stalo a vrátiť to späť, namiesto hádania. Chytiteľné a zvratné je vždy lepšie ako sebavedomé a nejasné.
Prečo toto prekonáva sebavedomú nesprávnu odpoveď.
Model sám o sebe môže produkovať plynulú, nesprávnu odpoveď bez stopy. Agent, ktorý používa skutočné nástroje v rámci oprávneného, auditovaného systému, je opakom: jeho akcie sú obmedzené, zaznamenané a kontrolovateľné. Štruktúra okolo modelu premieňa surovú schopnosť na niečo, na čo sa môžete skutočne spoľahnúť.
Dôvera nie je absencia chýb; je to to, čo systém robí s nimi. Pozrite sa, ako Sois obmedzuje a zaznamenáva akcie agentov., alebo spustiť pracovnú plochu a nastavte limity predtým, ako niečo delegujete.