Prvá otázka, ktorú si rozumný človek kladie pri zverovaní práce AI agentovi, nie je "môže to urobiť" ale "čo sa stane, keď sa pomýli". To je správny inštinkt. Delegovanie práce je pohodlné iba vtedy, keď máte kontrolu nad dôležitými časťami, a systém navrhnutý pre agentov by mal túto kontrolu robiť predvolenou, nie dodatočnou.
Kontrola je skutočná otázka
Agent, ktorý môže konať vo vašej firme, je mocný práve preto, že môže konať. Úlohou platformy je zabezpečiť, aby konal iba v rámci hraníc, ktoré nastavíte, aby vyzdvihol rozhodnutia, ktoré skutočne potrebujú človeka, a aby zanechal záznam o všetkom, čo urobil. Ak sa vám podarí tieto tri veci, delegovanie prestane pôsobiť ako skok do neznáma.
Oprávnenia rozhodujú, čo môže ovplyvniť.
Agent nikdy nemá väčší dosah ako osoba, za ktorú koná. Môže používať nástroje, ktoré táto osoba môže používať, a nič iné, čo sa kontroluje, keď sú mu nástroje ponúknuté, a znova v momente, keď sa pokúša jeden spustiť. Agent úradníka nemôže čítať mzdy; agent manažéra môže schváliť dovolenku, ale stále nemôže zmeniť účtovníctvo, ak to nikdy nebolo jeho oprávnenie. Hranica je rovnaká, ktorou už dôverujete ľuďom.
Schválenia zachytávajú rozhodnutia, ktoré potrebujú vás.
Robenie práce a rozhodovanie o práci sú rôzne veci. Dobre navrhnutý agent vykonáva prácu a smeruje rozhodnutia: pripravuje refundáciu, vytvára objednávku, pripravuje zmluvu, potom sa zastaví, aby osoba schválila tie, ktoré prekročia prah, ktorý definujete. Podpisujete to, čo je dôležité, a nikdy nevidíte stovky malých krokov, ktoré nie sú, čo je presne rovnováha, ktorú dosahuje dobrý ľudský delegát.
Rozpočty zabraňujú nekontrolovanému míňaniu.
Pretože práca agenta spotrebúva využitie, kontrola znamená aj kontrolu nákladov. Využitie čerpá z rovnováhy, ktorú dopĺňate, s maximálnym limitom a voliteľným automatickým dobíjaním, takže výdavky sledujú aktivitu a nemôžu sa potichu vymknúť spod kontroly. Vy rozhodujete o rozpočte; agent pracuje v jeho rámci a zastaví sa, skôr než ho prekročí.
Auditná stopa udržuje zodpovednosť.
Každá akcia, ktorú agent vykoná, je zaznamenaná: čo urobil, v koho mene a kedy. Tento záznam premieňa "počítač to urobil" na skutočnú zodpovednosť. Ak niekedy potrebujete vysvetliť rozhodnutie, zvrátiť krok alebo uspokojiť audítora, história je tam. Dohľad po skutočnosti je rovnako dôležitý ako ochranné zábrany predtým.
Udržiavanie človeka v procese nie je brzda na agentnej práci; je to to, čo robí spoľahlivým sa na to spoliehať. Pozrite sa, ako Sois vynucuje tieto hranice., alebo spustiť pracovnú plochu a nastavte si limity sami, skôr než odovzdáte jedinú úlohu.