Dodeljevanje dela agentu postavlja pošteno vprašanje: če lahko deluje v mojem podjetju, kaj ga ustavi, da ne bi naredil nečesa, kar ne bi smel? Odgovor je, da je dobro zgrajen agentski sistem bolj omejen kot oseba z dostopom, ne manj, ker so omejitve uveljavljene s programsko opremo na vsakem koraku.
Načrtovano z zavedanjem o dovoljenjih
Agent deluje v imenu osebe in podeduje natančno tista dovoljenja te osebe, nič več. Preverjanje poteka dvakrat: ko so orodja ponujena agentu, tako da mu nikoli ni prikazana dejanja, ki jih ne sme izvesti, in ponovno, ko se dejanje izvede, tako da nič ne uide. Dostop se zapre, kar pomeni, da je vse, kar ni izrecno dovoljeno, zavrnjeno, namesto da bi bilo spusteno skozi.
Izolacija med podjetji
Vsako podjetje ima svoje podatke, ki so ločeni od drugih. Kjer upravljavec vodi blagovno znamko omrežja, ima vsako omrežje svojo bazo podatkov in shranjevanje, tako da podatki strank nikoli niso združeni ali deljeni med omrežji. Agent, ki dela v enem delovnem prostoru, nima dostopa do drugega.
Šifriranje in vaše pravice do podatkov
Podatki so šifrirani med prenosom in v mirovanju. So vaši: ne uporabljajo se za usposabljanje modelov, in lahko zahtevate dostop, popravek, izvoz ali izbris. Te zahteve gredo skozi jasen postopek, in kjer je blagovni upravljavec upravljavec vaših podatkov, zahteva gre njim, platforma pa jim pomaga pri izpolnjevanju.
Revizijska sled, ki jo lahko preberete
Ker agent deluje preko določenih orodij namesto da bi se dotikal baze podatkov, je vsako dejanje, ki ga izvede, zabeleženo: kaj je bilo storjeno, v imenu koga in kdaj. To spremeni "AI je nekaj storil" v pregledno evidenco, kar je tisto, kar odgovornost dejansko zahteva.
Vprašanja, ki jih je vredno postaviti
Pri vsakem agentnem programu vprašajte: ali agent podeduje dovoljenja delujoče osebe in ali se ta izvajajo, ko se orodja izvajajo? So moji podatki izolirani po podjetjih in šifrirani? Ali so izključeni iz usposabljanja modelov in izvozljivi na zahtevo? Ali obstaja revizijska sled? Sois odgovarja z da na vsako; stran o varnosti ima podrobnosti.