Dati AI agentu dostop do vašega podjetja je razumljivo, da ste previdni. Dobra novica je, da se varno izvajanje tega zniža na kratek, preverljiv seznam. Tukaj je, na kaj vztrajati in kaj potrditi, da Sois počne, preden predate eno samo nalogo.
1. Določite dostop do vlog
Agent ne sme imeti večjega dosega kot oseba, za katero deluje. Potrdite, da so dovoljenja uveljavljena, ko so orodja ponujena in ponovno, ko delujejo, ter da dostop ne uspe, ko manjkajo dovoljenja. V Sois agent podeduje vlogo svojega uporabnika, tako da je njegov doseg omejen z mejo, ki ji že zaupate.
2. Ohranite človeka pri velikih odločitvah
Pomembne akcije, velike plačila, vračila, pogodbe, bi morale biti poslane osebi v odobritev, preden se zgodijo. Potrdite, da lahko nastavite te meje. Agent opravi delo; vi odobrite tisto, kar je pomembno.
3. Izolirajte svoje podatke
Vaši poslovni podatki bi morali biti shranjeni v svojem izoliranem prostoru, nikoli deljeni z drugim podjetjem. Na blagovni mreži bi moral vsak kupec dobiti ločeno bazo podatkov. Potrdite, da je izolacija strukturna, ne vprašanje konfiguracije, ki bi jo lahko zgrešili.
4. Šifrirajte vse
Podatki morajo biti šifrirani tako v mirovanju kot v prenosu, tako da so neberljivi za kogarkoli brez pooblastila, ne glede na to, ali so shranjeni ali se prenašajo. To je osnovna zahteva; potrdite, da je to v veljavi.
5. Zahtevajte sledljivost
Vsaka akcija, ki jo agent izvede, bi morala biti zabeležena: kaj je naredil, v imenu koga in kdaj. Ta zapis je tisto, kar agenta dela odgovornega in napako povratno. Če ne morete videti, kaj je agent naredil, mu ne morete zaupati; vztrajajte pri dnevniku.
6. Omejite proračun
Nastavite zgornjo mejo porabe in omejitev samodejnega polnjenja, da uporaba ne more uiti izpod nadzora. Finančna kontrola je del varnosti: omejen proračun je omejen učinek eksplozije.
Zaženite agenta proti temu seznamu in odgovor na "ali je varno" preneha biti skok vere. Oglejte si, kako Sois izpolnjuje vsako točko., ali zaženite delovno površino in sami določite meje.