Poskytnutie prístupu AI agentovi k vašej firme si zaslúži opatrnosť. Dobrou správou je, že robiť to bezpečne sa zúži na krátky, overiteľný zoznam. Tu je to, na čom trvať, a čo potvrdiť, že Sois robí, predtým ako zveríte jedinú úlohu.
1. Obmedzenie prístupu k rolám
Agent by nikdy nemal mať väčší dosah ako osoba, za ktorú koná. Potvrďte, že oprávnenia sú vynucované, keď sú nástroje ponúkané a znova, keď bežia, a že prístup sa uzavrie, keď chýba oprávnenie. V Sois agent zdedí rolu svojho používateľa, takže jeho dosah je obmedzený hranicou, ktorej už dôverujete.
2. Nechajte človeka rozhodovať o dôležitých veciach
Dôležité akcie, veľké platby, vrátenia peňazí, zmluvy by mali byť pred ich uskutočnením schválené osobou. Potvrďte, že môžete nastaviť tieto prahové hodnoty. Agent vykonáva prácu; vy schvaľujete to, čo je dôležité.
3. Izolujte svoje dáta
Vaše obchodné dáta by mali existovať vo vlastnom izolovanom priestore, nikdy zdieľané s inou firmou. Na značkovej sieti by mal každý zákazník získať samostatnú databázu. Potvrďte, že izolácia je štrukturálna, nie otázkou konfigurácie, ktorú by ste mohli urobiť nesprávne.
4. Šifrujte všetko
Dáta by mali byť šifrované ako v pokoji, tak aj pri prenose, aby boli nečitateľné pre každého bez oprávnenia, či už sú uložené alebo sa prenášajú. Toto je základ; potvrďte, že to je zabezpečené.
5. Požadujte auditnú stopu
Každá akcia, ktorú agent vykoná, by mala byť zaznamenaná: čo urobil, v koho mene a kedy. Tento záznam robí agenta zodpovedným a chybu napraviteľnou. Ak nemôžete vidieť, čo agent urobil, nemôžete mu dôverovať; trvajte na zázname.
6. Obmedzte rozpočet
Nastavte strop výdavkov a limit automatického dobitia, aby sa používanie nemohlo vymknúť spod kontroly. Finančná kontrola je súčasťou bezpečnosti: obmedzený rozpočet je obmedzený dosah výbuchu.
Spustite agenta proti tomuto zoznamu a odpoveď na otázku "je to bezpečné" prestane byť skokom do neznáma. Pozrite sa, ako Sois spĺňa každý bod., alebo spustiť pracovnú plochu a nastavte si hranice sami.