Dar a um agente de IA acesso ao seu negócio é algo que deve ser feito com cuidado. A boa notícia é que fazê-lo de forma segura resume-se a uma lista curta e verificável. Aqui está o que deve insistir e o que deve confirmar que a Sois faz, antes de entregar uma única tarefa.
1. Defina o acesso a funções
Um agente nunca deve ter mais alcance do que a pessoa para quem atua. Confirme que as permissões são aplicadas quando as ferramentas são oferecidas e novamente quando são executadas, e que o acesso falha de forma restrita quando uma permissão está em falta. Na Sois, um agente herda o papel do seu utilizador, portanto, o seu alcance é limitado por uma fronteira que você já confia.
2. Mantenha um humano nas grandes decisões
As ações consequentes, grandes pagamentos, reembolsos, contratos, devem ser encaminhados a uma pessoa para aprovação antes de acontecerem. Confirme que pode definir esses limites. O agente faz o trabalho; você aprova o que é importante.
3. Isolar os seus dados
Os seus dados empresariais devem viver num espaço isolado, nunca partilhado com outra empresa. Numa rede de marca, cada cliente deve ter uma base de dados separada. Confirme que a isolação é estrutural, não uma questão de configuração que poderia estar errada.
4. Criptografe tudo
Os dados devem ser criptografados tanto em repouso como em trânsito, de modo que sejam ilegíveis para qualquer pessoa sem autorização, quer estejam armazenados ou em movimento. Isto é o mínimo; confirme que está implementado.
5. Exija um registo de auditoria
Cada ação que o agente realiza deve ser registada: o que fez, em nome de quem, e quando. Esse registo é o que torna um agente responsável e um erro reversível. Se não conseguir ver o que o agente fez, não pode confiar nele; insista no registo.
6. Defina um limite orçamental
Defina um teto de gastos e um limite de recarga automática para que o uso não fuja do controle. O controlo financeiro é parte da segurança: um orçamento limitado é um raio de explosão limitado.
Execute um agente contra esta lista e a resposta a "é seguro" deixa de ser um salto de fé. Veja como a Sois atende a cada ponto, ou lançar um espaço de trabalho e define os limites você mesmo.