Com a introdução da inteligência artificial (AI) pelas empresas para construir um ambiente de trabalho autónomo, os direitos de controle e a gestão de segurança dos agentes de IA estão se tornando questões centrais da operação digital. Em particular, agentes de IA altamente desenvolvidos podem substituir a identificação do usuário para executar tarefas ou tomar decisões comerciais, e uma vez que a segurança seja comprometida, pode levar à pior situação em que todo o sistema organizacional seja controlado.
O cofundador e CEO da Rubrik ( CEO ) Bipul Sinha ( destacou recentemente em uma entrevista: “Na era em que os agentes lidam com os negócios a uma velocidade sobre-humana, danos de 10 vezes podem ocorrer em apenas 10 minutos”, ele apontou que a ‘governança de agentes’, que é difícil de controlar com sistemas de segurança tradicionais, está emergindo como um novo meio de controle. Ele explicou: “Os agentes de IA operam processos de negócios como humanos, e às vezes imitam a identidade do usuário, portanto possuem atributos de ‘super-humano’.”
Para aumentar a segurança dos agentes, a Rubrik lançou uma nova plataforma chamada ‘Rubrik Agent Cloud’. Este sistema pode analisar o tipo e o alcance das atividades dos agentes de IA dentro da organização, detectando comportamentos ameaçadores com base em barreiras de proteção predefinidas, e oferecendo a capacidade de retirar rapidamente esse agente quando necessário. O CEO Sinha explicou: “Todos os agentes de IA devem ser tratados como novos funcionários, devendo ser equipados com um manual de conduta, um sistema de monitorização e um procedimento de pausa quando surgirem problemas.”
Mas o verdadeiro desafio da governança por delegação reside na velocidade de disseminação em larga escala. Se os delegados forem deixados a se espalhar de forma desordenada na ausência de visibilidade e controle suficientes, isso pode resultar em falhas em pequena escala que se transformam em um 'incêndio digital significativo' que paralisaria todo o sistema. Para isso, o CEO Sinha sugere que as organizações não devem estabelecer planos de automação excessivamente grandes, mas sim limitar-se a 3-4 fluxos de trabalho principais, completando a execução do projeto piloto antes de ampliar gradualmente o alcance.
Sinha também advertiu: “O ambiente operacional deve utilizar IA precisa; se não houver capacidade de gestão de custos, os custos de raciocínio dispararão fora de controle.” Isso significa que a estabilidade de custos, como um fator real, não pode ser ignorada na estratégia de difusão de agentes de IA.
Na atualidade em que a tecnologia AI está profundamente integrada na totalidade das empresas, a estratégia de ‘governança de agentes’ proposta pela Rubrik já ultrapassou meras medidas de segurança, tornando-se um pilar central para a concretização da resiliência digital e da sustentabilidade organizacional.
Isenção de responsabilidade: As informações contidas nesta página podem ser provenientes de terceiros e não representam os pontos de vista ou opiniões da Gate. O conteúdo apresentado nesta página é apenas para referência e não constitui qualquer aconselhamento financeiro, de investimento ou jurídico. A Gate não garante a exatidão ou o carácter exaustivo das informações e não poderá ser responsabilizada por quaisquer perdas resultantes da utilização destas informações. Os investimentos em ativos virtuais implicam riscos elevados e estão sujeitos a uma volatilidade de preços significativa. Pode perder todo o seu capital investido. Compreenda plenamente os riscos relevantes e tome decisões prudentes com base na sua própria situação financeira e tolerância ao risco. Para mais informações, consulte a
Isenção de responsabilidade.
