Recentemente, especialistas de cibersegurança comparam o cenário atual dos agentes autônomos de IA a um território pouco regulamentado e cheio de ameaças invisíveis. 

A rápida adoção de agentes autônomos em ambientes corporativos está expondo as organizações a novas superfícies de ataque ainda pouco compreendidas. 

Esses sistemas são capazes de tomar decisões e agir sem intervenção humana. Segundo o estudo global da IBM, 67% dos CEOs usam agentes de IA em suas operações. 

No entanto, diante do entusiasmo à busca por mais eficiência e automação, surge um alerta:

Se por um lado agentes autônomos de IA ampliam as capacidades da empresa, por outro eles próprios se tornam alvos de novos tipos de ataque. 

Neste artigo, vamos abordar a IA no ecossistema de cibersegurança, as oportunidades e riscos, bem como o papel da governança de dados na mitigação de ameaças. 

Agentes autônomos de IA e o ecossistema de cibersegurança 

Da automação à autonomia. É isso que agentes autônomos de IA significam, esses sistemas estão remodelando as operações empresariais. 

Definitivamente, a inteligência artificial está entrando em uma fase transformadora, definida pela autonomia inteligente.  

Isto é, agentes de IA estão liderando uma mudança na estrutura de sistemas autônomos capazes de tomar decisões e se adaptar em tempo real as operações. 

Ao contrário dos modelos de IA tradicionais, que operam dentro de restrições predefinidas e requerem intervenção humana, agentes de IA demonstra autonomia, comportamento orientado a objetivos e adaptabilidade. 

Tanto que, no contexto da defesa cibernética, esses agentes não são apenas ferramentas mais eficientes, mas também colaboradores emergentes.  

Imagine sistemas inteligentes que detectam ameaças em tempo real, coordenam respostas em redes, investigam vulnerabilidades e ajustam suas táticas conforme as condições mudam. Eles não esperam por instruções. Eles agem. 

Riscos de segurança em ambientes corporativos 

Sobretudo, modelos de GenAI cometem erros, eles podem fornecer informações falsas e errar em cálculos. Mesmo com a melhoria contínua da GenAI, é essencial avaliar todos os resultados com um olhar crítico.  

Em sistemas autônomos de IA, que são construídos com base em modelos de GenAI, esses erros podem passar despercebidos – com consequências graves. 

Quando as organizações dão aos agentes de IA capacidades semelhantes às humanas — como acesso a sistemas e poder de decisão — elas essencialmente criam “funcionários” digitais.  

Por outro lado, diferente de softwares tradicionais, esses agentes tomam decisões e executam ações de forma autônoma, o que os torna potenciais vetores de ameaça. 

Imagine um agente de IA usado para resumir e priorizar e-mails. Um atacante pode inserir um comando malicioso que reprograma o agente para enviar informações confidenciais ao invasor.  

Nesse caso, o agente em si não é malicioso — foi manipulado. Esse tipo de ameaça não deixa rastros visíveis como ocorre com humanos. 

Desafios dos agentes de IA 

• Agentes de IA não têm discernimento nem noção de responsabilidade, mas tomam decisões com velocidade e escala superior à dos humanos. 

• Não existe ainda uma estrutura de segurança consolidada para orientar como monitorar e controlar o comportamento desses agentes. 

Além disso, muitos executivos ainda não confiam em permitir que esses agentes atuem autonomamente em interações com: 

• Clientes (25%) 
• Funcionários (22%) 

Qual o papel da governança para mitigar os riscos? 

Atualmente, não existe uma lei nacional específica para regular agentes autônomos de IA, mas há um projeto de lei em andamento e outras normas que afetam o uso dessa tecnologia.

A LGPD, por exemplo, estabelece diretrizes para o tratamento de dados pessoais, exigindo transparência, segurança e responsabilidade. 

Além disso, está em andamento no Congresso Nacional o debate sobre o Marco Legal da Inteligência Artificial, com regras para o desenvolvimento e o uso de sistemas de IA. 

Isso prepara o terreno para um conflito entre duas filosofias incompatíveis: como garantir uma supervisão humana adequada em um sistema projetado especificamente para funcionar de forma autônoma – ou seja, sem intervenção humana? 

Dessa forma, para lidar adequadamente com os riscos e manter o controle, as empresas precisam fortalecer seus sistemas de governança de dados ao introduzirem esses sistemas de IA.  

Como sua empresa pode se preparar? 

A melhor forma de se preparar para um ataque é se antecipar a ele. Cabe aos líderes de tecnologia desenvolverem uma compreensão abrangente dos riscos emergentes e garantir que a adoção da tecnologia ocorra de forma segura e em conformidade. 

Antes de implantar sistemas autônomos de IA, é essencial se perguntar: sua organização adota práticas de governança e gestão de riscos para uma adoção segura, responsável e eficaz dessa tecnologia? 

Essa resposta começa com a atualização das políticas, padrões e processos já existentes relacionados à IA. Nesse contexto, o primeiro passo é revisar o gerenciamento de identidades e acessos (IAM).  

Seguido pela gestão de riscos, de modo a abranger os novos recursos e proteger adequadamente as interações com dados, sistemas e usuários. 

Outro passo importante é lidar com a natureza mutável das regulamentações de IA e começar identificando as regras às quais estão sujeitas. 

Portanto, nesse cenário regulatório em rápida evolução, antecipar padrões de ataques, controlar identidades humanas e digitais e governar dados, prepara organizações para riscos futuros. 

Proteção para ambientes baseados em agentes autônomos de IA 

Todavia, com a rápida adoção de agentes autônomos de IA, as organizações precisam repensar suas estratégias de segurança.  

Esses agentes operam de forma independente, com acesso a dados, sistemas e fluxos de trabalho críticos — o que amplia significativamente a superfície de ataque e os riscos de uso indevido. 

A solução: segurança centrada na identidade. A abordagem mais eficaz para proteger esses ambientes é adotar uma estratégia de segurança centrada na identidade. 

Isso significa aplicar controles de identidade diretamente na infraestrutura e no ciclo de vida dos agentes autônomos, incluindo: 

• Gestão e proteção de credenciais 
• Autenticação contínua e baseada em risco 
• Monitoramento em tempo real do comportamento dos agentes 

Nossa equipe recomenda a solução da CyberArk de Gestão de Identidades e Acesso. Integrada a plataforma CyberArk garante a proteção de identidades com uma abordagem unificada, incluindo: 

• Gerenciamento seguro de credenciais 
• Autenticação adaptativa baseada em risco 
• Auditoria detalhada de ações executadas por agentes 

A solução oferece uma abordagem abrangente, orquestrando e automatizando a administração e governança das identidades digitais em todas as frentes. 

Por fim, é essencial complementar essas práticas com políticas de Zero Trust e segmentação de acesso. Essa abordagem reduz significativamente a superfície de ataque e aumenta a capacidade da organização de responder a incidentes com agilidade e precisão. 

Conclusão 

Atualmente, as organizações enfrentam um desafio duplo: viabilizar a inovação e evitar interrupções. 

Embora agentes autônomos de IA impulsionem a produtividade, novos desafios para manter a confidencialidade e a integridade de dados e sistemas surgirão.  

Inegavelmente o caminho a seguir requer estratégias proativas baseadas em governança, conformidade regulatória e segurança de dados. 

Fale com nossos especialistas e proteja suas identidades com a solução da CyberArk!