Governança de IA, de agentes de IA e cibersegurança: o novo risco não é só tecnológico

Com a chegada da inteligência artificial generativa e dos agentes de IA, as empresas passaram a lidar com uma nova camada de risco cibernético.

Imagem: Editada de freepik.com

Me lembro dos  anos 80 e 90, quando eu ia instalar um software novo, havia um ritual quase obrigatório. O software  chegava em uma caixa, acompanhado de 10, 15 ou até mais disquetes. O CD ainda não fazia parte da rotina, a internet nem existia e quando chegou não era o canal de distribuição de software.

Cada mídia física precisava ser tratada com cautela. Antes de iniciar a instalação, a primeira providência era passar um antivírus em cada disquete. Só depois vinha a confiança mínima para seguir adiante. Naquela época, a grande preocupação era simples e concreta: um disquete contaminado poderia infectar o microcomputador, comprometer arquivos, corromper programas, atingir o setor de boot do disco rígido ( o antigo Winchester, depois chamado de HD-Hard Disk) ou espalhar vírus pela rede da empresa.

A tecnologia mudou profundamente, mas a lógica de segurança continua surpreendentemente parecida. Antes, a pergunta era: de onde veio esse disquete, o que ele pode instalar e que dano pode causar ao computador ou à rede? Hoje, com IA generativa e agentes de IA, a pergunta evoluiu: de onde vem esse contexto, que dados a IA pode acessar, que ferramentas o agente de IA pode acionar, que decisões pode influenciar e que ações pode executar? Se no passado a governança de TI ajudava a proteger microcomputadores, redes e softwares contra mídias contaminadas, hoje a governança de IA e a governança de agentes de IA passam a ser camadas essenciais da cibersegurança para proteger dados, processos, permissões, decisões e comportamentos automatizados.

A cibersegurança sempre dependeu de governança. Políticas de acesso, segregação de funções, gestão de identidades, monitoramento, resposta a incidentes, continuidade, auditoria e responsabilização nunca foram apenas temas técnicos. São decisões de governança aplicadas à proteção da organização.

Com a chegada da inteligência artificial generativa e dos agentes de IA, essa relação ficou ainda mais crítica. A empresa passa a lidar com uma nova camada de risco: sistemas inteligentes capazes de interagir com dados, pessoas, processos, documentos, ferramentas e ambientes digitais. O problema não está apenas em usar IA, mas em usar IA sem clareza sobre limites, responsabilidades, supervisão, evidências e comportamento esperado. Por isso, governança de IA e governança de agentes de IA precisam ser entendidas também como temas de cibersegurança.

A nova superfície de risco da IA

Durante muito tempo, a cibersegurança se concentrou em proteger redes, sistemas, aplicações, endpoints, bancos de dados, usuários e toda a infraestrutura computacional. Esses elementos continuam essenciais. Mas agora há novos pontos de exposição.

A IA pode ser usada com dados sensíveis sem autorização adequada. Pode gerar respostas com informações indevidas. Pode ser manipulada por comandos maliciosos. Pode induzir colaboradores a confiar em recomendações erradas. Pode ampliar o alcance de erros humanos. Pode acelerar decisões inseguras. Pode conectar processos antes isolados. Pode transformar uma falha pequena em um incidente de maior impacto.

O risco do uso invisível da IA

Um dos maiores riscos atuais é o uso invisível ou informal da IA dentro das empresas. Colaboradores podem usar ferramentas públicas para resumir documentos internos, revisar contratos, analisar planilhas, criar respostas para clientes, preparar pareceres ou interpretar informações sensíveis. Muitas vezes, a intenção é boa: ganhar produtividade, economizar tempo, melhorar a qualidade do trabalho. O risco está no improviso. Quando não há política clara, treinamento, orientação e supervisão, o uso da IA pode gerar:

• vazamento de dados confidenciais; exposição de dados pessoais;
• uso de informações desatualizadas; decisões baseadas em respostas incorretas;
• dependência excessiva da IA; violação de regras internas;
• uso de ferramentas não homologadas; ampliação de riscos jurídicos e reputacionais.

Esse tipo de risco não aparece necessariamente como um ataque hacker clássico. Ele pode surgir de um comportamento cotidiano, aparentemente inofensivo, mas mal orientado. É por isso que a governança de IA e de agentes de IA precisa estar conectada à cultura de segurança da organização.

Prompt injection e manipulação do comportamento da IA

Entre os riscos mais discutidos em aplicações de IA está o prompt injection. De forma simples, é uma tentativa de manipular o comportamento da IA por meio de instruções maliciosas inseridas em textos, documentos, páginas, mensagens ou entradas aparentemente legítimas. Recentemente temos visto diversos casos envolvendo advogados e o prompt injection em petições para enganar a IA dos tribunais.

O risco é especialmente relevante porque a IA pode tratar uma instrução maliciosa como se fosse parte normal da tarefa. Em ambientes com agentes de IA, isso pode ser ainda mais preocupante, porque o agente pode estar conectado a ferramentas, bases de dados, sistemas internos ou fluxos de trabalho. Sem governança, a IA é porta de entrada para novos tipos de exploração e isso é o mar da felicidade para ataques de hackers.

Agência excessiva e permissões indevidas

Outro risco importante é a agência excessiva. Isso ocorre quando um sistema de IA ou agente recebe mais autonomia, mais acesso ou mais capacidade de ação do que realmente precisa. Em cibersegurança, isso conversa diretamente com o princípio do menor privilégio. Nenhum usuário, sistema ou agente deveria ter mais permissões do que o necessário para cumprir sua função.

Com agentes de IA, esse princípio se torna ainda mais importante. Um agente mal delimitado pode acessar informações demais, consultar bases que não deveria, executar etapas fora do escopo, acionar ferramentas sem necessidade ou participar de decisões sensíveis sem supervisão adequada.

Também existe o risco de permission creep, quando permissões vão sendo acumuladas ao longo do tempo. O agente começa com um escopo pequeno, mas, à medida que novas integrações são adicionadas, passa a ter acessos cada vez mais amplos, muitas vezes sem revisão proporcional. A governança de agentes de IA precisa impedir que a autonomia cresça mais rápido que os controles para que isso não abra portas para incidentes cibernéticos.

Agent sprawl: quando ninguém sabe mais quantos agentes existem

À medida que ferramentas de IA se tornam mais fáceis de usar, áreas de negócio (vendas, marketing, financeiro, RH, etc) podem começar a criar seus próprios agentes, assistentes, automações inteligentes e fluxos com IA. Isso pode acelerar a inovação, mas também pode gerar um problema sério: agent sprawl.

Agent sprawl é a proliferação desorganizada de agentes. Podem surgir agentes duplicados, agentes sombra, agentes sem responsável, agentes esquecidos, agentes com permissões excessivas ou agentes que executam funções parecidas sem coordenação. Para a cibersegurança, isso é perigoso porque a organização perde visibilidade dos ativos que tem e respectivas vulnerabilidades. Se a empresa não sabe quais agentes existem, também não sabe:

• que dados eles acessam; que sistemas utilizam;
• quem é responsável por eles; quais permissões possuem;
• quais riscos oferecem; se ainda deveriam estar ativos.

Nesse ponto, inventário de agentes não é burocracia. É controle básico de segurança cibernética.

A governança comportamental como camada de proteção

A tecnologia cria novos riscos, mas as pessoas continuam sendo uma camada decisiva de proteção. Grande parte dos incidentes envolvendo IA não acontecerá porque alguém “invadiu” tecnicamente um sistema. Muitos ocorrerão porque pessoas bem-intencionadas confiaram demais em uma resposta, compartilharam dados sem perceber o risco, aceitaram uma recomendação sem questionar, aprovaram uma ação por fadiga, usaram uma ferramenta não autorizada ou deixaram de reportar um comportamento estranho da IA.

É aqui que entra a governança comportamental. Já comentei em posts anteriores aqui no blog da P2  sobre governança comportamental (links no fim desse texto). Governança comportamental é a capacidade da organização de criar ambientes, práticas e incentivos para que as pessoas ajam com consciência, responsabilidade e segurança. No contexto da IA, isso significa preparar colaboradores para reconhecer riscos, questionar respostas, proteger dados, respeitar limites e reportar incidentes ou quase-incidentes sem medo de punição. A segurança não depende apenas de bloqueios técnicos. Depende também de pessoas capazes de perceber sinais fracos e acionar procedimentos de segurança.

Novos vieses comportamentais no uso da IA

O uso de IA traz riscos comportamentais específicos. Um deles é o viés de automação, quando a pessoa tende a confiar demais na resposta da máquina simplesmente porque ela foi produzida por um sistema tecnológico. Outro risco é o viés de autoridade da IA. A resposta parece bem escrita, segura e convincente. Por isso, o usuário acredita que ela está correta, mesmo quando contém erros, omissão ou interpretação indevida.

Há também a fadiga de aprovação. Se o colaborador recebe muitas solicitações para revisar respostas ou ações de agentes de IA, pode passar a aprovar mecanicamente, sem análise real. Nesse caso, o humano continua formalmente no processo, mas deixa de exercer supervisão efetiva.

Outro ponto crítico é a normalização do desvio. A equipe começa usando IA fora da política “só uma vez”, depois isso vira hábito, depois vira prática informal e, quando a organização percebe, existe um ecossistema paralelo de IA sem controle. Esses riscos não se resolvem apenas com tecnologia. Eles exigem treinamento, cultura, clareza de papéis, comunicação, incentivos corretos e liderança.

A importância do reporte sem medo

Em segurança da informação, organizações maduras estimulam o reporte de incidentes e quase-incidentes. Com IA, isso será ainda mais importante. Um colaborador precisa se sentir seguro para dizer:

A IA me deu uma resposta estranha. Acho que usei uma ferramenta inadequada.
O agente acessou uma informação que não deveria. Uma resposta parecia conter dado sensível.
O sistema sugeriu uma ação arriscada. Aprovei algo com dúvida.
Percebi que uma área está usando IA fora do padrão.

Se a cultura for punitiva, as pessoas escondem. Se escondem, a organização perde aprendizado. Se perde aprendizado, os riscos crescem em silêncio. Governança comportamental cria um ambiente em que o reporte é visto como proteção da organização, não como confissão de culpa ou acusação leviana.

Governança de IA como ponte entre segurança, pessoas e processos

A governança de IA deve conectar áreas que em muitas empresas trabalham separadas: TI, segurança da informação, jurídico, privacidade, compliance, riscos, auditoria, negócio, RH e comunicação.

Esse alinhamento é necessário porque os riscos de IA não pertencem a uma única área. Um vazamento de dados pode começar em uma área administrativa. Uma resposta indevida pode afetar atendimento. Uma decisão automatizada pode gerar risco jurídico. Uma integração mal configurada pode afetar segurança de dados. Um agente sem dono ou responsável pode virar problema de auditoria externa. Uma aprovação humana mal desenhada pode virar risco operacional. A governança de IA e de agentes de IA organiza responsabilidades para que a cibersegurança não dependa apenas da área técnica.

Governança de agentes como controle da autonomia

A governança de agentes de IA adiciona uma pergunta fundamental:

Que autonomia a organização está disposta a delegar para a IA?

Essa autonomia precisa ser proporcional ao risco. Nem todo agente exige o mesmo nível de controle. Um agente que resume documentos públicos tem risco diferente de um agente que acessa dados de clientes, prepara respostas comerciais, interage com sistemas internos ou participa de decisões financeiras.

Por isso, a governança de agentes deve definir:

• finalidade do agente; responsável humano;
• classe do agente; domínio de ação;
• dados permitidos; dados proibidos;
• permissões; ferramentas autorizadas;
• ações permitidas; ações proibidas;
• necessidade de aprovação humana; logs e evidências;
• critérios de revisão; procedimentos de incidente;
• condição de desligamento.

Esses controles não servem apenas para “organizar a IA”. Eles reduzem risco cibernético.

A MVG como camada mínima de proteção

A metodologia MVG — Governança Mínima Viável de Agentes de IA, proposta pela P2 Consultoria Brasil, parte de uma visão prática: a organização não deve esperar ter uma estrutura sofisticada de governança para começar a controlar agentes de IA.

É possível começar com controles mínimos:

• saber quais agentes existem; definir quem responde por cada agente;
• limitar o que cada agente pode fazer; controlar dados e fontes;
• exigir aprovação humana quando necessário; registrar evidências;
• revisar permissões; acompanhar incidentes;
• impedir agentes órfãos; evitar autonomia sem controle.

Na prática, a MVG ajuda a transformar uma pergunta técnica em uma pergunta de governança:

Não é apenas “o agente funciona?”.
É “o agente funciona dentro de limites seguros, conhecidos, autorizados e auditáveis?”.

Cibersegurança também é comportamento governado

A discussão sobre IA e agentes de IA não pode ficar restrita a modelos, ferramentas, prompts e integrações. Esses elementos são importantes, mas não bastam. A nova cibersegurança precisa considerar três camadas ao mesmo tempo:

1. Camada técnica: ferramentas, acessos, logs, controles, arquitetura, proteção de dados e monitoramento.
2. Camada de governança: políticas, responsabilidades, limites, aprovação, evidências, auditoria e gestão de riscos.
3. Camada comportamental: consciência, julgamento humano, reporte, cultura, treinamento e responsabilidade no uso da IA.

Quando essas três camadas não trabalham juntas, a organização fica exposta. Quando estão juntas, a IA pode ser usada com mais segurança, maturidade e confiança.

Governança de IA e governança de agentes de IA não são apenas temas de inovação, ética ou compliance. Elas são parte da nova agenda de cibersegurança. A empresa que usa IA sem governança amplia sua superfície de risco. Se usa agentes de IA sem governança, delega autonomia sem controle suficiente. E, nesse novo cenário, proteger a organização não significa apenas impedir ataques externos. Significa também evitar que dados, decisões, permissões, comportamentos e ações automatizadas criem riscos internos invisíveis.

A cibersegurança da era da IA exigirá firewalls, criptografia, monitoramento e controles técnicos. Mas exigirá também pessoas conscientes, cultura de reporte, supervisão humana efetiva e governança comportamental. A tecnologia pode acelerar processos, a governança precisa proteger a organização e as pessoas continuam sendo uma das camadas mais importantes da proteção contra riscos cibernéticos.

Links relacionados:

Governança Comportamental: quando o “jeito de agir” vira a variável mais importante da gestão

Não Adianta Blindar a Máquina se o Humano está Vulnerável: O que o Banco Central Ensinou sobre Cibersegurança

Publicação no Linkedin: A TI não é mais a "dona" da Segurança Cibernética. E agora?