Com avanço da IA agêntica, empresas devem investir US$ 6,2 bi em segurança até 2029

Monica Miglio Pedrosa

Até 2029, mais da metade dos ataques bem-sucedidos a agentes de inteligência artificial deverá explorar falhas de acesso ou instruções maliciosas que tentam desviar seu comportamento, técnica conhecida como prompt injection. A necessidade de construir confiança nesses sistemas impulsiona investimentos em três frentes. Para a gestão de confiança, riscos e segurança de IA, categoria conhecida como AI TRiSM, a projeção é de investimentos de US$ 6,2 bilhões até 2029. Os investimentos em observabilidade de IA, que permite acompanhar o funcionamento dos agentes, deverão triplicar, alcançando US$ 3,6 bilhões. Já os recursos destinados à IA aplicada à cibersegurança deverão atingir US$ 79,8 bilhões, equivalente a 2,9 vezes o valor de 2024.

As projeções foram apresentadas durante a oitava edição do The Future Uncovered, evento da NTT DATA realizado ontem no Cubo Itaú, em São Paulo. A discussão apontou a necessidade de incorporar a confiança à infraestrutura que sustenta a operação dos agentes, com mecanismos de segurança e verificação previstos desde o desenho dos sistemas (security by design).

A integridade das informações que orientam as ações dos agentes é um dos requisitos dessa estrutura. “No mundo de IA, a integridade dos dados passa a ser um fator superimportante”, afirmou Fernando Galdino, diretor de Consultoria em Cibersegurança da NTT DATA Brasil. Segundo o especialista, um mesmo prompt pode gerar respostas diferentes conforme o contexto de uso, o que exige uma governança capaz de acompanhar essas variações e verificar continuamente a confiabilidade dos resultados.

É nesse acompanhamento que entra a observabilidade, a capacidade de rastrear quais informações os agentes acessam, quais ações executam e os resultados que produzem. Daniela Griecco, head de Digital & Analytics da NTT DATA Brasil, destacou que esse monitoramento deve permitir identificar decisões sensíveis e ajuda a definir os limites de atuação dos agentes.

“A confiança operacional não significa que 100% dos processos têm que estar realmente sendo decididos pelos agentes”, afirma Griecco. Para ela, o grau de autonomia deve considerar a criticidade de cada operação e a sensibilidade dos dados acessados. A maturidade organizacional está na capacidade de estabelecer esses limites e definir em quais etapas a intervenção humana ainda é necessária.

Jornada de evolução da segurança agêntica

Os especialistas apresentaram uma jornada de segurança projetada em quatro fases. A primeira, de evidência e monitoramento, estabelece a base para avaliar o comportamento dos agentes, identificar desvios e orientar os controles de acesso e atuação.

A segunda etapa, que deve se intensificar nos próximos dois anos, é a de governança em escala. As políticas de acesso e autonomia passam a integrar os fluxos de trabalho e os processos da organização, com validações contínuas. O objetivo é sustentar a expansão do uso da IA com regras que possam ser aplicadas e ajustadas sem interromper a operação.

No terceiro estágio, a confiança operacional se consolida com mecanismos de segurança incorporados aos processos de ponta a ponta. As decisões se tornam verificáveis ao longo do fluxo de trabalho, com controles adequados à criticidade de cada operação.

No último estágio, a jornada avança para a confiança federada, quando essa estrutura de segurança se estende às relações entre as empresas. A proposta é construir redes interorganizacionais com padrões para verificar a origem das informações, definir frameworks de autenticidade, compartilhar conhecimento sobre ameaças e coordenar defesas. Essa articulação também permite que setores acelerem sua prontidão regulatória.

A evolução depende de articulação entre empresas, entidades de classe e reguladores. Galdino apontou o setor financeiro como o mais organizado nessa frente, com fóruns ligados à FEBRABAN e ao Banco Central que favorecem a troca de boas práticas. Também citou iniciativas nos setores de energia, telecomunicações, varejo e saúde, embora a resistência das empresas a compartilhar vulnerabilidades e incidentes ainda seja um desafio nessa troca.

Para Griecco e Galdino, a capacidade de crescer com confiança será uma vantagem competitiva das empresas na era agêntica. A segurança passa, assim, a determinar até onde essa transformação pode avançar.