Nos últimos anos, diversas empresas de diferentes setores intensificaram a adoção de inteligência artificial em suas operações. Inicialmente, a utilização se concentrava em chatbots e assistentes virtuais. Com o avanço da tecnologia, surgiram ferramentas de automação e análise, além de copilotos corporativos. Atualmente, estamos testemunhando uma nova fase, caracterizada por agentes de IA que não apenas respondem a perguntas, mas também tomam decisões e realizam ações dentro dos sistemas corporativos.
À medida que a autonomia da inteligência artificial aumenta, a necessidade de controle sobre suas ações se torna mais crítica. Essa transformação é evidenciada por uma projeção da NTT DATA, que aponta um crescimento acelerado nos investimentos voltados à segurança da IA até 2029. As áreas de governança, observabilidade e cibersegurança se destacam como essenciais para o desenvolvimento seguro dessas tecnologias. A categoria AI TRiSM — AI Trust, Risk and Security Management, que se dedica à gestão de confiança, riscos e segurança da IA, pode movimentar cerca de US$ 6,2 bilhões até 2029. Já os investimentos em observabilidade de IA devem alcançar aproximadamente US$ 3,6 bilhões, com um aumento significativo previsto para o período.
Essa tendência revela uma mudança importante na mentalidade das empresas. Enquanto no início da era da inteligência artificial generativa a preocupação era entender suas capacidades, atualmente a questão central é como permitir que a IA opere sem comprometer o controle. A chegada da IA agêntica, que pode executar múltiplas etapas para alcançar um objetivo definido, intensifica essa preocupação. Esses agentes, dependendo das permissões, têm a capacidade de acessar bancos de dados, enviar mensagens, produzir documentos, executar códigos e iniciar processos corporativos.
Esse cenário marca uma transição em que a inteligência artificial se torna uma parte integrante da infraestrutura organizacional. No entanto, o desafio reside em garantir que essas operações sejam seguras, previsíveis, auditáveis e em conformidade com as normas estabelecidas por cada organização. Assim, governança, observabilidade e cibersegurança são fundamentais para viabilizar a inovação, em vez de serem vistas como obstáculos.
Nos próximos anos, a competição entre as empresas não se limitará a quem possui a inteligência artificial mais avançada, mas também a quem consegue utilizá-la em grande escala sem perder o controle sobre suas ações. Essa mudança de mentalidade será crucial até 2029: não se trata apenas de tornar a IA mais inteligente, mas também de assegurar que seu uso seja seguro, rastreável e governável.
