A corrida inicial para a adoção da inteligência artificial (IA) no setor bancário resultou em um cenário inesperado para muitos diretores financeiros: a concessão de um 'cheque em branco' para equipes de tecnologia. Este entusiasmo, impulsionado pela promessa de ganhos exponenciais em produtividade e eficiência, levou a gastos crescentes e, muitas vezes, imprevisíveis. Agora, diante de contas elevadas e da necessidade urgente de otimizar orçamentos, as instituições financeiras globais estão reavaliando suas estratégias de implementação de IA. A pressão é ainda maior em um ambiente onde os investimentos em tecnologia já são disputados por demandas como a modernização de sistemas legados e a cibersegurança. Este movimento marca uma transição crucial, da fase de experimentação descontrolada para uma abordagem mais estratégica e consciente dos custos, focada em maximizar o valor real da IA.
O dilema dos custos imprevisíveis da IA
Um dos principais desafios na gestão de custos da inteligência artificial reside na natureza da IA agêntica. Embora prometa ganhos significativos ao lidar com tarefas complexas de forma autônoma, sua operação é inerentemente difícil de orçar. A quantidade de poder computacional, mensurada em 'tokens', que cada tarefa consome pode ser altamente imprevisível. Essa volatilidade impede que as organizações tenham uma estimativa precisa dos custos envolvidos antes de iniciar um processo, criando uma lacuna entre o investimento e a previsão orçamentária.
Bhavi Mehta, sócio e líder global de análises avançadas em serviços financeiros, enfatiza que a falta de controle sobre os custos é uma realidade presente em diversas organizações. À medida que a inteligência artificial avança para raciocínios mais sofisticados e fluxos de trabalho autônomos, o número de tokens necessários para uma tarefa específica pode variar drasticamente. Essa incerteza ressalta a importância crescente de compreender os custos em conjunto com o valor de negócio gerado, especialmente à medida que os bancos buscam escalar suas implementações de IA.
Transparência e valor do investimento
Apesar do discurso recorrente de CEOs sobre os potenciais benefícios da IA, a evidência concreta de retorno sobre o investimento ainda é escassa. Um estudo recente, que monitorou 50 dos maiores bancos globais, revelou que apenas 12 atribuíram publicamente retornos projetados ou realizados à sua adoção de inteligência artificial. Isso indica uma desconexão entre a euforia em torno da tecnologia e a capacidade das instituições de quantificar os benefícios financeiros reais de seus gastos.
O aumento do investimento em tecnologia foi um tema presente em teleconferências de resultados de diversos bancos nos EUA, como Citigroup Inc. e Goldman Sachs Group Inc. Contudo, poucos executivos apresentaram números precisos sobre seus gastos com IA ou os benefícios financeiros gerados. Este cenário impulsiona a indústria a sair da fase de experimentação para um estágio de implantação mais consciente e estratégico, exigindo uma reavaliação das abordagens de gestão de custos e valor.
Estratégias bancárias para otimização de gastos
Diante do imperativo de controlar os custos da inteligência artificial, diversas instituições financeiras estão desenvolvendo e implementando estratégias inovadoras. A transição da experimentação para a produção em larga escala exige uma abordagem mais inteligente e focada na eficiência operacional.
Otimização de modelos e tarefas
Um banco global identificou, por meio de seu monitoramento, que funcionários estavam consumindo volumes anormalmente grandes de tokens, um fenômeno conhecido como 'tokenmaxxing'. Contudo, em vez de restringir imediatamente o uso, a análise aprofundada revelou que muitos estavam realizando trabalhos úteis e produtivos. Christoph Rabenseifner, diretor de estratégia de tecnologia, dados e inovação do banco, explicou que a estratégia adotada foi direcionar esse uso para finalidades ainda mais produtivas, em vez de simplesmente interrompê-lo.
Adicionalmente, o banco testou a execução de tarefas em modelos menores e treinados especificamente para determinadas funções, em vez de depender exclusivamente de grandes modelos de ponta. Essa abordagem resultou em uma redução significativa dos custos, em várias vezes. A lição é clara: a escolha do modelo certo para a tarefa certa é crucial para a eficiência de custos.
Escalabilidade e eficiência operacional
Outro banco europeu adota uma estratégia de duas etapas para otimizar os custos de inferência de IA. Primeiramente, utiliza grandes modelos de ponta apenas para verificar se uma aplicação atende aos seus rigorosos padrões de qualidade. Após a validação, as cargas de trabalho comprovadas são transferidas para modelos mais leves e significativamente mais baratos para a produção em massa. Ignacio Bernal, diretor de inteligência artificial do banco, destacou que essa abordagem permitiu reduzir os custos de execução de cerca de €5 (US$ 5,61) para apenas €0,03 por processo de aprovação de empréstimo.
Bernal observa que, ao mover a IA de pilotos para a produção em um banco global, o custo de inferência deixa de ser um erro de arredondamento e se torna uma linha de custo operacional substancial. Isso ocorre porque alguns processos são executados milhões de vezes por ano, multiplicando exponencialmente as despesas computacionais. A escolha de modelos adequados para cada fase do ciclo de vida da aplicação é, portanto, vital.
Um banco canadense, por sua vez, constatou que seus modelos mais poderosos, como o Opus de Anthropic PBC, podem custar até C$ 3.000 (US$ 2.130) por funcionário por mês. Uma despesa que poderia escalar rapidamente se estendida a milhares de trabalhadores. Como medida de controle, o acesso a esses modelos foi restrito a algumas centenas de funcionários, enquanto uma nova plataforma integrada de IA, ainda em testes, foi limitada a 250 usuários, com cada um podendo gastar entre 4 e 250 dólares canadenses por mês. Jaime Tatis, diretor de dados e inteligência artificial do banco, resumiu a situação: "É poderoso demais para 50.000 pessoas simplesmente usá-lo sem controle".
O futuro da IA bancária: inovação com prudência
A fase inicial de euforia e gastos descontrolados com inteligência artificial no setor bancário está cedendo lugar a uma era de maior prudência e estratégia. As instituições financeiras estão reconhecendo a necessidade de ir além da mera experimentação, focando na integração da IA de forma a transformar fluxos de trabalho inteiros, e não apenas tarefas isoladas. Isso exige uma gestão rigorosa dos custos, a seleção de modelos apropriados para cada aplicação e o monitoramento constante do valor gerado. O futuro da IA no setor bancário reside na capacidade de inovar de forma sustentável, equilibrando o potencial transformador da tecnologia com a responsabilidade fiscal e a busca por retornos tangíveis.
Perguntas frequentes sobre os custos da IA no setor bancário
Por que os bancos estão tendo dificuldades para controlar os custos da inteligência artificial?
A dificuldade surge da adoção inicial sem um controle rigoroso, da natureza imprevisível da IA agêntica, que consome poder computacional de forma variável, e da falta de mecanismos de monitoramento eficazes. Muitos investimentos foram feitos sem uma clara atribuição de retornos financeiros, resultando em despesas inesperadas e orçamentos estourados.
O que é IA agêntica e por que ela é mais difícil de orçar?
A IA agêntica refere-se a sistemas de inteligência artificial capazes de lidar com tarefas complexas de forma autônoma. Sua dificuldade de orçamentação reside na imprevisibilidade do consumo de recursos computacionais (como 'tokens') para cada tarefa. À medida que a IA realiza raciocínios mais sofisticados e fluxos de trabalho autônomos, o volume de tokens necessários pode variar significativamente, tornando o custo final incerto e difícil de prever.
Quais estratégias os bancos estão adotando para reduzir os gastos com IA?
Os bancos estão implementando diversas estratégias, incluindo: monitoramento rigoroso do uso de tokens por funcionários; direcionamento do uso da IA para tarefas mais produtivas; utilização de modelos menores e mais especializados para tarefas específicas em vez de grandes modelos de ponta; uso de modelos grandes apenas para verificação de qualidade e, em seguida, migração para modelos mais leves e econômicos para produção em massa; e restrição do acesso a modelos de IA mais caros para um número limitado de usuários, com limites de gastos definidos.
Para se manter atualizado sobre as últimas tendências e análises aprofundadas sobre a aplicação da inteligência artificial no setor financeiro, assine nossa newsletter e receba conteúdo exclusivo diretamente em sua caixa de entrada.
Fonte: https://www.infomoney.com.br
