A gestão de custos ganha força na jornada da IA generativa
Redação
Diante do aumento do uso da inteligência artificial (IA), sobretudo a generativa, e as suas infinitas possibilidades de produção de soluções, ofertas e oportunidades, pouco está sendo discutido sobre os resultados experimentados por alguns setores que, por questões diversas, adotam determinadas plataformas, sem considerar a fundo questões como custo, equilíbrio, latência e necessidade.
Fernando Ramos –
Dados compilados no estudo Global AI Adoption Index revelaram que 67% dos profissionais de TI de Brasil, Chile, Argentina, Colômbia, México e Peru testemunharam a aceleração da implantação da IA em suas empresas nos últimos dois anos. A urgência por soluções com o uso dessa tecnologia não é novidade. O mesmo não se pode dizer sobre algumas conclusões que a realidade está impondo aos negócios.
Um grande cliente do setor de meio de pagamentos recentemente me confidenciou a necessidade de melhorar o perfil de custos da IA generativa. É uma plataforma de large language model (LLM) das mais conhecidas, cujo custo tem se mostrado alto.
Isso nos faz parar e pontuar algumas dúvidas que a utilização da IA em larga escala nos coloca: vai caber no nosso orçamento? Qual é o perfil da aplicação em que faz sentido usar? Como combinar modelos novos e antigos? Há outros modelos com bons retornos e custos menores?
Diante do hype que vivemos em torno da IA, sobretudo a generativa, e as suas infinitas possibilidades de produção de soluções, ofertas e oportunidades, pouco se discute os resultados experimentados...