O futuro da IA: modelos menores, resultados maiores

O que são modelos de IA menores?

Modelos de IA menores, também chamados de small language models (SLMs), são programas de inteligência artificial que leem e escrevem texto, como o ChatGPT, mas com tamanho suficiente para rodar num notebook, num celular ou num servidor modesto. Eles abrem mão de saber de tudo. Em troca, ficam rápidos, baratos e focados.

O tamanho de um modelo é medido em parâmetros, os números internos que ele ajusta durante o treino e que guardam o que aprendeu. Os modelos mais famosos têm centenas de bilhões deles. Pesquisadores da NVIDIA propuseram uma régua prática num artigo de 2025: é pequeno o modelo que cabe num aparelho comum e responde rápido o bastante para uso real. Na avaliação deles, isso inclui a maior parte dos modelos com menos de 10 bilhões de parâmetros.

A diferença para o leitor não é técnica. O modelo grande é o generalista que sabe um pouco de tudo. O pequeno é o especialista que faz bem poucas coisas, muitas vezes seguidas, sem cobrar caro por isso.

Por que modelos menores passaram a entregar resultados parecidos com os dos grandes?

Os modelos menores passaram a se aproximar dos grandes porque a indústria aprendeu a treinar melhor, e não apenas a treinar maior. Dados de mais qualidade, mais tempo de treino por parâmetro e técnicas que transferem o conhecimento de um modelo grande para um pequeno reduziram o tamanho necessário para cada nível de desempenho.

O número que resume a mudança está no AI Index 2025, da Universidade Stanford. Em 2022, o menor modelo a passar de 60% no MMLU, uma prova de múltipla escolha que cobre dezenas de áreas do conhecimento, era o PaLM, com 540 bilhões de parâmetros. Em 2024, o Phi-3-mini, da Microsoft, atingiu a mesma marca com 3,8 bilhões: uma redução de 142 vezes em pouco mais de dois anos.

Três ideias explicam esse salto:

• Treinar com mais dados em vez de crescer. Em 2022, a DeepMind mostrou que o Chinchilla, com 70 bilhões de parâmetros e quatro vezes mais dados, superava o Gopher, de 280 bilhões, gastando o mesmo poder de computação (Hoffmann et al., 2022). Muitos modelos da época eram grandes demais para os dados que tinham recebido.
• Escolher melhor os dados. O relatório técnico do Phi-3 atribui o desempenho do modelo sobretudo à qualidade do material de treino, filtrado e complementado com texto sintético (Microsoft, 2024).
• Destilar. A destilação é o processo em que um modelo pequeno aprende imitando as respostas de um modelo maior, e não só o texto bruto. A técnica foi descrita por Geoffrey Hinton, Oriol Vinyals e Jeff Dean em 2015. Hoje é comum na produção de modelos compactos.

Quanto um modelo menor reduz o custo da inteligência artificial?

Um modelo menor reduz o custo da inteligência artificial porque cada resposta exige muito menos cálculo, e o cálculo é o que se paga, seja na fatura de uma API, seja na conta de energia de um servidor. A redução observada nos últimos anos foi de centenas de vezes para o mesmo nível de resposta.

O mesmo AI Index 2025 mediu o preço de um modelo com desempenho equivalente ao GPT-3.5: US$ 20 por milhão de tokens em novembro de 2022 e US$ 0,07 em outubro de 2024, com o Gemini-1.5-Flash-8B, um modelo de 8 bilhões de parâmetros. Token é o pedaço de palavra que os modelos usam como unidade de cobrança. A queda passa de 280 vezes em cerca de 18 meses, e o relatório credita boa parte dela justamente a modelos menores e mais capazes.

O artigo dos pesquisadores da NVIDIA vai na mesma direção em outra medida: servir um modelo de 7 bilhões de parâmetros custa de 10 a 30 vezes menos em latência, energia e operações de cálculo do que servir um de 70 a 175 bilhões (Belcak et al., 2025, seção 3.2). Para uma empresa, isso decide se uma automação que roda milhares de vezes por dia cabe no orçamento.

Em que tarefas de uma empresa o modelo pequeno já resolve?

O modelo pequeno já resolve as tarefas repetitivas e bem delimitadas que formam a maior parte do uso de IA numa empresa: separar mensagens por assunto, extrair campos de notas e contratos, resumir conversas de atendimento, padronizar cadastros e decidir para qual setor um pedido deve ir. São trabalhos de muito volume e pouca variação.

O Gartner aposta nessa direção. Num comunicado de abril de 2025, a consultoria previu que, até 2027, as organizações vão usar modelos pequenos e específicos para uma tarefa num volume pelo menos três vezes maior que o dos modelos de uso geral. O argumento é de precisão: o modelo generalista perde acerto quando a tarefa depende do contexto do negócio.

Os pesquisadores da NVIDIA fizeram um exercício parecido com três agentes de IA de código aberto, programas que executam tarefas em várias etapas. A estimativa deles é que um modelo pequeno especializado daria conta de cerca de 60% das chamadas do MetaGPT, 40% das do Open Operator e 70% das do Cradle (apêndice B). O que importa não é o número exato. É o padrão: num mesmo fluxo, a maioria dos passos é simples.

Daqui para baixo o texto entra na parte técnica: como o modelo pequeno cabe num aparelho comum e como ele convive com os grandes.

Como um modelo de IA menor consegue rodar no notebook ou no celular?

Um modelo de IA menor roda no notebook ou no celular porque, além de ter poucos parâmetros, ele pode ser quantizado: cada parâmetro passa a ser guardado com menos casas de precisão, o que reduz a memória necessária a uma fração e mantém a maior parte da qualidade das respostas.

O exemplo mais citado ainda é o do próprio Phi-3-mini. Na versão quantizada para 4 bits, ele ocupou cerca de 1,8 GB de memória e rodou num iPhone 14, sem internet, gerando mais de 12 tokens por segundo (relatório técnico do Phi-3). Em abril de 2026, o Google lançou a família Gemma 4, com versões pensadas para celulares e dispositivos de internet das coisas e outras para computadores pessoais, e em junho publicou versões comprimidas específicas para celular e notebook.

Rodar localmente muda duas coisas além do custo. A primeira é a privacidade: se o texto não sai da máquina, não há transferência de dados pessoais para um fornecedor no exterior, o que simplifica a análise exigida pela LGPD (Lei nº 13.709/2018). A segunda é a disponibilidade: a automação continua funcionando se a internet cair ou se a API do fornecedor ficar fora do ar.

Como combinar modelos pequenos e grandes no mesmo fluxo?

Modelos pequenos e grandes se combinam no mesmo fluxo por roteamento: um modelo pequeno recebe cada pedido, resolve os casos comuns e só repassa ao modelo grande o que for difícil ou fora do padrão. Assim a empresa paga o preço alto só nas poucas vezes em que ele é necessário.

É o desenho que os pesquisadores da NVIDIA chamam de sistema heterogêneo (Belcak et al., 2025), e é também a recomendação do Gartner quando um único modelo não basta: abordagens compostas, que juntam vários modelos e etapas de processo.

Na prática, um fluxo de atendimento pode ter quatro peças. Um modelo pequeno identifica o assunto da mensagem. Uma busca nos documentos da empresa traz o trecho certo, técnica chamada RAG (retrieval-augmented generation). Outro modelo pequeno redige a resposta com base nesse trecho. E um modelo grande só entra quando a conversa foge do roteiro. Ajustar um modelo pequeno com exemplos da própria empresa, o chamado fine-tuning, também é barato nessa escala: o artigo da NVIDIA fala em poucas horas de GPU.

Nos fluxos que a VT Sávio monta em n8n, o modelo é escolhido por etapa, e não para o fluxo inteiro. O erro mais comum antes disso é o inverso do esperado: usar o modelo mais caro em todos os passos porque ele foi o primeiro a funcionar no teste. A troca por um modelo menor só se paga quando existe um conjunto de exemplos reais para comparar as respostas antes e depois. Sem esse conjunto, o melhor caminho é começar pelo modelo grande, registrar as conversas por algumas semanas e só então testar o pequeno nas etapas de maior volume.

Quando o modelo de IA menor não é a escolha certa?

O modelo de IA menor não é a escolha certa quando a tarefa exige conhecimento amplo do mundo, raciocínio longo em várias etapas ou respostas abertas para perguntas que ninguém previu. Ele guarda menos fatos, erra mais fora do assunto para o qual foi preparado e depende de instruções e dados bem organizados.

O próprio relatório do Phi-3 admite o limite: o modelo vai mal em perguntas de conhecimento geral, medidas no teste TriviaQA, porque não tem capacidade para armazenar tantos fatos. A solução proposta pelos autores é ligá-lo a um mecanismo de busca (Microsoft, 2024). Ou seja, o modelo pequeno funciona melhor quando alguém entrega a ele a informação certa, em vez de esperar que ele a tenha decorado.

Há ainda o custo que não aparece na fatura. Rodar um modelo na própria infraestrutura exige alguém para instalar, atualizar e monitorar. Também é preciso trocar de versão quando sai outra melhor, o que acontece várias vezes por ano. Para uma empresa com pouco volume de uso, pagar por uso num serviço pronto costuma sair mais barato e dar menos trabalho do que manter um servidor. O modelo pequeno compensa primeiro onde o volume é alto, a tarefa é estreita ou o dado não pode sair de casa.

O que ainda não dá para afirmar sobre o futuro dos modelos menores?

Ainda não dá para afirmar quanto do uso de IA nas empresas vai migrar de fato para modelos menores, nem em que prazo. As previsões mais citadas são projeções de consultoria ou artigos de posição, e os testes que comparam modelos medem provas padronizadas, não o trabalho específico de cada empresa.

A previsão do Gartner para 2027 é uma aposta de analistas, não uma medição. O artigo da NVIDIA se declara, já no resumo, uma tomada de posição, e as porcentagens de chamadas substituíveis são estimativas dos autores sobre três projetos de código aberto, não resultados medidos em empresas. E os dois lados da discussão têm interesse comercial nela.

O que já é fato medido é a queda de tamanho e de preço para o mesmo desempenho, registrada pelo AI Index. Daí não decorre que o modelo pequeno sirva para a sua tarefa: isso só um teste com os seus próprios exemplos responde.