O que É um LLM? Como os Modelos de Linguagem Funcionam de Verdade

ChatGPT, Claude, Gemini e Copilot parecem produtos diferentes, mas todos rodam sobre a mesma tecnologia: um modelo de linguagem de grande escala, ou LLM (do inglês large language model). Entender esse modelo explica quase tudo o que esses assistentes acertam e erram. Este guia mostra o que é um LLM, como transforma o seu prompt numa resposta, como é treinado, os principais tipos, como escolher um e os prompts que tiram o melhor dele.

O que é um LLM

Um LLM é uma rede neural treinada com uma quantidade enorme de texto para uma única coisa: prever qual pedaço de texto vem a seguir. Dê a ele o começo de uma frase e ele estima as continuações prováveis. Repita isso milhares de vezes e surge um e-mail, um resumo, uma tradução ou uma função que funciona.

A "grande escala" se refere a duas coisas. Primeiro, os dados de treinamento, que nos modelos atuais somam trilhões de palavras de páginas web, livros, código e afins; a Meta, por exemplo, diz que o Llama 3 foi treinado com mais de 15 trilhões de tokens. Segundo, o número de parâmetros: os valores internos que o modelo ajusta no treinamento e que guardam o que aprendeu. O GPT-2 tinha 1,5 bilhão de parâmetros em 2019; o GPT-3, 175 bilhões um ano depois. Muitas empresas já não divulgam esse número nos modelos principais, mas os abertos, publicados com os pesos, vão de cerca de um bilhão a várias centenas de bilhões de parâmetros.

Os LLMs são o ramo da IA generativa dedicado à linguagem. As famílias mais conhecidas são o GPT, da OpenAI, o Claude, da Anthropic, o Gemini, do Google, o Llama, da Meta, e os modelos da Mistral, da Alibaba (Qwen) e da DeepSeek.

Como um LLM funciona: prevendo o próximo token

Um LLM não lê letras nem palavras. Um tokenizador corta o texto em tokens, pedaços que costumam ser uma palavra inteira ou parte dela, e converte cada um num número. O nosso guia sobre tokens de IA detalha essa etapa.

A partir daí, a resposta é construída num ciclo:

1. Ler o contexto: o modelo recebe todos os tokens da entrada: instruções de sistema, conversa até ali e a sua última mensagem.
2. Pontuar cada opção: ele calcula uma probabilidade para cada token do vocabulário, em geral dezenas de milhares ou mais.
3. Escolher um: ele escolhe um token, em geral um dos prováveis, mas nem sempre o mais provável. Um ajuste chamado temperatura controla o quanto essa escolha é ousada.
4. Repetir: o token escolhido entra no contexto e o modelo prevê o seguinte, até terminar a resposta.

A arquitetura que viabilizou isso em grande escala é o transformer, apresentado por pesquisadores do Google no artigo de 2017 "Attention Is All You Need". A ideia central é a atenção: para cada token, o modelo pondera a relevância de cada outro token do contexto. É assim que deduz que, em "a garrafa não coube na mochila porque ela era pequena demais", o "ela" é a mochila, e que acompanha instruções dadas 2.000 palavras antes.

Daí vêm três consequências práticas:

• O mesmo prompt pode dar respostas diferentes, porque cada token é escolhido com alguma aleatoriedade. Se importa, pergunte duas vezes e compare.
• O modelo só sabe o que está nos pesos e no contexto. Ele não consulta um banco de dados, salvo se o app acrescentar uma ferramenta de busca.
• Ele otimiza o plausível, não o verdadeiro. Quase sempre coincidem; quando não, surge um erro dito com toda a confiança.

Como os LLMs são treinados

Um assistente moderno passa por várias etapas de treinamento, e cada uma molda o comportamento dele.

• Pré-treinamento: o modelo lê uma vasta coleção de textos e aprende a prever o próximo token, ajustando os parâmetros a cada erro. Aqui ele absorve gramática, fatos, estilos de escrita, padrões de código e alguma capacidade de raciocínio. É a parte cara: semanas ou meses em milhares de chips especializados. O resultado é um modelo base, que continua textos bem, mas não segue instruções com segurança. Pergunte algo e ele pode responder com mais três perguntas, uma continuação plausível.
• Ajuste por instruções: o modelo base treina com exemplos de pedidos e boas respostas e aprende a agir como assistente: responder à pergunta, seguir o formato, parar ao terminar.
• Aprendizado com feedback: pessoas (e, cada vez mais, outros modelos) classificam respostas alternativas, e o modelo aprende a preferir as melhores. Isso se chama aprendizado por reforço com feedback humano (RLHF, na sigla em inglês). No artigo do InstructGPT, da OpenAI, de 2022, as pessoas preferiram as respostas de um modelo de 1,3 bilhão de parâmetros treinado assim às do GPT-3, com 175 bilhões, prova do peso dessa etapa.
• Treinamento de raciocínio: os modelos mais novos também aprendem a resolver problemas passo a passo antes de responder, com recompensa quando chegam a resultados corretos e verificáveis em áreas como matemática e programação.

Daí vem a data de corte do conhecimento. O pré-treinamento usa dados coletados até certa data, e o modelo ignora o que veio depois, salvo se o app lhe der busca ou você colar a informação.

LLMs, chatbots e IA generativa: a diferença

Esses termos viram sinônimos, mas são camadas da mesma pilha:

• A IA generativa é a categoria ampla: qualquer IA que cria texto, imagens, áudio, vídeo ou código.
• Um LLM é o motor da linguagem: um modelo que recebe texto e produz texto. Muitos também aceitam imagens, áudio ou arquivos; são os modelos multimodais.
• Um chatbot ou assistente é o produto construído em torno do modelo. O ChatGPT é um app; os modelos GPT são o que roda dentro dele.

O produto soma muito do que se atribui à "IA": um system prompt oculto que define tom e regras, busca na web, envio de arquivos, execução de código, memória entre chats e filtros de segurança. Por isso o mesmo modelo pode agir de forma diferente em dois apps, e um assistente pode citar as notícias de hoje mesmo que o conhecimento do modelo pare meses antes. Com ferramentas e liberdade para agir em vários passos, um LLM vira um agente de IA.

Tipos de LLM que você vai encontrar

Os LLMs se classificam em quatro eixos, e saber onde um modelo se encaixa diz muito sobre como usá-lo.

• Fechados ou de pesos abertos: os fechados (GPT, Claude, Gemini) só se usam pelos apps e pela API da empresa. Os de pesos abertos (Llama, Mistral, Qwen, DeepSeek e outros) publicam os parâmetros, e qualquer um pode baixá-los, executá-los e ajustá-los, conforme a licença. Pesos abertos dão privacidade e controle; os fechados costumam liderar nas tarefas mais difíceis e não exigem instalação.
• Grandes ou pequenos: os de fronteira são os mais capazes e os mais caros por token. Os pequenos, de um a poucos bilhões de parâmetros, rodam num notebook ou celular e lidam bem com classificação, extração e reescritas curtas. A maioria dos provedores vende vários tamanhos da família.
• Padrão ou de raciocínio: os de raciocínio gastam tokens extras "pensando" antes de responder. São mais lentos e caros, mas bem melhores em matemática, lógica, planejamento e depuração. Para uma reescrita rápida, acrescentam pouco.
• Só texto ou multimodais: os multimodais leem imagens, capturas de tela, gráficos e às vezes áudio, além de texto. Assim você pode fotografar um formulário ou um quadro branco e perguntar sobre ele.

Alguns modelos grandes usam um desenho chamado mistura de especialistas (mixture of experts), em que só parte da rede atua em cada token. O DeepSeek-V3, por exemplo, tem 671 bilhões de parâmetros no total, mas usa cerca de 37 bilhões por token, o que o torna bem mais barato de executar do que o tamanho sugere.

Em que os LLMs são bons, e prompts que ajudam

Os LLMs rendem mais ao transformar linguagem que você pode conferir: redigir, resumir, reescrever para outro público, traduzir, extrair dados estruturados de textos bagunçados, explicar um conceito no nível escolhido, levantar opções e escrever ou revisar código. Falham mais quando precisam tirar fatos da memória, sem fonte para conferir.

Por isso, o padrão mais confiável é dar o material ao modelo e pedir que trabalhe sobre ele, em vez de lembrar:

Como o modelo gera a resposta token por token, pedir que exponha a abordagem antes da resposta final ajuda em problemas de várias etapas. É a ideia por trás do prompt de cadeia de pensamento, que também facilita achar os erros:

Os LLMs também respondem bem a exemplos. Para um estilo ou formato específico, mostre um em vez de descrevê-lo:

Se prefere não escrever prompts assim do zero, o nosso gerador de prompts de IA monta uma versão estruturada a partir de uma linha descrevendo o que você precisa.

Como escolher um LLM para cada tarefa

Os rankings mudam todo mês e raramente refletem o seu trabalho real. Um teste curto com as suas tarefas vale mais que qualquer classificação. Responda a estas perguntas:

1. Qual é a tarefa? Escrita e análise, programação, matemática, compreensão de imagens ou processamento em grande volume favorecem modelos diferentes. Os de raciocínio servem a problemas difíceis; os pequenos e rápidos, aos repetitivos.
2. Para onde vão os seus dados? Se for confidencial, veja se o provedor treina com o que você envia e o que o seu plano permite. Planos empresariais e APIs costumam ter condições mais rígidas; um modelo de pesos abertos no seu próprio hardware mantém os dados totalmente em casa.
3. Quanto texto de entrada você precisa? Relatórios longos ou bases de código pedem uma janela de contexto grande, medida em tokens.
4. Quanto custa no seu volume? Numa API, estime um pedido típico e multiplique. Numa assinatura, veja os limites de uso do plano, não só o preço.
5. Precisa de informação atualizada? Se sim, escolha um app com busca na web ou conecte-o aos seus documentos com RAG.

Depois, rode os mesmos três ou quatro prompts reais em dois ou três candidatos e compare. A nossa comparação ChatGPT vs Claude vs Gemini é um ponto de partida para os principais assistentes de chat.

O que os LLMs não conseguem fazer

• Garantir fatos: um LLM gera texto plausível, então pode inventar fontes, números e citações com total confiança. Essas alucinações de IA se reduzem, mas não se eliminam. Confira tudo o que importa.
• Conhecer eventos recentes sozinho: sem busca ou fontes coladas, ele só sabe o que havia nos dados de treinamento até a data de corte, e pode nem saber qual é.
• Lembrar de você entre sessões por conta própria: o modelo não tem memória. Os apps de chat a simulam reenviando a conversa ou guardando notas, e o que sai da janela de contexto se perde.
• Contar e soletrar com segurança: como vê tokens e não letras, contar caracteres ou acertar um número exato de palavras costuma sair um pouco errado. Se o app permitir, peça que escreva e execute código para contar com precisão.
• Ser neutro por padrão: ele aprendeu com textos humanos, com seus vieses e lacunas, e o treinamento com feedback reflete as escolhas da empresa que o criou.
• Explicar-se com fidelidade: quando um modelo descreve o próprio raciocínio, isso também é texto gerado. Ajuda a achar erros, mas não revela com fidelidade como a resposta foi produzida.
• Substituir o julgamento profissional: em decisões médicas, jurídicas, financeiras ou de segurança, use-o para preparar perguntas e rascunhos e depois recorra a uma pessoa qualificada e a fontes primárias.

Pense num LLM como um previsor de texto muito lido, treinado para ser útil: rápido, flexível e muitas vezes impressionante, mas sem noção do que é verdade. Dê o contexto certo, peça o raciocínio, confira o que ele diz, e ele vira uma das ferramentas mais úteis que você tem.

Referências

• Wikipedia — Modelos de linguagem em grande escala
• Vaswani et al. — Attention Is All You Need (2017)
• Ouyang et al. — Training language models to follow instructions with human feedback (2022)