Estratégia híbrida de modelos

Meta: aplicar a disciplina num caso real de SaaS com usuários: modelo barato por padrão, modelo caro só no que é estritamente necessário.

Resumo em 3 frases

1. Num SaaS com usuários, o modelo simples é impreciso demais para as ações críticas, e o modelo caro é eficiente — mas muito caro para o volume inteiro; nenhum dos dois sozinho fecha a conta.
2. A estratégia híbrida usa o modelo caro só quando é estritamente necessário (ações críticas) e modelos baratos para o que é simples.
3. A porta de entrada é o gate: definir “estritamente necessário” com regras, confiança e custo do erro — e escalar para o caro quando o barato não passa.

O problema do SaaS

Força	Empurra para
Usuários pagam por qualidade percebida	modelo forte
Volume cresce com o sucesso	modelo barato
Erro em ação crítica vira reclamação, chargeback, processo	modelo forte + humano
Margem do SaaS some com 10× o custo por token	modelo barato

Os dois erros extremos — só barato e só caro — são simétricos: um quebra a qualidade, outro quebra a margem.

A lógica híbrida

Tipo de ação	Exemplo	Modelo	Por quê
Simples e de alto volume	resumo, classificação, resposta a FAQ, formatação	barato (Modelo Intermediário)	erro recuperável, custo unitário multiplica pelo volume
Crítica e de baixo volume	cobrança, compromisso jurídico, decisão sobre dinheiro do usuário	caro (Modelo Frontier) ou humano	o custo do erro supera a diferença de preço

Como definir “estritamente necessário”

O gate não é opinião — é critério escrito:

1. Critério de domínio: quais ações são críticas por definição (lista explícita, não “o modelo decide”).
2. Critério de confiança: se o barato responde com baixa confiança ou falha no validador (schema, checker), escala.
3. Custo do erro: ação cujo erro custa mais que N chamadas do modelo caro escala — N é número, não sentimento.

flowchart LR
    A[Requisição do usuário] --> B{Gate de criticidade}
    B -->|simples + confiável| C[Modelo barato]
    B -->|crítica ou baixa confiança| D[Modelo caro]
    C --> E{Validador}
    E -->|passa| F[Resposta]
    E -->|falha| D
    D --> G[Revisão humana<br/>quando a ação exigir]

Os mecanismos que sustentam

• Cascata com verificador: barato primeiro, verificador no fim, caro como fallback — até 98% de economia sem perder qualidade (FrugalGPT, ver Pesquisa - Custo e qualidade na seleção de modelos).
• Roteamento aprendido: um router decide por consulta se manda para forte ou fraco — >2× de economia (RouteLLM, ver Roteamento de modelos).
• Revisão humana no caminho das ações críticas: o modelo caro reduz o volume que o humano vê, não o substitui.

Exemplo concreto

SaaS de suporte, 50k interações/dia: ~90% são FAQ (barato resolve, ~R$1,5k/m\hat{e}s),9$ 600/mês). “Só caro” custaria ~R$ 40k/mês pela mesma receita. A híbrida entrega a qualidade onde ela é paga e protege a margem onde ela não é notada.

Perguntas para validar

1. Por que “só modelo barato” e “só modelo caro” são dois erros simétricos num SaaS?
2. Quais os três critérios de um gate de criticidade — e qual deles precisa virar número?
3. Como a cascata com verificador e o roteamento aprendido se diferem na prática?

Ver também

• Roteamento de modelos · Pesquisa - Custo e qualidade na seleção de modelos · Modelo Frontier · Modelo Intermediário · Escolha final e conclusão