Quando o prompt precisa conviver com timeout, retry e usuário de verdade.
Projete chamadas, streaming, contratos, fallback, custo e observabilidade.
7 etapas · 5h 15min
Anatomia de uma chamada de API
Essencial40 minConteúdo em produção
Uma chamada combina autenticação, modelo, mensagens, ferramentas, limites e tratamento.
Playground esconde detalhes que aparecem quando o fluxo vira produto.
- Configurar autenticação
- Montar request e response
- Tratar stop reason
- Registrar request ID sem vazar dados
Resultado: Cliente mínimo de LLM
Prática
Implemente uma chamada mínima com timeout e erro.
Entregável: Cliente mínimo de LLM
✓ Prove que concluiu: Cliente mínimo de LLM
- O entregável “Cliente mínimo de LLM” existe e pode ser revisado por outra pessoa.
Escolher modelo, modalidade e capacidade
45 minConteúdo em produção
Compare qualidade, contexto, ferramentas, visão, custo, latência e disponibilidade.
Modelo maior não vence automaticamente na sua tarefa.
- Definir requisitos
- Testar na mesma amostra
- Separar benchmark e caso real
- Planejar migração
Resultado: Model selection report
Prática
Compare dois modelos em dez casos do seu domínio.
Entregável: Model selection report
✓ Prove que concluiu: Model selection report
- O entregável “Model selection report” existe e pode ser revisado por outra pessoa.
Material exclusivo
- Model Router Benchmark(em breve)
Streaming, latência e percepção de velocidade
40 minConteúdo em produção
Tempo até primeiro token, velocidade de geração e tempo total afetam experiências diferentes.
Responder rápido com resposta errada continua sendo experiência ruim.
- Medir TTFT e total
- Usar streaming
- Reduzir contexto e saída
- Escolher feedback progressivo
Resultado: Perfil de latência
Prática
Implemente streaming e meça três componentes de latência.
Entregável: Perfil de latência
✓ Prove que concluiu: Perfil de latência
- O entregável “Perfil de latência” existe e pode ser revisado por outra pessoa.
Retries, rate limits, idempotência e fallback
45 minConteúdo em produção
Sistemas precisam distinguir erro temporário, limite, recusa e falha permanente.
Retry cego duplica ação, piora congestionamento e multiplica custo.
- Usar backoff e jitter
- Definir idempotência
- Tratar timeout
- Criar fallback por risco
Resultado: Política de resiliência
Prática
Simule três falhas sem duplicar efeitos.
Entregável: Política de resiliência
✓ Prove que concluiu: Política de resiliência
- O entregável “Política de resiliência” existe e pode ser revisado por outra pessoa.
Tools e structured outputs em produção
Essencial50 minConteúdo em produção
Valide nomes, argumentos, schemas, permissões e resultados antes de avançar.
Schema estrito reduz formato inválido, não decisão errada.
- Definir tools pequenas
- Validar argumentos
- Tratar tool errors
- Controlar tool choice
Resultado: Tool contract em produção
Prática
Construa uma ferramenta com schema estrito e erro recuperável.
Entregável: Tool contract em produção
✓ Prove que concluiu: Tool contract em produção
- O entregável “Tool contract em produção” existe e pode ser revisado por outra pessoa.
Material exclusivo
- Structured Output Validator(em breve)
- LLM System Design Canvas(em breve)
Batch, cache e alto volume
40 minConteúdo em produção
Tarefas assíncronas podem trocar latência por custo menor e throughput maior.
Mandar tudo em tempo real é caro quando ninguém espera na tela.
- Separar online e offline
- Usar batch
- Combinar cache e batch
- Controlar filas
Resultado: Plano de processamento em lote
Prática
Reprograme um fluxo não urgente para batch.
Entregável: Plano de processamento em lote
✓ Prove que concluiu: Plano de processamento em lote
- O entregável “Plano de processamento em lote” existe e pode ser revisado por outra pessoa.
Material exclusivo
- Model Cost Calculator(em breve)
Routing, custo e observabilidade
Essencial55 minConteúdo em produção
Roteie tarefas por dificuldade e acompanhe qualidade, tokens, cache, latência e versão.
Modelo barato parece economia até o retrabalho aparecer em outro dashboard.
- Criar política de routing
- Medir consumo e latência
- Versionar prompt e modelo
- Relacionar custo a resultado
Resultado: Dashboard de operação
Prática
Implemente um router simples e compare custo por caso aprovado.
Entregável: Dashboard de operação
✓ Prove que concluiu: Dashboard de operação
- O entregável “Dashboard de operação” existe e pode ser revisado por outra pessoa.
Material exclusivo
- Model Cost Calculator(em breve)
- Model Router Benchmark(em breve)