Agentes de IA em Produção

Há quem leia o título desta palestra e pense em prompt engineering em nova embalagem. No entanto, a construção de pipelines agênticas em produção é a nossa boa engenharia de software, com as mesmas regras, mas aplicadas a um novo contexto. O custo deixa de ser um detalhe operacional e vira uma variável arquitetural, porque o contexto cobra por token a cada chamada e cresce de forma não linear durante o uso. Esta palestra mostra como a Economia do Contexto reescreve as decisões de custo, latência e qualidade, e por que caching, compactação e orçamento de tokens devem deixar de ser uma otimização tardia pra entrar no desenho do sistema desde o primeiro dia, e por que o system prompt deve ser tornar um artefato versionado, com observabilidade própria. Falaremos sobre a construção de agentes, loop de percepção, raciocínio, ação e memória e sua interface com o mundo, onde a engenharia realmente acontece. E veremos por que especializar sua abordagem em um sistema multi-agente é uma ótima decisão arquitetural. Vamos abordar as topologias de delegação, o custo da distribuição, a camada de protocolo entre agentes e da persistência de estado na fronteira, e a razão que torna estas otimizações naquilo que separa um protótipo encantador de um produto confiável em escala.

Transcript

1. Agentes de IA em Produção Economia do Contexto, anatomia do agente, arquitetura multiagente e um escritório de desenvolvimento autônomo Ricardo Coelho Latinoware 2026 · 16 de outubro · 12h · Espaço Equador
2. A B E RT U R A Quem sou eu Ricardo Coelho Sou Principal Engineer, advisor e investidor. São trinta e cinco anos de engenharia de software. Escrevi AI Agents in Production, sobre arquitetura, estratégia de produto e as novas regras da engenharia de software. rcoelho.dev Agentes de IA em Produção · Latinoware 02
3. TESE A construção de pipelines agênticas em produção é a nossa boa engenharia de software, com as mesmas regras, mas aplicadas a um novo contexto. O custo deixa de ser um detalhe da fatura e vira uma variável de arquitetura.
4. A B E RT U R A O percurso em quatro partes 1 A Economia do Contexto Custo, latência e qualidade no desenho do sistema 2 A anatomia do agente O loop, as ferramentas e as camadas de memória 3 O sistema multiagente Delegação, protocolo e estado na fronteira 4 O escritório autônomo Do card no Plane à entrega em produção As quatro, juntas, separam um protótipo encantador de um produto confiável em escala. Agentes de IA em Produção · Latinoware 04
5. PARTE 1 DE 4 A Economia do Contexto O contexto cobra por token a cada chamada e essa conta entra no desenho do sistema.
6. ECO N O M I A D O CO N T E X TO O custo virou uma variável de arquitetura chamada 1 O modelo não guarda estado entre as chamadas. Você reenvia o contexto inteiro a cada passo e paga de novo por cada token de entrada. chamada 2 chamada 3 chamada 4 chamada 5 prompt e ferramentas Agentes de IA em Produção · Latinoware histórico passo novo 06
7. ECO N O M I A D O CO N T E X TO O contexto cresce de forma não linear 66 mil tokens distintos produzidos em trinta passos 1,11 milhão tokens de entrada cobrados na soma das chamadas chamada 1: 8 mil chamada 30: 66 mil Exemplo ilustrativo: prompt e ferramentas com 8 mil tokens, 2 mil novos por passo, sem cache. Agentes de IA em Produção · Latinoware 07
8. ECO N O M I A D O CO N T E X TO Três grandezas na mesma conta Custo Cada token de entrada é cobrado em toda chamada em que aparece. Latência Um contexto maior leva mais tempo para ser processado antes da primeira palavra da resposta. Qualidade Informação demais dilui a atenção do modelo e o trecho relevante se perde no meio. A Economia do Contexto trata as três como uma decisão só, tomada no desenho do sistema. Agentes de IA em Produção · Latinoware 08
9. ECO N O M I A D O CO N T E X TO O cache começa na ordem do prompt Ferramentas System prompt Histórico Passo novo prefixo estável, lido do cache a 0,1× Ordem. O que muda pouco vai na frente: ferramentas, system prompt e depois as mensagens. Estabilidade. Uma alteração no meio do prefixo invalida tudo o que vem depois dela. Higiene. Data, hora e identificadores ficam fora do prefixo. gravado a 1,25× 187 mil equivalente em tokens de entrada no exemplo de trinta passos, contra 1,11 milhão sem cache Multiplicadores públicos da Anthropic para cache de 5 minutos: escrita 1,25×, leitura 0,1×. Agentes de IA em Produção · Latinoware 09
10. ECO N O M I A D O CO N T E X TO O histórico não precisa viajar inteiro antes Prompt Histórico antigo depois Prompt Resumo Saídas de ferramenta Turnos recentes Turnos recentes Resumir Descartar Externalizar O histórico antigo vira um resumo com as decisões tomadas e as pendências. A saída bruta de uma ferramenta sai do contexto assim que o agente a usou. O conteúdo longo vai para arquivo ou banco e volta por busca, sob demanda. Compactar reescreve o prefixo e derruba o cache, por isso desenho as duas políticas juntas. Agentes de IA em Produção · Latinoware NO BLOG Quatro ferramentas que radicalizam a otimização de tokens 10
11. ECO N O M I A D O CO N T E X TO Todo nível tem um teto de tokens Nível Limite Ao estourar Chamada tamanho máximo do contexto compactar antes de enviar Tarefa total de tokens e de passos encerrar e devolver o parcial Agente cota recebida na delegação devolver a quem delegou Cliente gasto acumulado no período bloquear e avisar O orçamento é um requisito do sistema, com teste e alerta. Agentes de IA em Produção · Latinoware 11
12. ECO N O M I A D O CO N T E X TO O system prompt é um artefato versionado Repositório. O prompt passa por revisão como qualquer código. prompts/suporte/system.md v14 para v15 Avaliação. Cada versão roda a suíte de casos antes do deploy. - Responda sempre em português. + Responda no idioma do usuário. eval de regressão aprovado cache do prefixo invalidado rollback Agentes de IA em Produção · Latinoware v14 disponível Rastreio. Toda execução registra a versão do prompt que a produziu. Métricas por versão. Tokens, latência e taxa de acerto, lado a lado. 12
13. PARTE 2 DE 4 A anatomia do agente Uso a inferência para construir a ferramenta e em produção roda o código determinístico.
14. A N ATO M I A D O AG E N T E O modelo só atua em uma etapa do loop 1 · determinístico 2 · inferência 3 · determinístico 4 · determinístico Percepção Raciocínio Ação Memória O que entra no contexto: pedido, resultados e estado. O modelo escolhe o próximo passo. Uma chamada de ferramenta com efeito no mundo. O que fica guardado para a próxima volta. a cada volta, o contexto cresce O raciocínio é a única etapa em que o modelo decide. Percepção, ação e memória são código determinístico, escrito e testado por você. Agentes de IA em Produção · Latinoware 14
15. A N ATO M I A D O AG E N T E A inferência entra na construção a cada execução uma vez Inferência na operação Inferência na construção O modelo decide toda vez. O token é cobrado toda vez. A saída pode variar. O modelo escreve a ferramenta. A ferramenta roda sem token. A saída se repete e o teste prova. Advogo pela segunda: a inferência constrói ferramentas determinísticas e o modelo fica só com o que exige julgamento. Agentes de IA em Produção · Latinoware 15
16. A N ATO M I A D O AG E N T E A ferramenta é código determinístico buscar_pedido descrição Consulta um pedido pelo número. Use antes de responder sobre entrega. entrada numero_pedido: string execução código testado, sem inferência saída status, previsão e itens erro Pedido não encontrado. Confira o número com o cliente. Agentes de IA em Produção · Latinoware Descrição. Entra no contexto em toda chamada e é por ela que o modelo escolhe a ferramenta. Entrada. Um schema estrito recusa o argumento inventado antes da execução. Execução. Roda sem modelo no caminho, com o mesmo resultado para a mesma entrada. Saída. Só os campos que o agente usa, porque o restante vira token cobrado. Erro. Uma mensagem que diga ao modelo como corrigir a chamada. 16
17. A N ATO M I A D O AG E N T E Cada camada de memória tem seu custo Camada Onde vive Duração Quando custa Contexto janela do modelo uma execução em toda chamada Trabalho arquivos, notas e estado da tarefa uma tarefa quando o agente lê Longo prazo banco, índice e base de conhecimento entre sessões na busca e no trecho recuperado A camada em que a informação fica define quando você paga por ela. Agentes de IA em Produção · Latinoware 17
18. A N ATO M I A D O AG E N T E O loop tem limite de passos e de tokens Teto de passos e de tokens Prazo e nova tentativa O loop termina por orçamento e devolve o resultado parcial a quem chamou. Toda ferramenta tem timeout e a repetição espera um intervalo crescente. Idempotência Aprovação humana Uma ação repetida depois de uma falha produz o efeito uma única vez. A ação irreversível para e espera a confirmação de uma pessoa. Agentes de IA em Produção · Latinoware 18
19. PARTE 3 DE 4 O sistema multiagente Delegação, protocolo e estado na fronteira entre agentes.
20. S I S T E M A M U LT I AG E N T E Especialistas carregam contextos menores Um generalista prompt ferramentas Três especialistas histórico Cada especialista trabalha com um prompt curto, poucas ferramentas e o histórico de uma única subtarefa. Agentes de IA em Produção · Latinoware 20
21. S I S T E M A M U LT I AG E N T E Quatro topologias de delegação Orquestrador e trabalhadores Um agente divide a tarefa e junta os resultados. Pipeline Hierarquia Malha Cada etapa entrega para a seguinte, em ordem fixa. Coordenadores intermediários, cada um com a sua equipe. Pares conversam entre si, sem coordenador central. Agentes de IA em Produção · Latinoware 21
22. S I S T E M A M U LT I AG E N T E Distribuir tem um preço em tokens 4x os tokens de um agente em relação a uma conversa de chat 15x os tokens de um sistema multiagente em relação à mesma conversa Faz sentido quando a tarefa tem muitas etapas e/ou o trabalho pode ser dividido em frentes paralelas. Fonte: Anthropic, "How we built our multi-agent research system", junho de 2025. Agentes de IA em Produção · Latinoware 22
23. S I S T E M A M U LT I AG E N T E Dois protocolos abertos na fronteira MCP liga padroniza o agente às ferramentas e aos dados ferramentas, recursos e prompts A2A liga padroniza um agente a outro agente descoberta, tarefas e artefatos Model Context Protocol Agent2Agent Protocol Os dois são padrões abertos, sob a governança da Linux Foundation. Com o contrato na fronteira, o agente do outro lado pode ser trocado sem que a integração seja reescrita. Agentes de IA em Produção · Latinoware 23
24. S I S T E M A M U LT I AG E N T E O estado persiste na fronteira Agente A Handoff Agente B termina a parte dele e entrega identificador, objetivo e referências começa com o contexto limpo grava lê Estado persistido tarefa, checkpoints e artefatos O agente entrega um artefato persistido com identificador e versão. O contexto dele fica para trás. Agentes de IA em Produção · Latinoware 24
25. PARTE 4 DE 4 O escritório autônomo Do card no Plane à entrega em produção, com a validação de um escritório de desenvolvimento agêntico, sem intervenção.
26. E S C R I TÓ R I O AU TÔ N O M O A visão geral do setup origem execução gate 1 gate 2 entrega cards com critérios de aceite um orquestrador e os especialistas build e testes aceite e evidências deploy e verificação Plane Agentes na VPS stg escreve Base MD no Obsidian documentação e evidências qa notifica E-mail e comentário no card o humano acompanha e intervém produção monitora NOC de plantão o incidente volta como card Agentes de IA em Produção · Latinoware 26
27. E S C R I TÓ R I O AU TÔ N O M O O que roda na VPS Orquestrador um serviço do sistema que lê a fila e distribui o trabalho Fila de cards cada card com o estado gravado a cada passo Agentes em sandbox um contêiner e um worktree do repositório por card Isolamento. Cada card roda no próprio contêiner, com credencial de escopo mínimo. Segredos. As chaves ficam no ambiente e nunca entram no prompt. Retomada. Um serviço que cai volta do último checkpoint. Guardas orçamento por card, watchdog e registro de tudo o que foi executado Agentes de IA em Produção · Latinoware 27
28. E S C R I TÓ R I O AU TÔ N O M O O nascedouro das demandas é o Plane Backlog A fazer Em andamento STORY PROJ-142 · Em andamento Em stg Em qa épico PROJ-120 · 5 pts Exportar o relatório em CSV Como gestor, quero exportar o relatório em CSV, para analisar os dados na minha planilha. CRITÉRIOS DE ACEITE Dado um relatório com filtros aplicados Quando o gestor clica em Exportar CSV Então o CSV traz só as linhas filtradas TASKS PROJ-143 API de exportação PROJ-144 Botão na tela PROJ-145 Log de auditoria Em produção Contrato. A story só entra na fila com os critérios de aceite escritos. Gatilho. O webhook do Plane acorda o orquestrador a cada mudança de estado. Registro. Cada agente comenta no card o que fez e aponta a evidência. Plane: código aberto, auto-hospedado, com API e webhooks. A story do exemplo é ilustrativa. Agentes de IA em Produção · Latinoware 28
29. E S C R I TÓ R I O AU TÔ N O M O · CAS O R E A L O Portavox já trabalha assim no Plane 1.639 work items no projeto 6 tipos Epic, Story, Task, Bug, Spike e Chore 1 módulo por card, marcado como label Board do projeto Portavox no Plane. Agentes de IA em Produção · Latinoware 29
30. E S C R I TÓ R I O AU TÔ N O M O Quatro documentos antecedem a story PRD.md SPEC.md TASKS.md WORKFLOW.md Plane O quê e por quê Como Em que ordem Quem faz o quê Stories e tasks problema, escopo, requisitos e métricas de sucesso arquitetura, modelo de dados, rotas e segurança fases, tarefas e definição de pronto atores, ordem dos testes e gates cada story aponta para um requisito do PRD Na entrega nascem os outros: adr.md, plano.md, revisao.md, testes.md, release.md e runbook. Cada documento deriva do anterior e o agente lê os quatro antes da story. Agentes de IA em Produção · Latinoware 30
31. E S C R I TÓ R I O AU TÔ N O M O Cada papel do escritório tem o seu agente Papel Entrega Arquivo no vault Analista fecha os critérios e quebra a story em tasks analise.md Arquiteto decide o desenho e registra o porquê adr.md Desenvolvedor implementa com testes e abre o PR plano.md Revisor revisa o diff, aprova ou devolve revisao.md QA roda os testes end to end no Playwright testes.md Release promove entre os ambientes e faz o rollback release.md NOC monitora a produção e abre o incidente incidente.md Agentes de IA em Produção · Latinoware 31
32. E S C R I TÓ R I O AU TÔ N O M O O caminho de um card até a produção analista arquiteto dev revisor release qa release Análise Desenho Código Revisão Deploy em stg End to end em qa Produção gate reprovado: o card volta com o motivo analise.md adr.md plano.md e PR revisao.md log do pipeline testes.md e evidências release.md Cada etapa deixa um arquivo MD no vault e um comentário no card. Agentes de IA em Produção · Latinoware 32
33. E S C R I TÓ R I O AU TÔ N O M O Três gates entre o card e a produção Ambiente O que valida Evidência gerada Se reprovar stg build, lint, testes unitários e de integração e análise de segurança relatório de testes e log do pipeline o card volta para o dev com o motivo qa testes end to end no Playwright, contra os critérios de aceite trace, vídeo e capturas de tela o card volta com o caso que falhou produção deploy, smoke test e verificação de saúde log do deploy e resultado dos checks rollback automático e card de incidente Agentes de IA em Produção · Latinoware 33
34. E S C R I TÓ R I O AU TÔ N O M O Três níveis de teste antes da produção gate stg gate stg gate qa · Playwright Testes unitários Testes de integração Testes end to end Cada função e cada regra de negócio, em isolamento. Os módulos juntos, com banco e serviços de verdade. O Playwright percorre a aplicação no navegador, um cenário por critério de aceite. escreve desenvolvedor escreve desenvolvedor escreve QA roda a cada commit roda antes do deploy em stg roda no ambiente de qa prova relatório e cobertura prova relatório do pipeline prova trace, vídeo e capturas O agente escreve o teste uma vez e o gate roda sem inferência. Agentes de IA em Produção · Latinoware 34
35. E S C R I TÓ R I O AU TÔ N O M O O card só avança com evidência A aprovação vem do gate, que é código. Nenhum agente aprova o próprio trabalho por inferência. A evidência fica no vault e o link vai para o card, onde você audita a entrega sem abrir o terminal. Agentes de IA em Produção · Latinoware Relatório de testes Cobertura unitários, de integração e end to end o quanto do diff foi exercitado Playwright Log do deploy trace, vídeo e captura de cada critério de aceite o que subiu e em qual ambiente Commit e PR Rastro do agente o hash que foi para produção versão do prompt, tokens e chamadas de ferramenta 35
36. E S C R I TÓ R I O AU TÔ N O M O Tudo o que o escritório produz vira MD vault/ ├─ projeto/ │ └─ PRD, SPEC, TASKS, WORKFLOW ├─ demandas/ │ └─ PROJ-142/ │ ├─ card.md │ ├─ analise.md │ ├─ adr.md │ ├─ plano.md │ ├─ revisao.md │ ├─ testes.md │ ├─ evidencias/ │ └─ release.md ├─ incidentes/ ├─ runbooks/ └─ metricas/ Agentes de IA em Produção · Latinoware Frontmatter. Card, agente, versão do prompt, tokens e data em todo arquivo. Links. O card aponta para o ADR, o PR e a evidência. O grafo do Obsidian mostra o caminho. Git. O vault é um repositório e cada escrita de agente é um commit. Memória. A base é o estado persistido na fronteira e a memória de longo prazo do escritório. 36
37. E S C R I TÓ R I O AU TÔ N O M O O registro fica no card e o aviso vai por e-mail Evento No card do Plane Por e-mail Card aceito plano comentado resumo do que será feito Gate aprovado evidência anexada link da evidência Gate reprovado motivo e volta de etapa só depois do teto de tentativas Em produção card fechado com o release nota de entrega Incidente card novo, com prioridade alta alerta imediato Você acompanha pelo e-mail e intervém comentando no card. Agentes de IA em Produção · Latinoware 37
38. E S C R I TÓ R I O AU TÔ N O M O As métricas do escritório Lead time Custo por card Aprovação de primeira do card aceito à entrega em produção tokens e dinheiro gastos em cada demanda cards que passam em cada gate sem voltar Retrabalho MTTR Autocorreção voltas de etapa por card tempo entre o alerta e a correção em produção falhas resolvidas sem intervenção de uma pessoa Cada card grava as próprias métricas em MD e o painel é uma consulta sobre o vault. Agentes de IA em Produção · Latinoware 38
39. E S C R I TÓ R I O AU TÔ N O M O O self-healing em cinco degraus 1 Um passo falha nova tentativa, com intervalo crescente 2 O agente trava ou estoura o orçamento o watchdog reinicia e retoma do checkpoint 3 O gate reprova o card volta para o dev com o motivo, até o teto de voltas 4 A produção degrada rollback automático e card de incidente 5 O teto de tentativas acaba o card para e uma pessoa recebe o e-mail Agentes de IA em Produção · Latinoware 39
40. E S C R I TÓ R I O AU TÔ N O M O O NOC devolve o incidente ao Plane Produção serviços no ar entrega monitora Agentes Vigia dos agentes. Heartbeat, fila parada e gasto de tokens fora do orçamento. NOC o mesmo fluxo agente de plantão corrige abre o card Plane card de incidente Agentes de IA em Produção · Latinoware Vigia dos serviços. Checks de saúde, logs e métricas do que está em produção. Abertura do card. O incidente entra no Plane com o diagnóstico e a evidência. Postmortem. O mesmo fluxo corrige e o relato do incidente vai para o vault. 40
41. CO N C LU SÃO O que separa o protótipo do produto Protótipo encantador Produto confiável Custo descoberto na fatura orçado por tarefa Contexto cresce até o limite da janela cache, compactação e teto System prompt texto colado no código artefato versionado, com eval Trabalho repetido inferência a cada execução ferramenta determinística Falha recomeça do zero retoma do último checkpoint Agentes um generalista com tudo especialistas com contrato Agentes de IA em Produção · Latinoware 41
42. CO N C LU SÃO Primeiros passos para implementação 1 2 3 4 5 6 Orçamento de tokens por tarefa System prompt no repositório, com eval Agentes de IA em Produção · Latinoware Prefixo estável, cache e compactação Trace com tokens, latência e versão do prompt Ferramenta determinística para o trabalho repetido Checkpoint do estado na fronteira 42
43. Caching, compactação e orçamento de tokens são a base da implementação no desenho do fluxo agêntico. É o que separa um protótipo encantador de um produto confiável em escala.
44. Obrigado. Perguntas e casos de produção são bem-vindos. Ricardo Coelho rcoelho.dev