#Llm

Lista de ferramentas apodrece em doze meses, a sua inclusive. Por isso cada uma das dez vem com o critério de troca: os dez slots da stack do engenheiro de IA em 2026, o default de cada um e o sinal objetivo que diz quando arrancar. Com dados do OWASP Top 10 de 2026 e da pesquisa do Pragmatic Engineer.

O agente decide sozinho qual fluxo usar, mas ninguém consegue explicar por que ele escolheu errado ontem às 14h. Roteador determinístico vs. roteador por LLM, classificação de intenção com schema fechado e evidência, política de fallback explícita, atributos de trace para auditar a decisão e como medir acerto de rota sem rotular dez mil conversas na mão.

Se o seu código tem um try/catch em volta de um json_decode da resposta do modelo, você não tem contrato. Tem esperança. Como garantir saída estruturada de verdade no LLM: constrained decoding no provider, schema que o modelo consegue cumprir, validação semântica e retry com orçamento fixo, sem loop infinito e sem parser defensivo.

Seu protótipo custou R$ 12 no primeiro dia. Em produção, com 200 usuários, ele custa quase R$ 4.000 por mês. Abrimos a conta de token de um agente real camada por camada (system prompt, definições de tool, chunks de RAG, histórico, tool results) e mostramos onde some quase 80% do dinheiro. No fim, compressão de prompt, pruning de histórico e seleção de contexto derrubam a fatura em 73%, com a planilha antes e depois.

Alucinação não é bug do modelo, é ausência de amarra. Por que o nome atrapalha o diagnóstico, as técnicas que prendem a resposta no dado que é seu, a validação em tempo real que permite botar o sistema na frente de cliente pagante, e o que ainda vai escapar depois de tudo isso.

Mapa honesto do ecossistema de orquestração e memória de agentes. O que LangGraph, Mem0, LangChain e MCP realmente fazem, o ponto em que cada um deixa de ser overhead, e a árvore de decisão de 5 perguntas antes de instalar qualquer coisa.

O terceiro provider de infraestrutura de LLM já tem região em São Paulo, catálogo com Grok 4.3, Gemini 2.5, Llama 4 e Cohere Command A, e cobra por caractere em vez de token. O catálogo real do Oracle Generative AI, como chamar o serviço com o SDK da OpenAI, a conta do cluster dedicado e o critério objetivo para decidir entre OCI e Bedrock.

A decisão que mais gente erra pra cima. Critério objetivo pra escolher entre prompt, RAG e fine tuning, quanto custa cada caminho com números reais, os três casos raros em que treinar um modelo ganha, e o teste de cinco minutos que separa problema de conhecimento de problema de recuperação. Com a notícia que muda a conta: a OpenAI está encerrando a plataforma de fine-tuning.

Fundamento operacional de LLM sem analogia de papagaio: o que o modelo faz a cada token, por que ele é stateless, como a janela de contexto degrada muito antes do limite e por que temperatura 0 não é determinística. Cada conceito fecha com a consequência de arquitetura que ele te obriga a construir, com a doc oficial da Anthropic e da OpenAI, o paper Lost in the Middle e o estudo de context rot da Chroma na mão.

Metade das tecnicas de prompt sumiu porque o modelo aprendeu sozinho. A outra metade virou parametro de API. O que sobreviveu, o que virou folclore, e por que em sistema real o problema deixou de ser a frase e passou a ser o que entra na janela de contexto.

Uma frase de doze palavras no X virou paradigma com paper em cinco semanas. Fui ler o survey procurando o benchmark que justifica o degrau novo: não tem nenhum. O que separa hype de engenharia em graph engineering, com os números rastreados até a fonte, quais são de fabricante e quais são independentes, e a régua de cinco perguntas pra decidir se o seu caso pede grafo ou se você só quer o crachá novo.

A AWS documenta muito bem como ligar o Bedrock. Ninguém documenta o resto: a diferença entre CloudTrail e model invocation logging, o fato de São Paulo não te dar residência de dados, e o que aparece na fatura em real no fim do mês. Guia prático de Claude em produção no AWS Bedrock: IDs de modelo, inference profiles, as quatro camadas de governança e a conta fechada de um agente interno.