IA para SRE
LLMs em produção com observabilidade, custo e segurança
“Seu LLM respondeu com status 200. E errado. Aprenda a operar IA com a disciplina do SRE.”
- Nível
- Intermediário
- Páginas
- 122
- Formatos
- E-book Kindle · Capa comum
- Idioma
- Português
- Temas
- SRE · LLMs · Observabilidade · Segurança
- Edição
- 1ª edição · Série IA em Produção, vol. 1
Para quem é
- 01
SREs e engenheiros de plataforma que receberam a missão de colocar a IA de pé
- 02
Desenvolvedores que já têm um protótipo com API de LLM e precisam levá-lo para produção
- 03
Líderes técnicos que decidem arquitetura, orçamento e riscos de produtos com IA
- 04
Não exige experiência em aprendizado de máquina: o modelo é tratado como componente
O que você vai saber fazer
- Definir SLIs e SLOs de disponibilidade, latência e qualidade para sistemas com LLM
- Instrumentar chamadas com OpenTelemetry e montar os painéis que o plantão usa
- Transformar avaliações (evals) em testes contínuos que bloqueiam regressões
- Resistir a quedas, lentidão e limites de taxa de provedores
- Controlar custo por token e por resultado com cache, roteamento e lotes
- Dimensionar capacidade e decidir entre API e modelo próprio
- Aplicar o OWASP Top 10 para LLMs (2025) e a LGPD
- Gerir incidentes e postmortems de sistemas com IA
Sumário 15 capítulos
-
01 Introdução
Por que um LLM em produção é um sistema distribuído com uma dependência probabilística no meio — e o que isso muda para quem opera.
-
02 Parte I · Cap. 1 — O que muda quando o sistema fala
Tokens, janela de contexto, anatomia da latência (TTFT e TPOT), não determinismo e os modos de falha que retornam HTTP 200.
-
03 Cap. 2 — Arquiteturas de aplicações com LLM
Chamada direta, RAG, agentes e o gateway de LLM: como cada arquitetura funciona e onde costuma falhar.
-
04 Parte II · Cap. 3 — SLIs e SLOs para sistemas de IA
Os quatro SLIs (disponibilidade, latência, qualidade e feedback), a matemática das dependências e alertas por taxa de consumo do orçamento de erro.
-
05 Cap. 4 — Observabilidade com OpenTelemetry
Convenções semânticas de IA generativa, instrumentação de chamadas, TTFT com streaming, cardinalidade e os painéis do plantão.
-
06 Cap. 5 — Avaliação contínua: evals como testes
Conjuntos de avaliação, verificações determinísticas, LLM como juiz, revisão humana e evals no pipeline de entrega.
-
07 Cap. 6 — Resiliência: quando o provedor falha
Timeouts, retentativas com backoff e jitter, limites de taxa, disjuntor, alternativas e falhas no meio do streaming.
-
08 Parte III · Cap. 7 — FinOps de tokens
A conta básica, a unidade certa de custo, atribuição por time e seis alavancas de economia, de cache de prompt a roteamento de modelos.
-
09 Cap. 8 — Capacidade e modelos próprios
Memória de pesos e KV cache, vazão contra latência, métricas de servidores de inferência, teste de carga e a conta API × modelo próprio.
-
10 Parte IV · Cap. 9 — Segurança e privacidade
O OWASP Top 10 para aplicações com LLM (2025) com controles práticos, testes de segurança e LGPD.
-
11 Parte V · Cap. 10 — Incidentes com IA
Tipos de incidente, mitigações preparadas, investigação sem reprodução, runbooks e postmortem sem culpa.
-
12 Cap. 11 — IA a serviço do SRE
Onde a IA ajuda o próprio plantão, um assistente em três níveis, segurança e como medir o benefício.
-
13 Cap. 12 — Laboratório: um assistente observável do zero
Projeto completo com código: telemetria, alerta de SLO, retentativas e avaliação automatizada.
-
14 Cap. 13 — Plano de 30 dias e checklist de produção
Um roteiro semana a semana e o checklist de prontidão para colocar um sistema com LLM no ar.
-
15 Apêndices
Glossário, modelos de runbook prontos para adaptar e a lista completa de referências.
Trecho do livro
Em um serviço web comum, a latência é um número só. Em um LLM, ela tem partes com comportamentos diferentes. Com TTFT de 600 ms, TPOT de 25 ms e uma resposta de 400 tokens, a latência total fica perto de 10,6 segundos. Se a mesma pergunta gerar uma resposta de 100 tokens, o total cai para cerca de 3 segundos. O tamanho da resposta é a maior alavanca de latência que você controla.
latência total ≈ TTFT + (tokens de saída − 1) × TPOT
# exemplo
0,6 s + 399 × 0,025 s ≈ 10,6 s # 400 tokens
0,6 s + 99 × 0,025 s ≈ 3,1 s # 100 tokensAmostra grátis · 10 páginas
Leia antes de comprar.
Leia até 10 páginas do livro agora mesmo, aqui no site, e decida com calma. Sem spam — só conteúdo do livro e lançamentos.
Perguntas frequentes
Preciso saber aprendizado de máquina para ler?
Não. O livro trata o modelo como um componente: algo que recebe texto, devolve texto e tem latência, custo, limites e modos de falha. Quando é preciso entender o que acontece dentro dele, a explicação fica no nível que um operador precisa.
Em que linguagem estão os exemplos?
Os exemplos de código são em Python e as consultas de métricas em PromQL, com instrumentação em OpenTelemetry. As ideias valem para qualquer linguagem, provedor ou ferramenta.
O livro depende de um provedor específico, como OpenAI ou Anthropic?
Não. Ele evita depender de um fornecedor e, quando cita preços ou números, mostra como recalcular com os valores do seu provedor na data em que você ler.
Em quais formatos ele sai?
E-book Kindle (Amazon.com.br e Amazon.com) e capa comum 6 × 9 pol com 122 páginas, vendida pela Amazon fora do Brasil.
Tem prática ou é só teoria?
Cada capítulo termina com exercícios que pedem para medir algo no seu sistema ou escrever um artefato real (SLO, runbook, regra de alerta). O Capítulo 12 é um laboratório completo com código, e os apêndices trazem modelos de runbook e um checklist de produção.
Posso ler um trecho antes de comprar?
Sim. Deixe seu e-mail nesta página e leia grátis 10 páginas — a introdução e o começo do Capítulo 1 — direto no leitor do site.
Preciso ter um Kindle para ler o e-book?
Não. O aplicativo Kindle é gratuito para celular, tablet e computador, e você também pode ler direto no navegador pelo Kindle Cloud Reader.
Existe versão impressa?
A Amazon.com.br não distribui os impressos publicados pelo KDP. No Brasil, o livro sai em e-book Kindle; a capa comum fica disponível na Amazon.com e nas lojas da Europa.
Posso ler um trecho antes de comprar?
Sim. Você lê até 10 páginas grátis no leitor do site: deixe seu e-mail na página do livro e a amostra é liberada na hora.
Minha empresa quer comprar para o time. Como faço?
Fale com a gente na página Para Empresas. Atendemos compras em volume, palestras e workshops.