# IA para SRE

> LLMs em produção com observabilidade, custo e segurança. Guia prático para operar LLMs em produção: SLOs, OpenTelemetry, evals, resiliência, custo por token, OWASP para LLMs, LGPD e incidentes. Por um SRE do setor financeiro.

- Sobre o autor: Felipe Auleon (SRE (Site Reliability Engineer) no setor financeiro)
- Nível: Intermediário
- Formatos: E-book Kindle, Capa comum
- Status: Em breve
- URL: https://readruna.com/livros/ia-para-sre


## Para quem é
- SREs e engenheiros de plataforma que receberam a missão de colocar a IA de pé
- Desenvolvedores que já têm um protótipo com API de LLM e precisam levá-lo para produção
- Líderes técnicos que decidem arquitetura, orçamento e riscos de produtos com IA
- Não exige experiência em aprendizado de máquina: o modelo é tratado como componente

## O que você vai saber fazer
- Definir SLIs e SLOs de disponibilidade, latência e qualidade para sistemas com LLM
- Instrumentar chamadas com OpenTelemetry e montar os painéis que o plantão usa
- Transformar avaliações (evals) em testes contínuos que bloqueiam regressões
- Resistir a quedas, lentidão e limites de taxa de provedores
- Controlar custo por token e por resultado com cache, roteamento e lotes
- Dimensionar capacidade e decidir entre API e modelo próprio
- Aplicar o OWASP Top 10 para LLMs (2025) e a LGPD
- Gerir incidentes e postmortems de sistemas com IA

## Sumário
1. Introdução — Por que um LLM em produção é um sistema distribuído com uma dependência probabilística no meio — e o que isso muda para quem opera.
2. Parte I · Cap. 1 — O que muda quando o sistema fala — Tokens, janela de contexto, anatomia da latência (TTFT e TPOT), não determinismo e os modos de falha que retornam HTTP 200.
3. Cap. 2 — Arquiteturas de aplicações com LLM — Chamada direta, RAG, agentes e o gateway de LLM: como cada arquitetura funciona e onde costuma falhar.
4. Parte II · Cap. 3 — SLIs e SLOs para sistemas de IA — Os quatro SLIs (disponibilidade, latência, qualidade e feedback), a matemática das dependências e alertas por taxa de consumo do orçamento de erro.
5. Cap. 4 — Observabilidade com OpenTelemetry — Convenções semânticas de IA generativa, instrumentação de chamadas, TTFT com streaming, cardinalidade e os painéis do plantão.
6. Cap. 5 — Avaliação contínua: evals como testes — Conjuntos de avaliação, verificações determinísticas, LLM como juiz, revisão humana e evals no pipeline de entrega.
7. Cap. 6 — Resiliência: quando o provedor falha — Timeouts, retentativas com backoff e jitter, limites de taxa, disjuntor, alternativas e falhas no meio do streaming.
8. Parte III · Cap. 7 — FinOps de tokens — A conta básica, a unidade certa de custo, atribuição por time e seis alavancas de economia, de cache de prompt a roteamento de modelos.
9. Cap. 8 — Capacidade e modelos próprios — Memória de pesos e KV cache, vazão contra latência, métricas de servidores de inferência, teste de carga e a conta API × modelo próprio.
10. Parte IV · Cap. 9 — Segurança e privacidade — O OWASP Top 10 para aplicações com LLM (2025) com controles práticos, testes de segurança e LGPD.
11. Parte V · Cap. 10 — Incidentes com IA — Tipos de incidente, mitigações preparadas, investigação sem reprodução, runbooks e postmortem sem culpa.
12. Cap. 11 — IA a serviço do SRE — Onde a IA ajuda o próprio plantão, um assistente em três níveis, segurança e como medir o benefício.
13. Cap. 12 — Laboratório: um assistente observável do zero — Projeto completo com código: telemetria, alerta de SLO, retentativas e avaliação automatizada.
14. Cap. 13 — Plano de 30 dias e checklist de produção — Um roteiro semana a semana e o checklist de prontidão para colocar um sistema com LLM no ar.
15. Apêndices — Glossário, modelos de runbook prontos para adaptar e a lista completa de referências.

## Perguntas frequentes
### Preciso saber aprendizado de máquina para ler?
Não. O livro trata o modelo como um componente: algo que recebe texto, devolve texto e tem latência, custo, limites e modos de falha. Quando é preciso entender o que acontece dentro dele, a explicação fica no nível que um operador precisa.

### Em que linguagem estão os exemplos?
Os exemplos de código são em Python e as consultas de métricas em PromQL, com instrumentação em OpenTelemetry. As ideias valem para qualquer linguagem, provedor ou ferramenta.

### O livro depende de um provedor específico, como OpenAI ou Anthropic?
Não. Ele evita depender de um fornecedor e, quando cita preços ou números, mostra como recalcular com os valores do seu provedor na data em que você ler.

### Em quais formatos ele sai?
E-book Kindle (Amazon.com.br e Amazon.com) e capa comum 6 × 9 pol com 122 páginas, vendida pela Amazon fora do Brasil.

### Tem prática ou é só teoria?
Cada capítulo termina com exercícios que pedem para medir algo no seu sistema ou escrever um artefato real (SLO, runbook, regra de alerta). O Capítulo 12 é um laboratório completo com código, e os apêndices trazem modelos de runbook e um checklist de produção.

### Posso ler um trecho antes de comprar?
Sim. Deixe seu e-mail nesta página e leia grátis 10 páginas — a introdução e o começo do Capítulo 1 — direto no leitor do site.

### Preciso ter um Kindle para ler o e-book?
Não. O aplicativo Kindle é gratuito para celular, tablet e computador, e você também pode ler direto no navegador pelo Kindle Cloud Reader.

### Existe versão impressa?
A Amazon.com.br não distribui os impressos publicados pelo KDP. No Brasil, o livro sai em e-book Kindle; a capa comum fica disponível na Amazon.com e nas lojas da Europa.

### Posso ler um trecho antes de comprar?
Sim. Você lê até 10 páginas grátis no leitor do site: deixe seu e-mail na página do livro e a amostra é liberada na hora.

### Minha empresa quer comprar para o time. Como faço?
Fale com a gente na página Para Empresas. Atendemos compras em volume, palestras e workshops.