Glossário de IA
Injeção de prompt
Também chamado de: Prompt injection
Injeção de prompt é um ataque em que um texto malicioso, vindo do usuário ou de um documento, tenta fazer o LLM ignorar as instruções originais e executar outra ação.
Direta e indireta
- Direta: o próprio usuário escreve “ignore as instruções anteriores e…”.
- Indireta: a instrução maliciosa está escondida em uma página, e-mail ou PDF que o sistema lê.
Como reduzir o risco
- Tratar todo conteúdo recuperado como dado, nunca como instrução.
- Dar ao modelo só as ferramentas e permissões estritamente necessárias.
- Exigir aprovação humana para ações irreversíveis.
- Monitorar e registrar entradas e saídas.
Não existe defesa perfeita: o desenho do sistema precisa assumir que a injeção vai acontecer.
Aprofunde no livro
IA para SRE
Seu LLM respondeu com status 200. E errado. Aprenda a operar IA com a disciplina do SRE.