O que significa Prompt Injection? Como se diz em português?
Brainrot Score: 7.4 ⓘPORTUGUÊS · LOCALIZED KNOWLEDGEUma técnica ou ataque que injeta instruções maliciosas através de uma entrada visível ao usuário, para sobrescrever ou manipular o comportamento de uma aplicação baseada em LLM.
Exemplos
"Alguém colou 'ignore todas as instruções anteriores' no campo de reclamações do bot de suporte, fazendo uma injeção de prompt."
Origem e uso
Estabeleceu-se como categoria própria de vulnerabilidade de segurança de IA por volta de 2022-2023, combinando engenharia de prompts com o conceito clássico de ataques de injeção.
Usado para se referir a ataques que contornam as restrições de um sistema de IA através de prompts maliciosos.
MENTIONS OVER TIME
Quer ver o verbete completo em inglês com tags de categoria, tendência, distribuição por plataforma e votos da comunidade? Acesse o Prompt Injection verbete completo em inglês →
WHEN DID YOU FIRST HEAR THIS?
CLICK AN OPTION BELOW TO CAST YOUR VOTE.
[ VOTE TO REVEAL COMMUNITY RESULTS ]