Uma técnica ou ataque que injeta instruções maliciosas através de uma entrada visível ao usuário, para sobrescrever ou manipular o comportamento de uma aplicação baseada em LLM.
EXPLAINER
Secure Code Warrior · original source ↗
EXPLAINER
Cyber&Tech · original source ↗
A imagem de pré-visualização é carregada do YouTube quando esta página é aberta, por isso o YouTube recebe seu endereço IP e dados do navegador, como em qualquer solicitação a outro site. O vídeo em si só é carregado depois que você clica em reproduzir. Detalhes nos Termos
«injeção de prompt» e uma traducao realmente usada nas comunidades de internet em portugues, nao apenas um calque de dicionario.
Exemplos
"Alguém colou 'ignore todas as instruções anteriores' no campo de reclamações do bot de suporte, fazendo uma injeção de prompt."
Origem e uso
Estabeleceu-se como categoria própria de vulnerabilidade de segurança de IA por volta de 2022-2023, combinando engenharia de prompts com o conceito clássico de ataques de injeção.
Usado para se referir a ataques que contornam as restrições de um sistema de IA através de prompts maliciosos.
MENTIONS OVER TIME
Radar observation data not yet available for this term.
Quer ver o verbete completo em inglês com tags de categoria, tendência, distribuição por plataforma e votos da comunidade? Acesse o Prompt Injection verbete completo em inglês →
Not enough Radar data yet.
WHEN DID YOU FIRST HEAR THIS?
CLICK AN OPTION BELOW TO CAST YOUR VOTE.
[ VOTE TO REVEAL COMMUNITY RESULTS ]