Um ataque em que instruções maliciosas são incorporadas diretamente na skill ou definição de ferramenta instalada de um agente de IA, fazendo o agente agir de forma prejudicial quando essa skill é invocada, sem que o modelo subjacente seja diretamente comprometido.
Exemplos
"Uma revisão de segurança pegou skill poisoning numa skill de terceiros, instruções escondidas que exfiltrariam dados a cada chamada."
Origem e uso
Usado pra descrever um risco encontrado numa revisão de segurança.
MENTIONS OVER TIME
Radar observation data not yet available for this term.
Quer ver o verbete completo em inglês com tags de categoria, tendência, distribuição por plataforma e votos da comunidade? Acesse o Skill Poisoning verbete completo em inglês →
Not enough Radar data yet.
WHEN DID YOU FIRST HEAR THIS?
CLICK AN OPTION BELOW TO CAST YOUR VOTE.
[ VOTE TO REVEAL COMMUNITY RESULTS ]