Um teste deliberado realizado num modelo de IA de fronteira, desligando suas barreiras de segurança e comportamentos de recusa habituais, especificamente pra sondar as capacidades brutas subjacentes e os modos de falha do modelo sem que as medidas de proteção os ocultem.
Exemplos
"Fizeram uma execução sem proteções num ambiente isolado, só pra ver o que o modelo faria sem suas recusas habituais."
Origem e uso
Usado pra se referir a essa prática de pesquisa que desliga deliberadamente as barreiras de segurança pra testar a capacidade real do modelo.
MENTIONS OVER TIME
Quer ver o verbete completo em inglês com tags de categoria, tendência, distribuição por plataforma e votos da comunidade? Acesse o Safety-Off Run verbete completo em inglês →
WHEN DID YOU FIRST HEAR THIS?
CLICK AN OPTION BELOW TO CAST YOUR VOTE.
[ VOTE TO REVEAL COMMUNITY RESULTS ]