Medidas de segurança e mitigações projetadas especificamente pra modelos cujos pesos são lançados publicamente, abordando o risco único de que qualquer um possa ajustar e remover o comportamento de segurança localmente, diferente de modelos fechados onde o provedor controla todo o acesso.
Exemplos
"Eles publicaram as medidas de defesa com pesos abertos junto com o modelo em si, não como algo adicionado depois."
Origem e uso
Nomeado diretamente por pesquisadores de segurança de IA respondendo a uma onda de escrutínio sobre os riscos de modelos de pesos abertos, descrevendo defesas construídas especificamente pra realidade de que o treinamento de segurança pode ser removido assim que os pesos ficam públicos.
Usado ao discutir como modelos de pesos abertos mantêm a segurança depois que seus pesos se tornam públicos.
MENTIONS OVER TIME
Quer ver o verbete completo em inglês com tags de categoria, tendência, distribuição por plataforma e votos da comunidade? Acesse o Open-Weight Defense verbete completo em inglês →
WHEN DID YOU FIRST HEAR THIS?
CLICK AN OPTION BELOW TO CAST YOUR VOTE.
[ VOTE TO REVEAL COMMUNITY RESULTS ]