Medidas de seguridad y mitigaciones diseñadas específicamente para modelos cuyos pesos se lanzan públicamente, abordando el riesgo único de que cualquiera pueda ajustar y eliminar el comportamiento de seguridad localmente, a diferencia de modelos cerrados donde el proveedor controla todo el acceso.
Ejemplos
"Publicaron las medidas de defensa con pesos abiertos junto con el modelo mismo, no como algo agregado después."
Origen y uso
Nombrado directamente por investigadores de seguridad de IA respondiendo a una ola de escrutinio sobre los riesgos de modelos de pesos abiertos, describiendo defensas construidas específicamente para la realidad de que el entrenamiento de seguridad puede eliminarse una vez que los pesos son públicos.
Se usa al discutir cómo los modelos de pesos abiertos mantienen la seguridad después de que sus pesos se hacen públicos.
MENTIONS OVER TIME
¿Quieres ver la entrada completa en inglés con etiquetas de categoría, tendencia, distribución por plataforma y votos de la comunidad? Visita la Open-Weight Defense entrada completa en inglés →
WHEN DID YOU FIRST HEAR THIS?
CLICK AN OPTION BELOW TO CAST YOUR VOTE.
[ VOTE TO REVEAL COMMUNITY RESULTS ]