Una prueba deliberada realizada sobre un modelo de IA de frontera, apagando sus barreras de seguridad y comportamientos de rechazo habituales, específicamente para sondear las capacidades brutas subyacentes y los modos de fallo del modelo sin que las medidas de protección los oculten.
Ejemplos
"Hicieron una ejecución sin protecciones en un entorno aislado, solo para ver qué haría el modelo sin sus rechazos habituales."
Origen y uso
Se usa para referirse a esa práctica de investigación que apaga deliberadamente las barreras de seguridad para probar la capacidad real del modelo.
MENTIONS OVER TIME
Radar observation data not yet available for this term.
¿Quieres ver la entrada completa en inglés con etiquetas de categoría, tendencia, distribución por plataforma y votos de la comunidad? Visita la Safety-Off Run entrada completa en inglés →
Not enough Radar data yet.
WHEN DID YOU FIRST HEAR THIS?
CLICK AN OPTION BELOW TO CAST YOUR VOTE.
[ VOTE TO REVEAL COMMUNITY RESULTS ]