Un test délibéré effectué sur un modèle IA de pointe, désactivant ses garde-fous de sécurité et comportements de refus habituels, spécifiquement pour sonder les capacités brutes sous-jacentes et les modes de défaillance du modèle sans que les mesures de protection ne les masquent.
Exemples
"Ils ont fait un run sans protections dans un environnement isolé, juste pour voir ce que le modèle ferait sans ses refus habituels."
Origine et usage
Désigne cette pratique de recherche désactivant délibérément les garde-fous de sécurité pour tester la vraie capacité du modèle.
MENTIONS OVER TIME
Vous voulez voir la fiche complète en anglais avec les tags de catégorie, la tendance, la répartition par plateforme et les votes de la communauté ? Consultez la Safety-Off Run fiche complète en anglais →
WHEN DID YOU FIRST HEAR THIS?
CLICK AN OPTION BELOW TO CAST YOUR VOTE.
[ VOTE TO REVEAL COMMUNITY RESULTS ]