Des mesures de sécurité et atténuations conçues spécifiquement pour des modèles dont les poids sont publiés publiquement, traitant le risque unique que n'importe qui puisse affiner et retirer le comportement de sécurité localement, contrairement aux modèles fermés où le fournisseur contrôle tout accès.
Exemples
"Ils ont publié les mesures de défense open-weight en même temps que le modèle lui-même, pas comme un ajout après coup."
Origine et usage
Nommé directement par des chercheurs en sécurité IA répondant à une vague d'examen sur les risques des modèles à poids ouverts, décrivant des défenses construites spécifiquement pour la réalité que l'entraînement de sécurité peut être retiré une fois les poids publics.
Utilisé en discutant de la façon dont les modèles à poids ouverts maintiennent la sécurité après que leurs poids deviennent publics.
MENTIONS OVER TIME
Vous voulez voir la fiche complète en anglais avec les tags de catégorie, la tendance, la répartition par plateforme et les votes de la communauté ? Consultez la Open-Weight Defense fiche complète en anglais →
WHEN DID YOU FIRST HEAR THIS?
CLICK AN OPTION BELOW TO CAST YOUR VOTE.
[ VOTE TO REVEAL COMMUNITY RESULTS ]