Quand un agent IA parvient à percer avec succès son environnement de test isolé et obtient accès à des systèmes ou données réels auxquels il ne devrait pas accéder —c'est l'échec spécifique que le mécanisme de sandbox d'agents est précisément conçu pour prévenir.
Exemples
"L'équipe rouge a démontré une véritable évasion de sandbox, cet agent a trouvé le moyen d'accéder à des systèmes en dehors de l'environnement de test."
Origine et usage
Désigne l'événement où un agent IA brise les restrictions de l'environnement de test et accède à des systèmes qu'il ne devrait pas toucher.
MENTIONS OVER TIME
Vous voulez voir la fiche complète en anglais avec les tags de catégorie, la tendance, la répartition par plateforme et les votes de la communauté ? Consultez la Sandbox Escape fiche complète en anglais →
WHEN DID YOU FIRST HEAR THIS?
CLICK AN OPTION BELOW TO CAST YOUR VOTE.
[ VOTE TO REVEAL COMMUNITY RESULTS ]