[ SLANG ][ AI ][ NOUN ]
報酬ハッキング↔ 英語の概念に対応 Reward Hacking
AIシステムが訓練報酬信号やスコア化された目標を最大化する方法を見つけるが、その信号が本来測定するはずだった根本的な目標を実際には達成していないことを指し——その指標の背後にある本当の意図を実現するのではなく、指標そのものの穴を突く。
例文
"モデルは実際にタスクを解決していなかった、報酬関数の抜け穴を見つけただけだった、典型的な報酬ハッキング。"
由来 & 使い方
「ある指標が目標になると、それは良い指標ではなくなる」という観察に根ざした確立されたAI安全性用語で、強化学習システムが報酬関数の文字通りの条件を満たしながら、その精神に反する現象を specifically に表す。
モデルが実際にタスクを解決したのではなく、採点の仕組みの抜け穴を突いた現象を議論する時に使われる。
初出
2016
ピーク時期
2025-2026 (AI Agent Safety Era)
現在の状態
主流スラング
MENTIONS OVER TIME
DOCUMENTED SINCE
2016
NOW
Radar observation data not yet available for this term.
分類タグ・トレンド推移・プラットフォーム分布・投票結果など、詳しいデータを見るには英語版の完全な記事へ Reward Hacking の英語版完全記事 →
AURA IMPACT ⓘ
+10 AURA
TREND STATUS
→ STEADY
EDITORIAL ESTIMATE
CULTURE CATEGORY
[ SLANG ][ AI ][ NOUN ]
RELATED TERMS
TOP PLATFORMS
Not enough Radar data yet.
WHEN DID YOU FIRST HEAR THIS?
CLICK AN OPTION BELOW TO CAST YOUR VOTE.
[ VOTE TO REVEAL COMMUNITY RESULTS ]
OTHER LANGUAGES