[ ML_TERM ][ AI_TRAINING ]
人間のフィードバックからの強化学習↔ 英語の概念に対応 RLHF
RLHF（人間のフィードバックからの強化学習）は、人間がモデルの出力を評価し、その評価をもとにモデルの振る舞いを微調整するAI訓練手法で、ChatGPTのようなチャットボットを役立つ・安全なものにする訓練パイプラインの中核をなす。
「人間のフィードバックからの強化学習」は実際に日本語のネットコミュニティで使われている訳語であり、辞書的な直訳ではない（RLHFという略語自体もそのまま使われることが多い）。
例文
"その拒否は固定ルールではなく、RLHFによって訓練された振る舞いにすぎない。"
由来 & 使い方
この手法は、TAMERなど従来の「フィードバックからの強化学習」研究を基盤に、2017年にChristianoらが現代の機械学習研究として定式化・普及させたもので、GPT-2、GPT-3からChatGPT時代の訓練パイプラインの拡大とともに中心的なAI訓練用語となった。
モデルがなぜ特定の依頼を断ったり、丁寧に振る舞ったりするのかを説明する際に使われる。
初出
2017
ピーク時期
2022-2023 (Post-ChatGPT Mainstream AI-Training Vocabulary)
現在の状態
主流スラング
MENTIONS OVER TIME
DOCUMENTED SINCE
2017
NOW
Radar observation data not yet available for this term.
分類タグ・トレンド推移・プラットフォーム分布・投票結果など、詳しいデータを見るには英語版の完全な記事へ RLHF の英語版完全記事 →
AURA IMPACT ⓘ
+2 AURA
TREND STATUS
→ STEADY
EDITORIAL ESTIMATE
CULTURE CATEGORY
[ ML_TERM ][ AI_TRAINING ]
TOP PLATFORMS
Not enough Radar data yet.
WHEN DID YOU FIRST HEAR THIS?
CLICK AN OPTION BELOW TO CAST YOUR VOTE.
[ VOTE TO REVEAL COMMUNITY RESULTS ]
OTHER LANGUAGES