RLHF (aprendizaje por refuerzo a partir de retroalimentación humana) es una técnica de entrenamiento de IA en la que humanos califican las respuestas de un modelo, y esas calificaciones se usan para ajustar su comportamiento, haciéndolo más útil y seguro; es un paso central en el entrenamiento de chatbots como ChatGPT.
«aprendizaje por refuerzo a partir de retroalimentación humana» es una traduccion que si se usa activamente en foros y redes hispanohablantes, no es solo un calco de diccionario (la sigla RLHF también se usa tal cual con frecuencia).
Ejemplos
"Esa negativa no es una regla fija, es solo un comportamiento entrenado por RLHF."
Origen y uso
El método se basa en trabajos previos de "aprendizaje por refuerzo a partir de retroalimentación" como TAMER, y fue formalizado y popularizado en la investigación moderna de aprendizaje automático por Christiano et al. en 2017, convirtiéndose en vocabulario central de entrenamiento de IA a medida que se escalaba a través de GPT-2, GPT-3 y la era de ChatGPT.
Se usa para explicar por qué un modelo rechaza ciertas solicitudes o se comporta de forma "educada".
MENTIONS OVER TIME
Radar observation data not yet available for this term.
¿Quieres ver la entrada completa en inglés con etiquetas de categoría, tendencia, distribución por plataforma y votos de la comunidad? Visita la RLHF entrada completa en inglés →
Not enough Radar data yet.
WHEN DID YOU FIRST HEAR THIS?
CLICK AN OPTION BELOW TO CAST YOUR VOTE.
[ VOTE TO REVEAL COMMUNITY RESULTS ]