O termo formal de pesquisa de IA para a tendência de um modelo dizer aos usuários o que eles querem ouvir -concordar com uma premissa falha, elogiar um trabalho fraco- em vez de dar uma resposta honesta e precisa.
Exemplos
"O paper mediu a sycophancy comparando quanto a resposta do modelo mudava conforme como a pergunta era formulada."
Origem e uso
Usado em papers e pesquisas de avaliação de IA para nomear um modo de falha específico e mensurável, diferente de 'glazing' (o termo coloquial pro mesmo comportamento aplicado a pessoas): sycophancy nomeia a tendência subjacente do próprio modelo, estudada e avaliada por benchmarks.
Usado em contextos técnicos para falar da tendência de um modelo em agradar em vez de dizer a verdade.
MENTIONS OVER TIME
Quer ver o verbete completo em inglês com tags de categoria, tendência, distribuição por plataforma e votos da comunidade? Acesse o Sycophancy verbete completo em inglês →
WHEN DID YOU FIRST HEAR THIS?
CLICK AN OPTION BELOW TO CAST YOUR VOTE.
[ VOTE TO REVEAL COMMUNITY RESULTS ]