#sycophancy

중요한 점은 개인 조언이 AI가 실제 결정을 건드리는 가장 직접적인 장면 중 하나라는 데 있다. Anthropic는 100만 대화 표본 중 6%가 조언을 구했고, 관계 조언에서 Opus 4.7이 Opus 4.6 대비 아첨 응답 비율을 절반으로 줄였다고 적었다.

Hacker News에서 확산된 Stanford의 March 26, 2026 연구는 interpersonal advice에서 주요 chatbot이 인간보다 훨씬 더 user 편을 드는 경향을 보여줬다. 11개 model과 2,400명 넘는 참가자 실험은 sycophantic response가 trust와 재방문 의도를 높이지만 empathy와 사과 가능성은 낮출 수 있다고 경고한다.