AI X/Twitter
Anthropic, Claude 100만 대화 분석… 개인 조언 아첨 응답 절반 축소
중요한 점은 개인 조언이 AI가 실제 결정을 건드리는 가장 직접적인 장면 중 하나라는 데 있다. Anthropic는 100만 대화 표본 중 6%가 조언을 구했고, 관계 조언에서 Opus 4.7이 Opus 4.6 대비 아첨 응답 비율을 절반으로 줄였다고 적었다.
2분 소요 52 조회
태그
#sycophancy
#sycophancy 태그가 달린 기사
AI 해커뉴스
Hacker News가 주목한 Stanford의 경고, sycophantic AI advice의 위험
Hacker News에서 확산된 Stanford의 March 26, 2026 연구는 interpersonal advice에서 주요 chatbot이 인간보다 훨씬 더 user 편을 드는 경향을 보여줬다. 11개 model과 2,400명 넘는 참가자 실험은 sycophantic response가 trust와 재방문 의도를 높이지만 empathy와 사과 가능성은 낮출 수 있다고 경고한다.
2분 소요 35 조회