Meta, Facebook·Instagram에 AI support assistant 확대… 사기·계정 보호 대응 자동화

Meta는 3월 19일 Facebook과 Instagram 전반에 AI 기반 support와 safety 시스템을 더 깊게 배치하겠다는 계획을 발표했다. 회사는 Meta AI support assistant를 Meta AI가 제공되는 국가와 지역에서 모바일 앱과 desktop Help Center 안으로 확대 적용한다고 밝혔다. 목표는 사용자가 계정 문제를 해결하기 위해 외부 문서를 뒤지지 않아도, 앱 안에서 바로 도움을 받고 후속 조치까지 이어갈 수 있게 만드는 것이다.

Meta 설명에 따르면 support assistant는 단순 FAQ 응답을 넘어 scam 신고, impersonation account 신고, problematic content 신고, content takedown 사유 확인, appeal 경로 추적, privacy setting 관리, password reset, profile setting 업데이트 같은 작업을 직접 지원한다. 회사는 응답이 보통 5초 이내에 이뤄진다고 밝혔고, Facebook과 Instagram의 지원 주제 전 언어로 순차 확대 중이라고 설명했다. 로그인 문제 지원은 미국과 캐나다 일부 사례부터 시작해 더 넓은 지역과 상황으로 확장할 계획이다.

더 큰 변화는 content enforcement 영역이다. Meta는 고도화된 AI 시스템 초기 테스트에서 기존 review team이 포착하지 못했던 scam attempt를 하루 5,000건 줄였고, 가장 많이 사칭된 celebrity 관련 user report를 80% 이상 낮췄다고 밝혔다. 또한 violating adult sexual solicitation content를 review team 대비 2배 더 많이 잡으면서 mistakes는 60% 이상 줄였고, 더 넓은 테스트에서는 scam 및 serious-violation 광고 조회수를 7% 낮췄다고 설명했다. 언어 범위도 기존 약 80개 언어 수준에서 온라인 사용자의 98%가 사용하는 언어까지 넓어진다고 강조했다.

운영 구조 변화

• Meta는 향후 몇 년간 더 많은 content enforcement 업무를 내부 AI 시스템으로 이전해 third-party vendor 의존도를 낮출 계획이라고 밝혔다.
• 다만 account disablement appeal이나 law enforcement 보고처럼 위험도가 높은 판단은 계속 사람이 맡는다고 설명했다.
• Community Standards 자체를 바꾸는 것이 아니라, 동일한 정책을 더 빠르고 일관되게 적용하는 것이 이번 전환의 목적이라고 덧붙였다.

이번 발표의 의미는 단순한 AI chatbot 기능 추가가 아니라는 데 있다. Meta는 support, fraud response, moderation 운영의 전면부에 AI를 배치하는 방식을 구체적으로 공개했고, 그 효과를 수치로 제시했다. 아직 전체 전환이 완료된 것은 아니지만, 대규모 consumer platform에서 AI가 운영 레이어로 이동하는 흐름을 보여주는 사례로 볼 수 있다.