Meta、WhatsApp・Facebook・Messengerに新たなanti-scam AIを展開

発表の概要

Metaは2026年3月11日、WhatsApp、Facebook、Messenger全体で新しいanti-scam toolsを導入すると発表した。公式発表には、ユーザー向け警告機能、AIを用いた詐欺検知の高度化、advertiser verificationの拡大、さらにlaw enforcementとの連携成果まで含まれている。つまり今回は単一featureの追加というより、trust-and-safety運用をAI中心で再設計するアップデートとして読むべき内容だ。

Metaによれば、scammersはaccount hijacking、celebrity impersonation、brand impersonation、fake job offers、fraudulent crypto investmentsなど、より高度な手口を使っている。そのため同社は、ユーザーに早い段階で警告を出し、AIでtext、images、surrounding contextを分析して、従来のルールベース検知では見つけにくい詐欺パターンまで捕捉する方針を示した。

新しい保護機能

• WhatsAppはbehavioral signalsに基づいてsuspicious device linking requestへの警告を表示する
• Facebookはmutual friendsが少ない、またはcountry signalが不自然なsuspicious friend requestsへの警告をテストする
• Messengerのadvanced scam detectionは今月さらに多くの国へ拡大され、ユーザーはrecent chat messagesをAI scam reviewに共有するか選択できる

AI検知とenforcementデータ

MetaはAI systemsを使ってceleb-bait、brand impersonation、deceptive links、domain spoofingをより高い精度で検知すると説明している。開示された数字も大きい。2025年にMetaは159 million件を超えるscam adsを削除し、その92%はユーザー報告前に取り下げたという。Indiaでは2025年にFraud, Scam, and Deceptive Practices違反で12.1 million件を超えるad contentを禁止し、そのうち93%以上を事前に削除したとしている。

さらに、Metaはcriminal scam centersに関連するFacebookとInstagram accountsを10.9 million件削除したと説明した。加えて、global law enforcement agenciesとの共同作戦により、Southeast Asiaのscam center networksに関連する150,000件超のaccountsを無効化したとしている。

なぜ重要か

この発表が重要なのは、大規模consumer platformにおいてAIがrecommendationやassistantのためだけでなく、trust-and-safety infrastructureの中核レイヤーとして使われ始めていることを示すからだ。advertiser verificationの目標も注目に値する。Metaは現在70%であるverified advertisersのad revenue比率を、2026年末までに90%へ引き上げたいとしている。これは高リスク広告カテゴリの審査方法と収益構造に実質的な変化をもたらす可能性がある。

実装面での焦点はuser trustだ。MessengerのAI scam reviewのような機能は保護を強めうる一方、利用者がどのデータがどう扱われるのかを理解し、妥当だと感じる必要がある。それでも、Metaが示したenforcement規模は、詐欺を個別アカウントの問題ではなく、industrialized adversary problemとして扱っていることを示している。

Source: Meta announcement