Metaの社内keystroke収集、HNの焦点はAI trainingよりprivacy

ReutersのMeta記事をめぐるHacker News threadは747点を超え、議論はAI training dataそのものよりworkplace privacyに集中した。報道の焦点は、Metaがemployee mouse movementsとkeystrokesをAI training向けにcaptureし始めるという点だ。HNの反応は「会社支給端末だから当然」という単純な方向ではなく、developerやSREの画面に含まれる作業ログ、customer data、credentialの断片までtraining materialになる可能性への警戒だった。

特に注目されたのはpurpose limitationだ。報道やthreadでは、このdataはperformance assessmentではなくmodel trainingに使うという説明が取り上げられた。しかしHNの多くは、それだけでは安心できないと見た。endpoint loggingは以前からあるが、調査のためのlogと、日常の入力や操作を常時training feedとして扱うことは意味が違う。

mouse movementとkeystrokeは、作業速度だけでなく迷い、review、判断の流れも映す。

developer端末にはincident detailやcustomer identifierなど、偶然映り込む情報が多い。

AI training目的という説明は、consent、retention、access control、auditの代わりにはならない。

community discussion noted that “training only”はprivacy modelではなく、単なる利用目的の説明にすぎない。さらにMetaという会社の文脈も反応を大きくした。consumer privacyで批判されてきた企業が、自社社員にもより深いinstrumentationを求める構図にHNは敏感だった。モデルが現実のwork traceを欲しがるほど、社内のtrust boundaryもproductと同じくらい明示的に設計される必要がある。

元記事はReutersで、HN discussionは https://news.ycombinator.com/item?id=47851948 にある。