ザッカーバーグ氏の開封された電子メールは、プラットフォームが自らの害悪についてもっと研究すべきではないかという、不快な疑問を提起している。

現代のテクノロジー政策における奇妙なインセンティブの一つは研究のパラドックス: 損害を測定するために最も多くの内部作業を行っている企業は、単に最も多くのデータを保有しているという理由だけで、そのデータが漏洩したり、召喚状が出されたり、法廷で開示されたりする可能性があるため、最終的には最悪の行為者のように見えてしまう可能性があります。

このパラドックスは、新たに公開されたMetaの内部メールの中心にあると報じられている。ザ・ヴァージその中で、マーク・ザッカーバーグは、2021年に社内調査結果（特にインスタグラムにおける10代の若者の幸福度に関するもの）がメディアで大きく報道されたことを受けて、同社が「社会問題に関する調査と分析」へのアプローチを変えることを検討するよう提案している。

これは単なるPRマネジメントの内幕ではありません。ソーシャルプラットフォームが説明責任をどのように捉えているか、そして訴訟やリークの脅威が、何を評価対象とし、何を公開し、そして何を問われないのかを、どのように左右するのかを垣間見る機会です。

以下は、電子メールの内容、それがなぜ重要なのか、そしてより健全なインセンティブ構造とはどのようなものかを実際的に説明したものです。

開封されたメールが実際に明らかにしたもの

報道によると、ザッカーバーグ氏は2021年9月15日に上級幹部に書簡を送ったという。これは、内部文書（後に内部告発者のフランシス・ホーゲン氏と関連付けられる）に基づくウォール・ストリート・ジャーナルの記事で、メタ社が10代の少女とインスタグラムについて独自に行った調査が取り上げられた翌日のことだ。

重要なのは「Metaは調査をした」ということではない。多くの大規模プラットフォームには調査チームがある。注目すべきは、CEOが明確に積極的な社会問題研究を行うと負債と評判リスクを生み出す調査結果が公開された場合。

メールの構成は基本的に次のとおりです。

• 私たちはデリケートな問題（十代の若者の安全、精神衛生、児童搾取、誤情報など）を研究しています。
• 私たちの調査結果が漏洩したり、公表されたりすると、世間の評判は「あなたは知っていたのに、修正しなかった」と変わってしまう可能性があります。
• いくつかの同業他社は少ない積極的に調査を行い、それによって自分たちに不利に働く可能性のある文書の作成を減らします。

これは、不快ではあるものの、現実のガバナンスの問題です。「問題を測定して文書化する」ことで運用コストが増加する場合、測定を減らすインセンティブが組み込まれます。

研究のパラドックス：透明性が競争上の不利となるとき

プラットフォームが規制当局、ジャーナリスト、裁判所によって精査される世界では、2 つの大まかな戦略が考えられます。

1. 研究は深く害を及ぼす内部ダッシュボード、実験、事後分析を構築します。
2. 研究による害は最小限狭いコンプライアンス要件に焦点を絞り、「聞こえの悪い」文書の作成を避けます。

戦略（1）の欠点が、電子メール、スライドデッキ、実験結果などの発見可能な資料を作成することである場合、戦略（1）がユーザーにとってより優れている場合でも、合理的な企業主体は戦略（2）に流れていく可能性があります。

これは研究を減らすことを正当化するものではありません。それは、研究の動機を説明するものです。

政策上の課題は、「責任ある行動をとる」アプローチ（害を研究し、その結果に基づいて行動する）が自己懲罰にならないようなシステムを設計することです。

Metaのメールが今になって浮上した理由：訴訟と証拠開示

この電子メールは、Meta が有害な設計上の選択を認識しながら、Facebook と Instagram を 10 代にとって安全であると誤解させるような位置付けをしていたとする訴訟で、ニューメキシコ州司法長官事務所による証拠開示で収集された後、公開された。

この訴訟は、児童の安全、若者のメンタルヘルス、そしてソーシャルプラットフォームにおける製造物責任論に焦点を当てた、より広範な訴訟と立法圧力の波と並行して起こっています。個々の訴訟の結果がどうであれ、そのプロセスは重要です。証拠開示は、内部の議論を公的な証拠へと変えるのです。

これには 2 つの二次的影響があります。

• それは将来の内部の文章を形作ります。経営者は、何をするかだけでなく、それをどのように説明するかについても慎重になる。
• それは将来の研究を形作ります。研究によって政治的に衝撃的なグラフが作成される可能性がある場合、そもそもそれを行う価値があるのか​​どうか疑問に思う人もいるだろう。

「Apple はこうしたことを何も研究していないようだ」：ここでの議論は何なのか？

伝えられるところによると、このメールはAppleと比較しており、Appleはこれらの問題を同じようには研究していないようで、そのため多くの批判を避けていると示唆している。

この比較が不完全だとしても（Appleはセキュリティとプライバシーに関する資料を公開しており、他の分野で厳しい監視に直面している）、根本的なポイントは次の通りです。製品カテゴリーとリスク面:

• ソーシャル プラットフォームには、不適切なコンテンツも含め、大量のユーザー生成コンテンツがホストされています。
• メッセージング製品 (特にエンドツーエンドで暗号化されたもの) では、プロバイダーが検査できる内容が構造的に制限されています。
• デバイス プラットフォームは責任を下位に押し下げることができます (「ユーザーがデバイスで行うこと」)。一方、ソーシャル フィードは編集のような増幅に近い位置にあります。

つまり、「なぜ熱が少なくなるのですか？」という質問には、重要な技術的要素が含まれています。

子どもの安全の視点：報告件数は罪悪感のように見える

報告における議論の一つは、メタが児童性的虐待資料（CSAM）を国立行方不明・被搾取児童センター（NCMEC）に大量に報告しているという事実を指摘し、報告件数が多いということは「メタで虐待が増えている」と解釈できるが、その理由の一部はより多くの検出と報告。

NCMECが公開しているデータは、その解釈の複雑さを如実に表しています。例えば、NCMECは2024年に2,050万件の報告（調整後では2,920万件）を受け取ったと指摘しており、また、報告の「まとめ」といった変更によって、根底にある不正行為の減少を示唆することなく、生の報告件数を減らす可能性があることについても説明しています。

カウントだけでは不十分だ。重要なのは料金、検出範囲、 そして下流の成果:

• アカウントはどのくらい早く削除されるのでしょうか?
• 加害者は特定され、法執行機関に通報されますか?
• 未成年者はどのくらいの頻度で積極的に保護されていますか (例: 連絡機能の制限、成人のアクセスの制限)?
• 偽陽性と偽陰性はどのようにトレードオフされるのでしょうか?

公の議論が「誰が最も大きな数字を持っているか」だけに集中すると、企業は報告不足や測定不足に陥る可能性があります。

調査が少ないのはなぜ悪いのか ― Metaにとっても

メールの懸念を額面通りに受け取ると、勉強を減らすという「解決策」は魅力的だ。研究が減る、スライドが減る、召喚状が減る。

しかし、それは自滅的なものでもあります。

1) 測定できないものは改善できない

プラットフォームの安全性に関する問題の多くはシステムの問題であり、ランキング、レコメンデーション、連絡手段、そして不正行為につながる成長ループによって生じます。これらは単一のポリシーステートメントで解決できるものではなく、測定が必要です。

社内調査と分析がなければ、企業の「安全姿勢」は次のようになります。

• 反応的（スキャンダルに対応する）
• 逸話的（最も大きな不満の声を信じてください）
• 監査不能（ベースラインなし、評価なし）

2) 規制当局はいずれにせよ証拠を要求するだろう

企業が機密性の高い研究を避けようとしたとしても、規制当局は透明性報告書、リスク評価、監査可能性を求める可能性があります。言い換えれば、もし自発的に証拠を提出しなければ、誰かが証拠提出を強制する可能性があり、そうなるとあなたはプレッシャーの中で証拠を提出しなければならないのです。

3) 区別する能力が失われるトレードオフから過失

電子メールの主なテーマは、すべてにトレードオフがあるため、すべての推奨事項を実装することが合理的であるとは限らないということです。

確かにそうですね。しかし、「Xを検討した結果、Yを選んだのは…」と説得力のある形で主張するには、実際に行った作業を示すしかありません。そうでなければ、ただの手抜きに見えてしまうでしょう。

リサーチは、「私たちを信頼してください」を「これがモデル、実験、測定された結果、そして決定メモです」に変えるものです。

より深刻な問題：訴訟は社内の率直さを負債に変える

健全な組織は率直さを求めます。「この機能は有害である可能性があります」「このコホートはリスクがあります」「この指標は良くありません」「ランキングを変更する必要がある」など。

しかし、訴訟や漏洩の動向により、率直さは次の 2 つの方法で罰せられる可能性があります。

• 選択効果:経営幹部はデリケートな考えを文書で伝えるのをやめる。
• 文化的影響:チームは「悪い」答えを生み出す可能性のある質問を避けます。

どちらの影響もプラットフォームを悪化させます。

これは Meta に限ったことではなく、消費者向けテクノロジーと公共の安全が交わる領域で事業を展開するあらゆる企業に共通する問題です。

より良いインセンティブとはどのようなものでしょうか?

社会がプラットフォームに危害を測定し軽減することを望むなら、その道筋が存続可能なものにする必要がある。

政策関係者の間で繰り返し取り上げられる実践的なアイデアをいくつか紹介します。

1) 誠実な内部安全性研究のためのセーフハーバー

企業が、文書化された善意の調査を実施して危害を調査し、その結果に基づいて有意義な措置を講じた場合に、限定的な保護が受けられるフレームワークを想像してみてください。これは、安全性が極めて重要な一部の業界がインシデント報告を処理する方法と精神的に似ています。

これは不正行為に対する免責を意味するのではなく、不正行為への動機を減らすことを意味します。わざと無知でいる。

2) 標準化され、監査された報告（比較が公平になるように）

各プラットフォームが異なる定義を使用して安全性の指標を報告すると、生の数値が武器として利用されることになります。

標準的な定義、第三者による監査、より明確な分母（ユーザーあたりのレート、メッセージあたりのレート、表示あたりのレート）があれば、「より多く報告しました」という PR トラップは少なくなります。

3) 安全性研究と製品成長インセンティブの分離

安全性研究が成長目標と同じ指揮系統内に置かれると、政治的に不都合になる可能性がある。

構造的な分離は、完全な独立ではないとしても、安全性に関する質問が継続的に行われるようにするのに役立ちます。

4) 指標の意味についての国民のリテラシー向上

公の場での会話では、内部調査が告白のように扱われることがよくあります。

時にはそうなります。しかし、時にはその逆、つまり会社が注目しているサインであることもあります。

より成熟した識字能力を持つ人は次のように尋ねるでしょう。

• 損害は責任を持って測定されましたか?
• 調査結果は適​​切な監督のもとで共有されましたか?
• どのような緩和策がテストされましたか?
• その結果何が変わりましたか?

次に見るもの

メールは一つの遺物です。より大きな物語は、三つの力の間の緊張関係です。

• 透明性:プラットフォームが何を知っているかを知りたいのです。
• 説明責任:害が無視された場合には、私たちは結果を求めます。
• 学習システム:測定と改善を継続するためのプラットフォームが必要です。

これらの力が一致しないと、均衡の結果は逆効果になる可能性があります。つまり、国民の怒りが高まる一方で、測定が減り、率直さが減り、改善が遅くなるのです。

インターネットの最良の形とは、プラットフォームが自らの調査結果を隠蔽するようなものではありません。内部調査が日常的に行われ、監査を受け、製品の変更に活用されるものであり、法制度と政治制度が「私たちは害を調査し、改善しました」と「害を調査しましたが、意図的に何もしませんでした」を区別できるものです。

結論

開封されたザッカーバーグ氏の電子メールは、「落とし穴」としてではなく、インセンティブに関する手がかりとして重要である。

社内の安全性と社会問題に関する真剣な調査が、確実に評判や法的リスクにつながるのであれば、企業は調査を減らすだろう。そして、国民は少ない実際のリスクを可視化します。

政策目標は、プラットフォームが研究を行っていることを非難することではなく、測定可能な改善を求めることであるべきだ。そして責任ある測定を例外ではなくデフォルトにするインセンティブを作成します。

---

出典

• https://www.theverge.com/report/874176/meta-zuckerberg-new-mexico-email-teen-girls-research
• https://www.theverge.com/2023/12/6/23990445/facebook-instagram-meta-lawsuit-child-predators-new-mexico
• https://www.missingkids.org/gethelpnow/cybertipline/cybertiplinedata
• https://about.fb.com/news/2024/01/our-work-to-help-provide-young-people-with-safe-positive-experiences/