Рассекреченное электронное письмо Цукерберга поднимает неудобный вопрос: следует ли платформам меньше изучать вред, который они причиняют?

/Общий/ К

Одним из самых странных стимулов в современной технологической политике является...исследовательский парадоксКомпании, которые проводят большую часть внутренней работы по оценке ущерба, в конечном итоге могут выглядеть как самые злостные нарушители, просто потому что у них больше всего данных — и потому что эти данные могут просочиться, быть запрошены повесткой в ​​суд или рассекречены в суде.

Этот парадокс лежит в основе недавно рассекреченного внутреннего электронного письма Meta, о котором сообщило издание.The VergeВ статье, в которой Марк Цукерберг предлагает компании пересмотреть свой подход к «исследованиям и аналитике в области социальных проблем» после того, как в 2021 году в СМИ разразился скандал вокруг внутренних результатов исследования (в частности, касающихся благополучия подростков в Instagram).

Это не просто закулисная история об управлении связями с общественностью. Это взгляд на то, как социальные платформы воспринимают подотчетность, и как угроза судебных разбирательств и утечек информации может влиять на то, что измеряется, что публикуется и о чем никогда не спрашивают.

Ниже приведено практическое объяснение содержания электронного письма, его важности и того, как может выглядеть более эффективная система поощрений.

Что на самом деле рассекреченное электронное письмо показало

Согласно сообщениям СМИ, Цукерберг написал письмо высшему руководству 15 сентября 2021 года — на следующий день после публикации в Wall Street Journal статьи, основанной на внутренних документах (позже связанных с информатором Фрэнсис Хауген), в которой освещались собственные исследования Meta о девочках-подростках и Instagram.

Ключевой момент заключался не в том, что «Meta проводила исследования». У многих крупных платформ есть исследовательские группы. Самое поразительное то, что генеральный директор прямо связал это с...проведение активных исследований социальных проблемссоздание обязательств и репутационных рисковкогда результаты станут достоянием общественности.

Структура электронного письма, по сути, такова:

  • Мы изучаем деликатные вопросы (безопасность подростков, психическое здоровье, эксплуатация детей, дезинформация и т. д.).
  • Когда информация о наших выводах просачивается или становится достоянием общественности, публичная точка зрения может свестись к следующему: «Вы знали, но не исправили ситуацию».
  • Некоторые компании-конкуренты, похоже, так и делают.меньшеПроактивное исследование — и, следовательно, создание меньшего количества документов, которые могут быть использованы против них.

Это неприятная, но реальная проблема управления: если принцип «измерь и задокументируй проблему» увеличивает операционные расходы, то возникает внутренний стимул к уменьшению объема измерений.

Парадокс исследований: когда прозрачность становится конкурентным недостатком

В мире, где платформы находятся под пристальным вниманием регулирующих органов, журналистов и судов, можно представить две основные стратегии:

  1. Изучение причиняет глубокий вреда также создавать внутренние панели мониторинга, проводить эксперименты и анализировать результаты после инцидентов.
  2. Исследование причиняет минимальный вред.Сосредоточьтесь на узких требованиях к соблюдению норм и избегайте составления документов, которые звучат «плохо».

Если недостатком стратегии (1) является то, что она создает доступный для поиска материал — электронные письма, презентации, результаты экспериментов, — то рациональный корпоративный субъект может склониться к стратегии (2), даже если стратегия (1) лучше для пользователей.

Это не оправдание сокращения объёма исследований. Это объяснение мотивации.

Задача политики состоит в том, чтобы разработать систему, в которой подход «действовать ответственно» (изучение вреда и принятие мер на основе полученных результатов) не станет самонаказанием.

Почему электронное письмо Меты всплыло именно сейчас: судебные иски и раскрытие информации.

Электронное письмо было рассекречено после того, как оно было получено в ходе следствия Генеральной прокуратурой штата Нью-Мексико по делу, в котором утверждалось, что компания Meta обманным путем позиционировала Facebook и Instagram как безопасные для подростков платформы, зная при этом о вредных дизайнерских решениях.

Этот случай рассматривается в контексте более широкой волны судебных разбирательств и законодательного давления, направленных на обеспечение безопасности детей, психического здоровья молодежи и рассмотрение теорий ответственности за качество продукции в социальных сетях. Независимо от исхода каждого отдельного дела, сам процесс имеет значение: раскрытие информации превращает внутренние дебаты в публичные доказательства.

Это приводит к двум побочным эффектам:

  • Это формирует будущую структуру внутреннего текста.Руководители начинают проявлять осторожность не только в том, что они делают, но и в том, как они это описывают.
  • Это определяет направление будущих исследований.Если исследование может привести к появлению графиков, вызывающих политический скандал, кто-то обязательно спросит, стоит ли его вообще проводить.

«Похоже, Apple ничего из этого не изучает»: в чём тут дело?

Как сообщается, в электронном письме проводится сравнение с Apple, предполагая, что Apple «похоже, не изучает» эти вопросы таким же образом и поэтому избегает большей части критики.

Даже если это сравнение неполное (Apple действительно публикует материалы по безопасности и конфиденциальности, и компания подвергается пристальному вниманию в других областях), суть в следующем:категория продукции и поверхность риска:

  • Социальные платформы размещают огромные объемы пользовательского контента, в том числе и оскорбительного.
  • Продукты для обмена сообщениями (особенно те, которые используют сквозное шифрование) структурно ограничивают возможности поставщика по проверке информации.
  • Платформы для устройств могут перекладывать ответственность на пользователей («вот что пользователи делают на своих устройствах»), в то время как социальные сети все больше склоняются к распространению информации, подобной редакционным материалам.

Таким образом, вопрос «почему они выделяют меньше тепла?» имеет нетривиальную техническую составляющую.

Взгляд с точки зрения безопасности детей: количество сообщений может восприниматься как чувство вины.

Один из аргументов в этом отчете заключается в том, что Meta указывает на тот факт, что она сообщает о большом количестве материалов, связанных с сексуальным насилием над детьми (CSAM), в Национальный центр по розыску пропавших и подвергшихся эксплуатации детей (NCMEC) — и что большой объем сообщений можно интерпретировать как признак того, что «на Meta больше случаев насилия», даже если отчасти это объясняетсяболее эффективное выявление и отчетность.

Собственные общедоступные данные NCMEC помогают проиллюстрировать сложность такой интерпретации. Например, NCMEC отмечает, что в 2024 году получила 20,5 миллионов сообщений (29,2 миллиона инцидентов с учетом корректировок), а также описывает такие изменения, как «объединение» сообщений, которое может уменьшить общее количество без учета снижения уровня злоупотреблений.

Сами по себе подсчеты — это грубый инструмент. Важно другое.ставки,покрытие обнаружения, ирезультаты последующих этапов:

  • Как быстро удаляются аккаунты?
  • Устанавливается ли личность преступников и передается ли информация о них правоохранительным органам?
  • Как часто осуществляется активная защита несовершеннолетних (например, ограничение способов общения, ограничение доступа взрослых)?
  • Как соотносятся ложноположительные и ложноотрицательные результаты?

Когда публичная дискуссия сосредотачивается только на том, «у кого самые большие показатели», компании могут быть вынуждены занижать данные или занижать показатели.

Почему сокращение объема исследований может быть вредным — даже для Meta.

Если воспринять опасения, выраженные в электронном письме, буквально, то «решение» в виде сокращения объема учебы кажется заманчивым: меньше исследований, меньше слайдов, меньше судебных повесток.

Но это также и саморазрушительно.

1) Нельзя улучшить то, что не измеряешь.

Многие проблемы безопасности платформ — это системные проблемы, возникающие из-за ранжирования, рекомендаций, механизмов взаимодействия и циклов роста, связанных со злоупотреблениями. Их нельзя решить одним лишь заявлением о политике. Для их решения необходимы измерения.

Без внутренних исследований и аналитики «позиция безопасности» компании сводится к следующему:

  • реактивный (реагировать на скандалы)
  • Это лишь отдельные случаи (доверяйте тому, что говорят те, кто громче всех жалуется).
  • Не подлежит аудиту (нет исходных данных, нет оценки)

2) Регуляторы в любом случае потребуют доказательств.

Даже если компания пытается избежать проведения конфиденциальных исследований, регулирующие органы все равно могут потребовать предоставления отчетов о прозрачности, оценки рисков и обеспечения возможности аудита. Другими словами: если вы не предоставите доказательства добровольно, кто-то другой может заставить вас это сделать — и теперь вам придется делать это под давлением.

3) Вы теряете способность различатькомпромиссыотхалатность

Главная тема письма заключается в том, что не все рекомендации целесообразно внедрять, поскольку во всем есть свои компромиссы.

Это правда. Но единственный убедительный способ доказать: «Мы рассмотрели X и выбрали Y, потому что…», — это показать ход своих рассуждений. В противном случае это может выглядеть как пустые слова.

Исследования превращают фразу «доверьтесь нам» в «вот модель, эксперимент, измеренный результат и заключение».

Более глубокая проблема: судебные разбирательства превращают внутреннюю откровенность в недостаток.

Здоровая организация ценит откровенность: «Эта функция может быть вредной», «Эта группа находится в группе риска», «Этот показатель выглядит плохо», «Нам нужно изменить рейтинг».

Однако судебные разбирательства и утечки информации могут наказывать за откровенность двумя способами:

  • Эффект отбора:Руководители перестают излагать деликатные мысли в письменном виде.
  • Культурный эффект:Команды избегают вопросов, на которые могут быть даны «плохие» ответы.

Оба эффекта ухудшают работу платформы.

И это не уникальная проблема для Meta — это общая проблема для любой компании, работающей на стыке потребительских технологий и общественной безопасности.

Как могли бы выглядеть более эффективные стимулы?

Если общество хочет иметь платформы для измерения и уменьшения вреда, оно должно сделать этот путь приемлемым.

Несколько практических идей, которые неоднократно встречаются в политических кругах:

1) Безопасные условия для добросовестных внутренних исследований в области безопасности.

Представьте себе систему, в которой компании получают ограниченную защиту, если они проводят документированные, добросовестные исследования причиненного вреда и предпринимают значимые шаги на основе полученных результатов — по духу аналогичную систему, используемую в некоторых отраслях, критически важных для безопасности, для обработки сообщений об инцидентах.

Это не означает иммунитет от ответственности за правонарушения. Это означает снижение стимула к...намеренно оставаться в неведении.

2) Стандартизированная, проверенная отчетность (чтобы сравнения были справедливыми)

Если каждая платформа будет сообщать показатели безопасности, используя разные определения, то необработанные цифры превратятся в оружие.

Стандартизированные определения, независимые аудиты и более четкие показатели (тарифы на пользователя, тарифы на сообщение, тарифы на просмотр) позволили бы избежать ловушки в сфере связей с общественностью, связанной с фразой «мы сообщили больше».

3) Разделение между исследованиями в области безопасности и стимулами к развитию продукта.

Когда исследования в области безопасности находятся в той же иерархической цепочке, что и целевые показатели роста, это может стать политически неудобным.

Разделение конструкций — даже если оно не обеспечивает полной независимости — может способствовать тому, чтобы вопросы безопасности продолжали задаваться.

4) Повышение осведомленности населения о значении показателей.

В публичных дискуссиях внутренние исследования часто воспринимаются как исповедь.

Иногда это так. Но иногда бывает наоборот: это знак того, что компания ищет сотрудника.

Более зрелый человек, обладающий более высоким уровнем грамотности, задал бы следующий вопрос:

  • Был ли ущерб оценен ответственно?
  • Были ли результаты исследования доведены до сведения заинтересованных сторон с надлежащим контролем?
  • Какие меры по смягчению последствий были протестированы?
  • Что изменилось в результате?

Что посмотреть дальше

Электронное письмо — лишь один из артефактов. Более широкая картина — это напряжение между тремя силами:

  • Прозрачность:Мы хотим знать, что знают платформы.
  • Ответственность:Мы хотим, чтобы последствия применялись, когда игнорируется причиненный вред.
  • Системы обучения:Нам нужны платформы для постоянного измерения и совершенствования.

Когда эти силы не совпадают, равновесие может оказаться обратным: меньше измерений, меньше откровенности и более медленное улучшение — даже несмотря на рост общественного недовольства.

Лучшая версия интернета — это не та, где платформы скрывают результаты собственных исследований. Это та, где внутренние исследования проводятся регулярно, проходят аудит и используются для внесения изменений в продукт, а правовая и политическая система может отличить «мы изучили вред и внесли улучшения» от «мы изучили вред и намеренно ничего не предприняли».

Итог

Рассекреченные электронные письма Цукерберга важны не столько как «подвох», сколько как намек на мотивацию.

Если проведение серьезных внутренних исследований в области безопасности и социальных вопросов неизбежно приведет к репутационному и юридическому ущербу, компании будут проводить их реже, а общественность получит больше информации.меньшепрозрачность в отношении реальных рисков.

Цель политики не должна заключаться в том, чтобы стыдить платформы за проведение исследований. Она должна заключаться в требовании ощутимых улучшений.иСоздать стимулы, которые сделают ответственное измерение нормой по умолчанию, а не исключением.

Источники

Получайте все последние новости и информацию на свой почтовый ящик.

Document Title
Zuckerberg’s unsealed email raises an uncomfortable question: should platforms study their harms less?
An unsealed Meta email shows how lawsuits and leaks can turn internal safety research into a liability — creating incentives to measure less.
Title Attribute
oEmbed (JSON)
oEmbed (XML)
JSON
View all posts by Abdul Jabbar
Why is the FTC appealing its Meta antitrust loss — and what the appeal is really about
Page Content
Zuckerberg’s unsealed email raises an uncomfortable question: should platforms study their harms less?
Blog
/
General
/ By
Abdul Jabbar
One of the stranger incentives in modern tech policy is the
research paradox
: the companies that do the most internal work to measure harms can end up looking like the worst actors, simply because they have the most data — and because that data can leak, be subpoenaed, or be unsealed in court.
That paradox is at the center of a newly unsealed internal Meta email, reported by
The Verge
, in which Mark Zuckerberg suggests the company consider changing its approach to “research and analytics around social issues” after media coverage of internal findings (notably around teen wellbeing on Instagram) blew up in 2021.
This isn’t just an inside-baseball story about PR management. It’s a window into how social platforms think about accountability — and how the threat of litigation and leaks can shape what gets measured, what gets published, and what never gets asked.
Below is a practical explainer of what the email said, why it matters, and what a healthier incentive structure might look like.
What the unsealed email actually revealed
According to the reporting, Zuckerberg wrote to senior executives on September 15, 2021 — a day after a Wall Street Journal story based on internal documents (later tied to whistleblower Frances Haugen) highlighted Meta’s own research about teen girls and Instagram.
The key point wasn’t “Meta did research.” Many large platforms have research teams. The striking part is that the CEO explicitly connected
doing proactive social-issues research
with
creating liabilities and reputational risks
when findings become public.
The email’s framing is essentially:
We study sensitive issues (teen safety, mental health, child exploitation, misinformation, etc.).
When our findings leak or are reported out, the public narrative can turn into: “You knew, and you didn’t fix it.”
Some peer companies appear to do
less
proactive research — and therefore create fewer documents that can be used against them.
That’s an uncomfortable but real governance issue: if “measure and document the problem” increases the cost of operating, there’s a built-in incentive to measure less.
The research paradox: when transparency becomes a competitive disadvantage
In a world where platforms are scrutinized by regulators, journalists, and courts, you can imagine two broad strategies:
Study harms deeply
and build internal dashboards, experiments, and postmortems.
Study harms minimally
, focus on narrow compliance requirements, and avoid producing “bad-sounding” documents.
If the downside of strategy (1) is that it creates discoverable material — emails, slide decks, experiment readouts — then a rational corporate actor may drift toward strategy (2), even if strategy (1) is better for users.
That is not a defense of doing less research. It’s an explanation of the incentive.
The policy challenge is to design a system where the “do the responsible thing” approach (studying harms and acting on findings) does not become self-punishing.
Why Meta’s email is surfacing now: lawsuits and discovery
The email was unsealed after being collected in discovery by the New Mexico Attorney General’s office in a case alleging Meta deceptively positioned Facebook and Instagram as safe for teens while being aware of harmful design choices.
That case sits alongside a broader wave of litigation and legislative pressure focused on child safety, youth mental health, and product liability theories for social platforms. Regardless of how any single case turns out, the process matters: discovery turns internal debate into public evidence.
That has two second-order effects:
It shapes future internal writing.
Executives become cautious not only about what they do, but how they describe it.
It shapes future research.
If a study is likely to generate politically explosive charts, someone will ask whether it’s worth doing at all.
“Apple doesn’t seem to study any of this stuff”: what’s the argument here?
The email reportedly draws a comparison to Apple, suggesting Apple “doesn’t seem to study” these issues in the same way and therefore avoids a lot of the criticism.
Even if that comparison is incomplete (Apple does publish security and privacy material, and it faces intense scrutiny in other domains), the underlying point is about
product category and risk surface
:
Social platforms host massive volumes of user-generated content, including abusive content.
Messaging products (especially end-to-end encrypted ones) structurally limit what the provider can inspect.
Device platforms can push responsibility downward (“this is what users do on their devices”) while social feeds sit closer to editorial-like amplification.
So the “why do they get less heat?” question has a nontrivial technical component.
The child safety lens: reporting volume can look like guilt
One line of argument in the reporting is that Meta points to the fact that it reports a lot of child sexual abuse material (CSAM) to the National Center for Missing and Exploited Children (NCMEC) — and that high reporting volume can be interpreted as meaning “there’s more abuse on Meta,” even when part of the reason is
more detection and reporting
.
NCMEC’s own public data helps illustrate the complexity of that interpretation. For example, NCMEC notes that in 2024 it received 20.5 million reports (29.2 million incidents when adjusted), and it also describes changes like report “bundling” that can reduce raw counts without implying less underlying abuse.
Counts alone are a blunt tool. What matters is
rates
,
detection coverage
, and
downstream outcomes
How quickly are accounts taken down?
Are perpetrators identified and referred to law enforcement?
How often are minors proactively protected (e.g., restricting contact features, limiting adult reach)?
How do false positives and false negatives trade off?
When the public debate focuses only on “who has the biggest number,” companies can be pushed toward under-reporting or under-measuring.
Why doing less research would be bad — even for Meta
If you take the email’s concern at face value, the “solution” of studying less is seductive: fewer studies, fewer slides, fewer subpoenas.
But it’s also self-defeating.
1) You can’t improve what you don’t measure
Many platform safety problems are systems problems — created by ranking, recommendations, contact mechanics, and abuse-adjacent growth loops. Those aren’t fixed with a single policy statement. They require measurement.
Without internal research and analytics, the company’s “safety posture” becomes:
reactive (respond to scandals)
anecdotal (trust what the loudest complaints say)
non-auditable (no baselines, no evaluation)
2) Regulators will demand evidence anyway
Even if a company tries to avoid sensitive research, regulators can still require transparency reports, risk assessments, and auditability. In other words: if you don’t generate the evidence voluntarily, someone else may force you to generate it — and now you have to do it under pressure.
3) You lose the ability to distinguish
tradeoffs
from
negligence
A major theme in the email is that not all recommendations are reasonable to implement because everything has tradeoffs.
That’s true. But the only credible way to argue “we considered X and chose Y because…” is to show your work. Otherwise, it can look like hand-waving.
Research is what turns “trust us” into “here’s the model, the experiment, the measured outcome, and the decision memo.”
The deeper issue: litigation turns internal candor into a liability
A healthy organization wants candor: “This feature might be harmful,” “This cohort is at risk,” “This metric looks bad,” “We need to change ranking.”
But litigation and leak dynamics can punish candor in two ways:
Selection effect:
executives stop putting sensitive thoughts in writing.
Cultural effect:
teams avoid questions that might produce “bad” answers.
Both effects make the platform worse.
And this isn’t unique to Meta — it’s a general problem for any company operating at the intersection of consumer tech and public safety.
What would better incentives look like?
If society wants platforms to measure and reduce harms, it needs to make that path survivable.
A few practical ideas that show up repeatedly in policy circles:
1) Safe harbors for good-faith internal safety research
Imagine a framework where companies get a limited protection when they conduct documented, good-faith research into harms and take meaningful steps based on findings — similar in spirit to how some safety-critical industries handle incident reporting.
This doesn’t mean immunity for wrongdoing. It means reducing the incentive to
stay ignorant on purpose
2) Standardized, audited reporting (so comparisons are fair)
If every platform reports safety metrics using different definitions, raw numbers become weaponized.
Standard definitions, third-party audits, and clearer denominators (rates per user, rates per message, rates per view) would make “we reported more” less of a PR trap.
3) Separation between safety research and product growth incentives
When safety research sits inside the same chain of command as growth targets, it can become politically inconvenient.
Structural separation — even if not full independence — can help ensure safety questions keep getting asked.
4) Better public literacy about what metrics mean
The public conversation often treats internal research like a confession.
Sometimes it is. But sometimes it’s the opposite: a sign the company is looking.
A more mature literacy would ask:
Was the harm measured responsibly?
Were the findings shared with appropriate oversight?
What mitigations were tested?
What changed as a result?
What to watch next
The email is one artifact. The broader story is the tension between three forces:
Transparency:
we want to know what platforms know.
Accountability:
we want consequences when harms are ignored.
Learning systems:
we need platforms to keep measuring and improving.
When those forces are misaligned, the equilibrium outcome can be perverse: less measurement, less candor, and slower improvement — even while public anger increases.
The best version of the internet is not one where platforms hide their own research. It’s one where internal research is routine, audited, and used to drive product changes — and where the legal and political system can distinguish between “we studied the harm and improved” and “we studied the harm and deliberately did nothing.”
Bottom line
The unsealed Zuckerberg email matters less as a “gotcha” and more as a clue about incentives.
If doing serious internal safety and social-issues research reliably turns into reputational and legal exposure, companies will do less of it — and the public will get
visibility into real risks.
The policy goal shouldn’t be to shame platforms for having research. It should be to demand measurable improvements
and
create incentives that make responsible measurement the default, not the exception.
Sources
https://www.theverge.com/report/874176/meta-zuckerberg-new-mexico-email-teen-girls-research
https://www.theverge.com/2023/12/6/23990445/facebook-instagram-meta-lawsuit-child-predators-new-mexico
https://www.missingkids.org/gethelpnow/cybertipline/cybertiplinedata
https://about.fb.com/news/2024/01/our-work-to-help-provide-young-people-with-safe-positive-experiences/
←
Previous Post
→ Why is the FTC appealing its Meta antitrust loss — and what the appeal is really about
Copyright © 2026 Rill.blog
oEmbed (JSON)
oEmbed (XML)
JSON
View all posts by Abdul Jabbar
Why is the FTC appealing its Meta antitrust loss — and what the appeal is really about
An unsealed Meta email shows how lawsuits and leaks can turn internal safety research into a liability — creating incentives to measure less.
Document Title
Page not found - Rill.blog
Image Alt
Rill.blog
Title Attribute
Rill.blog » Feed
RSD
Skip to content
Placeholder Attribute
Search...
Email address
Page Content
Page not found - Rill.blog
Skip to content
Home
Read Now
Urdu Novels
Mukhtasar Kahanian
Urdu Columns
Main Menu
This page doesn't seem to exist.
It looks like the link pointing here was faulty. Maybe try searching?
Search for:
Search
Get all the latest news and info sent to your inbox.
Please enable JavaScript in your browser to complete this form.
Email
*
Subscribe
Categories
Copyright © 2025 Rill.blog
English
العربية
Čeština
Dansk
Nederlands
Eesti
Suomi
Français
Deutsch
Ελληνικά
Magyar
Bahasa Indonesia
Italiano
日本語
한국어
Latviešu valoda
Lietuvių kalba
Norsk bokmål
Polski
Português
Română
Русский
Slovenčina
Slovenščina
Español
Svenska
ไทย
Türkçe
Українська
Tiếng Việt
Notifications
Rill.blog
Rill.blog » Feed
RSD
Search...
Email address
Русский