El correo electrónico revelado de Zuckerberg plantea una pregunta incómoda: ¿deberían las plataformas estudiar menos sus daños?

/General/ Por

Uno de los incentivos más extraños en la política tecnológica moderna es elparadoja de la investigación:Las empresas que realizan la mayor parte del trabajo interno para medir los daños pueden terminar siendo consideradas los peores actores, simplemente porque tienen la mayor cantidad de datos y porque esos datos pueden filtrarse, ser citados o revelados en los tribunales.

Esa paradoja está en el centro de un correo electrónico interno de Meta recientemente revelado, informado porEl borde, en el que Mark Zuckerberg sugiere que la empresa considere cambiar su enfoque de “investigación y análisis en torno a cuestiones sociales” después de que la cobertura mediática de los hallazgos internos (en particular, en torno al bienestar de los adolescentes en Instagram) estallara en 2021.

Esta no es solo una historia interna sobre la gestión de relaciones públicas. Es una ventana a cómo las plataformas sociales consideran la rendición de cuentas y cómo la amenaza de litigios y filtraciones puede influir en lo que se mide, lo que se publica y lo que nunca se pregunta.

A continuación se presenta una explicación práctica de lo que decía el correo electrónico, por qué es importante y cómo podría ser una estructura de incentivos más saludable.

Lo que realmente reveló el correo electrónico no sellado

Según el informe, Zuckerberg escribió a los altos ejecutivos el 15 de septiembre de 2021, un día después de que un artículo del Wall Street Journal basado en documentos internos (posteriormente vinculados a la denunciante Frances Haugen) destacara la propia investigación de Meta sobre las adolescentes e Instagram.

El punto clave no fue "Meta investigó". Muchas grandes plataformas tienen equipos de investigación. Lo sorprendente es que el director ejecutivo conectó explícitamente...Realizar investigaciones proactivas sobre cuestiones socialesconcreando pasivos y riesgos reputacionalesCuando los hallazgos se hacen públicos.

El encuadre del correo electrónico es básicamente el siguiente:

  • Estudiamos temas delicados (seguridad adolescente, salud mental, explotación infantil, desinformación, etc.).
  • Cuando nuestros hallazgos se filtran o se informan, la narrativa pública puede convertirse en: "Usted lo sabía y no lo solucionó".
  • Algunas empresas similares parecen hacerlomenosinvestigación proactiva y, por lo tanto, crear menos documentos que puedan usarse en su contra.

Se trata de un problema de gobernanza incómodo pero real: si “medir y documentar el problema” aumenta el coste operativo, existe un incentivo incorporado para medir menos.

La paradoja de la investigación: cuando la transparencia se convierte en una desventaja competitiva

En un mundo donde las plataformas están bajo el escrutinio de reguladores, periodistas y tribunales, se pueden imaginar dos grandes estrategias:

  1. El estudio daña profundamentey crear paneles de control internos, experimentos y análisis post mortem.
  2. El estudio causa daños mínimos, centrarse en requisitos de cumplimiento estrictos y evitar producir documentos que “suenen mal”.

Si la desventaja de la estrategia (1) es que crea material que se puede descubrir (correos electrónicos, presentaciones, lecturas de experimentos), entonces un actor corporativo racional puede inclinarse por la estrategia (2), incluso si la estrategia (1) es mejor para los usuarios.

Eso no justifica la reducción de la investigación. Es una explicación del incentivo.

El desafío político es diseñar un sistema donde el enfoque de “hacer lo responsable” (estudiar los daños y actuar en función de los hallazgos) no se convierta en autocastigo.

Por qué el correo electrónico de Meta está saliendo a la luz ahora: demandas y descubrimiento

El correo electrónico fue revelado después de que la oficina del Fiscal General de Nuevo México lo recopilara en un caso que alegaba que Meta posicionaba engañosamente a Facebook e Instagram como seguros para adolescentes mientras era consciente de opciones de diseño dañinas.

Este caso se suma a una ola más amplia de litigios y presión legislativa centrada en la seguridad infantil, la salud mental juvenil y las teorías de responsabilidad del producto para las plataformas sociales. Independientemente del resultado de cada caso, el proceso es fundamental: el descubrimiento convierte el debate interno en evidencia pública.

Esto tiene dos efectos de segundo orden:

  • Da forma a la escritura interna futura.Los ejecutivos se vuelven cautelosos no sólo sobre lo que hacen, sino también sobre cómo lo describen.
  • Da forma a la investigación futura.Si es probable que un estudio genere gráficos políticamente explosivos, alguien preguntará si vale la pena hacerlo.

“Apple no parece estudiar nada de esto”: ¿cuál es el argumento aquí?

Según se informa, el correo electrónico establece una comparación con Apple, sugiriendo que Apple "no parece estudiar" estos temas de la misma manera y, por lo tanto, evita muchas de las críticas.

Incluso si esa comparación es incompleta (Apple publica material sobre seguridad y privacidad, y enfrenta un intenso escrutinio en otros dominios), el punto subyacente es queCategoría de producto y superficie de riesgo:

  • Las plataformas sociales albergan enormes volúmenes de contenido generado por los usuarios, incluido contenido abusivo.
  • Los productos de mensajería (especialmente los cifrados de extremo a extremo) limitan estructuralmente lo que el proveedor puede inspeccionar.
  • Las plataformas de dispositivos pueden trasladar la responsabilidad hacia abajo (“esto es lo que hacen los usuarios en sus dispositivos”) mientras que las redes sociales se sitúan más cerca de la amplificación editorial.

Así que la pregunta “¿por qué reciben menos calor?” tiene un componente técnico no trivial.

La lente de la seguridad infantil: el volumen de denuncias puede parecer culpa

Una línea de argumentación en el informe es que Meta señala el hecho de que informa una gran cantidad de material de abuso sexual infantil (CSAM) al Centro Nacional para Niños Desaparecidos y Explotados (NCMEC), y ese alto volumen de informes puede interpretarse como que significa que "hay más abuso en Meta", incluso cuando parte de la razón esMás detección y generación de informes.

Los propios datos públicos del NCMEC ayudan a ilustrar la complejidad de dicha interpretación. Por ejemplo, el NCMEC señala que en 2024 recibió 20,5 millones de denuncias (29,2 millones de incidentes ajustados) y también describe cambios como la agrupación de denuncias, que pueden reducir los recuentos brutos sin implicar una menor incidencia de abusos subyacentes.

Los recuentos por sí solos son una herramienta poco precisa. Lo que importa estarifas,cobertura de detección, yresultados posteriores:

  • ¿Qué tan rápido se eliminan las cuentas?
  • ¿Se identifica a los perpetradores y se los remite a las autoridades?
  • ¿Con qué frecuencia se protege a los menores de forma proactiva (por ejemplo, restringiendo las funciones de contacto o limitando el alcance de los adultos)?
  • ¿Cómo se compensan los falsos positivos y los falsos negativos?

Cuando el debate público se centra únicamente en “quién tiene el número mayor”, las empresas pueden verse empujadas a subestimar sus cifras o a realizar submediciones.

Por qué sería malo investigar menos, incluso para Meta

Si tomamos al pie de la letra la preocupación del correo electrónico, la “solución” de estudiar menos es seductora: menos estudios, menos diapositivas, menos citaciones.

Pero también es contraproducente.

1) No se puede mejorar lo que no se mide

Muchos problemas de seguridad de las plataformas son problemas de sistema, generados por la clasificación, las recomendaciones, los mecanismos de contacto y los ciclos de crecimiento relacionados con el abuso. Estos no se solucionan con una sola declaración de política. Requieren medición.

Sin investigación y análisis internos, la “postura de seguridad” de la empresa se convierte en:

  • reactivo (responder a los escándalos)
  • anecdótico (confía en lo que dicen las quejas más fuertes)
  • no auditable (sin líneas de base, sin evaluación)

2) Los reguladores exigirán pruebas de todos modos

Incluso si una empresa intenta evitar investigaciones sensibles, los reguladores pueden exigir informes de transparencia, evaluaciones de riesgos y auditabilidad. En otras palabras: si no genera la evidencia voluntariamente, alguien podría obligarla a hacerlo, y ahora tiene que hacerlo bajo presión.

3) Pierdes la capacidad de distinguircompensacionesdenegligencia

Un tema importante en el correo electrónico es que no todas las recomendaciones son razonables de implementar porque todo tiene sus desventajas.

Es cierto. Pero la única forma creíble de argumentar "consideramos X y elegimos Y porque..." es mostrar tu trabajo. De lo contrario, puede parecer una simple evasiva.

La investigación es lo que convierte el “confíe en nosotros” en “aquí está el modelo, el experimento, el resultado medido y la nota de decisión”.

La cuestión más profunda: los litigios convierten la franqueza interna en una responsabilidad

Una organización saludable quiere franqueza: “Esta característica podría ser perjudicial”, “Esta cohorte está en riesgo”, “Esta métrica se ve mal”, “Necesitamos cambiar la clasificación”.

Pero la dinámica de los litigios y las filtraciones puede castigar la franqueza de dos maneras:

  • Efecto de selección:Los ejecutivos dejan de poner por escrito pensamientos sensibles.
  • Efecto cultural:Los equipos evitan preguntas que puedan producir respuestas “malas”.

Ambos efectos empeoran la plataforma.

Y esto no es exclusivo de Meta: es un problema general para cualquier empresa que opera en la intersección de la tecnología de consumo y la seguridad pública.

¿Cómo serían unos mejores incentivos?

Si la sociedad quiere plataformas para medir y reducir los daños, necesita hacer que ese camino sea sostenible.

Algunas ideas prácticas que aparecen repetidamente en los círculos políticos:

1) Puertos seguros para la investigación de seguridad interna de buena fe

Imagine un marco en el que las empresas obtienen una protección limitada cuando realizan investigaciones documentadas y de buena fe sobre los daños y toman medidas significativas basadas en los hallazgos, similar en espíritu a cómo algunas industrias críticas para la seguridad manejan los informes de incidentes.

Esto no significa inmunidad ante las malas prácticas. Significa reducir el incentivo para...permanecer ignorante a propósito.

2) Informes estandarizados y auditados (para que las comparaciones sean justas)

Si cada plataforma informa métricas de seguridad utilizando diferentes definiciones, los números brutos se convierten en un arma.

Las definiciones estándar, las auditorías de terceros y los denominadores más claros (tarifas por usuario, tarifas por mensaje, tarifas por vista) harían que “informamos más” fuera menos una trampa de relaciones públicas.

3) Separación entre la investigación de seguridad y los incentivos para el crecimiento del producto

Cuando la investigación en seguridad se encuentra dentro de la misma cadena de mando que los objetivos de crecimiento, puede resultar políticamente inconveniente.

La separación estructural (aunque no sea una independencia total) puede ayudar a garantizar que las preguntas sobre seguridad sigan surgiendo.

4) Mejor alfabetización pública sobre el significado de las métricas

La conversación pública a menudo trata la investigación interna como una confesión.

A veces lo es. Pero a veces es lo contrario: una señal de que la empresa está prestando atención.

Una alfabetización más madura preguntaría:

  • ¿Se midió el daño de manera responsable?
  • ¿Se compartieron los hallazgos con la supervisión adecuada?
  • ¿Qué mitigaciones se probaron?
  • ¿Qué cambió como resultado?

¿Qué ver a continuación?

El correo electrónico es un artefacto. La historia más amplia es la tensión entre tres fuerzas:

  • Transparencia:Queremos saber qué saben las plataformas.
  • Responsabilidad:Queremos consecuencias cuando se ignoran los daños.
  • Sistemas de aprendizaje:Necesitamos plataformas para seguir midiendo y mejorando.

Cuando esas fuerzas están desalineadas, el resultado del equilibrio puede ser perverso: menos medición, menos franqueza y una mejora más lenta, incluso mientras aumenta la ira pública.

La mejor versión de internet no es aquella en la que las plataformas ocultan sus propias investigaciones. Es aquella en la que la investigación interna es rutinaria, auditada y utilizada para impulsar cambios en los productos, y en la que el sistema legal y político puede distinguir entre «estudiamos el daño y mejoramos» y «estudiamos el daño y deliberadamente no hicimos nada».

En resumen

El correo electrónico revelado de Zuckerberg importa menos como una sorpresa y más como una pista sobre los incentivos.

Si realizar investigaciones serias sobre seguridad interna y cuestiones sociales se convierte confiablemente en exposición legal y de reputación, las empresas harán menos, y el público se verá perjudicado.menosvisibilidad de los riesgos reales.

El objetivo de la política no debería ser avergonzar a las plataformas por realizar investigaciones. Debería ser exigir mejoras mensurables.yCrear incentivos que hagan de la medición responsable la opción predeterminada y no la excepción.

Fuentes

Recibe las últimas noticias e información en tu bandeja de entrada.

Document Title
Zuckerberg’s unsealed email raises an uncomfortable question: should platforms study their harms less?
An unsealed Meta email shows how lawsuits and leaks can turn internal safety research into a liability — creating incentives to measure less.
Title Attribute
oEmbed (JSON)
oEmbed (XML)
JSON
View all posts by Abdul Jabbar
Why is the FTC appealing its Meta antitrust loss — and what the appeal is really about
Page Content
Zuckerberg’s unsealed email raises an uncomfortable question: should platforms study their harms less?
Blog
/
General
/ By
Abdul Jabbar
One of the stranger incentives in modern tech policy is the
research paradox
: the companies that do the most internal work to measure harms can end up looking like the worst actors, simply because they have the most data — and because that data can leak, be subpoenaed, or be unsealed in court.
That paradox is at the center of a newly unsealed internal Meta email, reported by
The Verge
, in which Mark Zuckerberg suggests the company consider changing its approach to “research and analytics around social issues” after media coverage of internal findings (notably around teen wellbeing on Instagram) blew up in 2021.
This isn’t just an inside-baseball story about PR management. It’s a window into how social platforms think about accountability — and how the threat of litigation and leaks can shape what gets measured, what gets published, and what never gets asked.
Below is a practical explainer of what the email said, why it matters, and what a healthier incentive structure might look like.
What the unsealed email actually revealed
According to the reporting, Zuckerberg wrote to senior executives on September 15, 2021 — a day after a Wall Street Journal story based on internal documents (later tied to whistleblower Frances Haugen) highlighted Meta’s own research about teen girls and Instagram.
The key point wasn’t “Meta did research.” Many large platforms have research teams. The striking part is that the CEO explicitly connected
doing proactive social-issues research
with
creating liabilities and reputational risks
when findings become public.
The email’s framing is essentially:
We study sensitive issues (teen safety, mental health, child exploitation, misinformation, etc.).
When our findings leak or are reported out, the public narrative can turn into: “You knew, and you didn’t fix it.”
Some peer companies appear to do
less
proactive research — and therefore create fewer documents that can be used against them.
That’s an uncomfortable but real governance issue: if “measure and document the problem” increases the cost of operating, there’s a built-in incentive to measure less.
The research paradox: when transparency becomes a competitive disadvantage
In a world where platforms are scrutinized by regulators, journalists, and courts, you can imagine two broad strategies:
Study harms deeply
and build internal dashboards, experiments, and postmortems.
Study harms minimally
, focus on narrow compliance requirements, and avoid producing “bad-sounding” documents.
If the downside of strategy (1) is that it creates discoverable material — emails, slide decks, experiment readouts — then a rational corporate actor may drift toward strategy (2), even if strategy (1) is better for users.
That is not a defense of doing less research. It’s an explanation of the incentive.
The policy challenge is to design a system where the “do the responsible thing” approach (studying harms and acting on findings) does not become self-punishing.
Why Meta’s email is surfacing now: lawsuits and discovery
The email was unsealed after being collected in discovery by the New Mexico Attorney General’s office in a case alleging Meta deceptively positioned Facebook and Instagram as safe for teens while being aware of harmful design choices.
That case sits alongside a broader wave of litigation and legislative pressure focused on child safety, youth mental health, and product liability theories for social platforms. Regardless of how any single case turns out, the process matters: discovery turns internal debate into public evidence.
That has two second-order effects:
It shapes future internal writing.
Executives become cautious not only about what they do, but how they describe it.
It shapes future research.
If a study is likely to generate politically explosive charts, someone will ask whether it’s worth doing at all.
“Apple doesn’t seem to study any of this stuff”: what’s the argument here?
The email reportedly draws a comparison to Apple, suggesting Apple “doesn’t seem to study” these issues in the same way and therefore avoids a lot of the criticism.
Even if that comparison is incomplete (Apple does publish security and privacy material, and it faces intense scrutiny in other domains), the underlying point is about
product category and risk surface
:
Social platforms host massive volumes of user-generated content, including abusive content.
Messaging products (especially end-to-end encrypted ones) structurally limit what the provider can inspect.
Device platforms can push responsibility downward (“this is what users do on their devices”) while social feeds sit closer to editorial-like amplification.
So the “why do they get less heat?” question has a nontrivial technical component.
The child safety lens: reporting volume can look like guilt
One line of argument in the reporting is that Meta points to the fact that it reports a lot of child sexual abuse material (CSAM) to the National Center for Missing and Exploited Children (NCMEC) — and that high reporting volume can be interpreted as meaning “there’s more abuse on Meta,” even when part of the reason is
more detection and reporting
.
NCMEC’s own public data helps illustrate the complexity of that interpretation. For example, NCMEC notes that in 2024 it received 20.5 million reports (29.2 million incidents when adjusted), and it also describes changes like report “bundling” that can reduce raw counts without implying less underlying abuse.
Counts alone are a blunt tool. What matters is
rates
,
detection coverage
, and
downstream outcomes
How quickly are accounts taken down?
Are perpetrators identified and referred to law enforcement?
How often are minors proactively protected (e.g., restricting contact features, limiting adult reach)?
How do false positives and false negatives trade off?
When the public debate focuses only on “who has the biggest number,” companies can be pushed toward under-reporting or under-measuring.
Why doing less research would be bad — even for Meta
If you take the email’s concern at face value, the “solution” of studying less is seductive: fewer studies, fewer slides, fewer subpoenas.
But it’s also self-defeating.
1) You can’t improve what you don’t measure
Many platform safety problems are systems problems — created by ranking, recommendations, contact mechanics, and abuse-adjacent growth loops. Those aren’t fixed with a single policy statement. They require measurement.
Without internal research and analytics, the company’s “safety posture” becomes:
reactive (respond to scandals)
anecdotal (trust what the loudest complaints say)
non-auditable (no baselines, no evaluation)
2) Regulators will demand evidence anyway
Even if a company tries to avoid sensitive research, regulators can still require transparency reports, risk assessments, and auditability. In other words: if you don’t generate the evidence voluntarily, someone else may force you to generate it — and now you have to do it under pressure.
3) You lose the ability to distinguish
tradeoffs
from
negligence
A major theme in the email is that not all recommendations are reasonable to implement because everything has tradeoffs.
That’s true. But the only credible way to argue “we considered X and chose Y because…” is to show your work. Otherwise, it can look like hand-waving.
Research is what turns “trust us” into “here’s the model, the experiment, the measured outcome, and the decision memo.”
The deeper issue: litigation turns internal candor into a liability
A healthy organization wants candor: “This feature might be harmful,” “This cohort is at risk,” “This metric looks bad,” “We need to change ranking.”
But litigation and leak dynamics can punish candor in two ways:
Selection effect:
executives stop putting sensitive thoughts in writing.
Cultural effect:
teams avoid questions that might produce “bad” answers.
Both effects make the platform worse.
And this isn’t unique to Meta — it’s a general problem for any company operating at the intersection of consumer tech and public safety.
What would better incentives look like?
If society wants platforms to measure and reduce harms, it needs to make that path survivable.
A few practical ideas that show up repeatedly in policy circles:
1) Safe harbors for good-faith internal safety research
Imagine a framework where companies get a limited protection when they conduct documented, good-faith research into harms and take meaningful steps based on findings — similar in spirit to how some safety-critical industries handle incident reporting.
This doesn’t mean immunity for wrongdoing. It means reducing the incentive to
stay ignorant on purpose
2) Standardized, audited reporting (so comparisons are fair)
If every platform reports safety metrics using different definitions, raw numbers become weaponized.
Standard definitions, third-party audits, and clearer denominators (rates per user, rates per message, rates per view) would make “we reported more” less of a PR trap.
3) Separation between safety research and product growth incentives
When safety research sits inside the same chain of command as growth targets, it can become politically inconvenient.
Structural separation — even if not full independence — can help ensure safety questions keep getting asked.
4) Better public literacy about what metrics mean
The public conversation often treats internal research like a confession.
Sometimes it is. But sometimes it’s the opposite: a sign the company is looking.
A more mature literacy would ask:
Was the harm measured responsibly?
Were the findings shared with appropriate oversight?
What mitigations were tested?
What changed as a result?
What to watch next
The email is one artifact. The broader story is the tension between three forces:
Transparency:
we want to know what platforms know.
Accountability:
we want consequences when harms are ignored.
Learning systems:
we need platforms to keep measuring and improving.
When those forces are misaligned, the equilibrium outcome can be perverse: less measurement, less candor, and slower improvement — even while public anger increases.
The best version of the internet is not one where platforms hide their own research. It’s one where internal research is routine, audited, and used to drive product changes — and where the legal and political system can distinguish between “we studied the harm and improved” and “we studied the harm and deliberately did nothing.”
Bottom line
The unsealed Zuckerberg email matters less as a “gotcha” and more as a clue about incentives.
If doing serious internal safety and social-issues research reliably turns into reputational and legal exposure, companies will do less of it — and the public will get
visibility into real risks.
The policy goal shouldn’t be to shame platforms for having research. It should be to demand measurable improvements
and
create incentives that make responsible measurement the default, not the exception.
Sources
https://www.theverge.com/report/874176/meta-zuckerberg-new-mexico-email-teen-girls-research
https://www.theverge.com/2023/12/6/23990445/facebook-instagram-meta-lawsuit-child-predators-new-mexico
https://www.missingkids.org/gethelpnow/cybertipline/cybertiplinedata
https://about.fb.com/news/2024/01/our-work-to-help-provide-young-people-with-safe-positive-experiences/
←
Previous Post
→ Why is the FTC appealing its Meta antitrust loss — and what the appeal is really about
Copyright © 2026 Rill.blog
oEmbed (JSON)
oEmbed (XML)
JSON
View all posts by Abdul Jabbar
Why is the FTC appealing its Meta antitrust loss — and what the appeal is really about
An unsealed Meta email shows how lawsuits and leaks can turn internal safety research into a liability — creating incentives to measure less.
Document Title
Page not found - Rill.blog
Image Alt
Rill.blog
Title Attribute
Rill.blog » Feed
RSD
Skip to content
Placeholder Attribute
Search...
Email address
Page Content
Page not found - Rill.blog
Skip to content
Home
Read Now
Urdu Novels
Mukhtasar Kahanian
Urdu Columns
Main Menu
This page doesn't seem to exist.
It looks like the link pointing here was faulty. Maybe try searching?
Search for:
Search
Get all the latest news and info sent to your inbox.
Please enable JavaScript in your browser to complete this form.
Email
*
Subscribe
Categories
Copyright © 2025 Rill.blog
English
العربية
Čeština
Dansk
Nederlands
Eesti
Suomi
Français
Deutsch
Ελληνικά
Magyar
Bahasa Indonesia
Italiano
日本語
한국어
Latviešu valoda
Lietuvių kalba
Norsk bokmål
Polski
Português
Română
Русский
Slovenčina
Slovenščina
Español
Svenska
ไทย
Türkçe
Українська
Tiếng Việt
Notifications
Rill.blog
Rill.blog » Feed
RSD
Search...
Email address
s Español