L'email desecretata di Zuckerberg solleva una domanda scomoda: le piattaforme dovrebbero studiare meno i danni che provocano?

/Generale/ Di

Uno degli incentivi più strani nella moderna politica tecnologica è l'paradosso della ricerca: le aziende che svolgono la maggior parte del lavoro interno per misurare i danni possono finire per essere considerate le peggiori, semplicemente perché hanno la maggior parte dei dati e perché tali dati possono trapelare, essere citati in giudizio o essere desecretati in tribunale.

Questo paradosso è al centro di una email interna di Meta appena desecretata, riportata daThe Verge, in cui Mark Zuckerberg suggerisce all'azienda di prendere in considerazione la possibilità di cambiare il suo approccio alla "ricerca e all'analisi sui problemi sociali" dopo che la copertura mediatica delle scoperte interne (in particolare sul benessere degli adolescenti su Instagram) è esplosa nel 2021.

Questa non è solo una storia di baseball dall'interno sulla gestione delle pubbliche relazioni. È una finestra su come le piattaforme social concepiscono la responsabilità e su come la minaccia di contenziosi e fughe di notizie possa influenzare ciò che viene misurato, ciò che viene pubblicato e ciò che non viene mai chiesto.

Di seguito una spiegazione pratica del contenuto dell'e-mail, del perché è importante e di come potrebbe essere strutturata una struttura di incentivi più sana.

Cosa rivelava realmente l'e-mail non sigillata

Secondo quanto riportato, Zuckerberg avrebbe scritto ai dirigenti senior il 15 settembre 2021, un giorno dopo che un articolo del Wall Street Journal basato su documenti interni (in seguito collegati alla whistleblower Frances Haugen) aveva evidenziato la ricerca condotta da Meta sulle ragazze adolescenti e Instagram.

Il punto chiave non era "Meta ha fatto ricerca". Molte grandi piattaforme hanno team di ricerca. La parte sorprendente è che il CEO ha esplicitamente collegatocondurre ricerche proattive su questioni socialiconcreando passività e rischi reputazionaliquando i risultati diventano pubblici.

La struttura dell'e-mail è essenzialmente la seguente:

  • Studiamo temi delicati (sicurezza degli adolescenti, salute mentale, sfruttamento dei minori, disinformazione, ecc.).
  • Quando le nostre scoperte trapelano o vengono divulgate, la narrazione pubblica può trasformarsi in: "Lo sapevi e non hai risolto il problema".
  • Alcune aziende simili sembrano farlomenoricerca proattiva e, di conseguenza, creare meno documenti che possano essere usati contro di loro.

Si tratta di un problema di governance scomodo ma reale: se "misurare e documentare il problema" aumenta i costi operativi, c'è un incentivo intrinseco a misurare meno.

Il paradosso della ricerca: quando la trasparenza diventa uno svantaggio competitivo

In un mondo in cui le piattaforme sono sottoposte al controllo di autorità di regolamentazione, giornalisti e tribunali, si possono immaginare due strategie generali:

  1. Lo studio danneggia profondamentee creare dashboard interne, esperimenti e analisi post-mortem.
  2. Lo studio danneggia minimamente, concentrarsi su requisiti di conformità ristretti ed evitare di produrre documenti "dal suono scadente".

Se lo svantaggio della strategia (1) è che crea materiale reperibile (e-mail, slide, letture di esperimenti), allora un attore aziendale razionale potrebbe orientarsi verso la strategia (2), anche se la strategia (1) è migliore per gli utenti.

Questa non è una giustificazione per fare meno ricerca. È una spiegazione dell'incentivo.

La sfida politica è progettare un sistema in cui l'approccio "fare la cosa responsabile" (studiare i danni e agire in base ai risultati) non diventi auto-punito.

Perché l'email di Meta sta emergendo ora: cause legali e indagini

L'e-mail è stata desecretata dopo essere stata raccolta durante le indagini dall'ufficio del procuratore generale del New Mexico in un caso in cui si sosteneva che Meta avesse ingannevolmente presentato Facebook e Instagram come sicuri per gli adolescenti, pur essendo consapevole di scelte di progettazione dannose.

Questo caso si inserisce in un'ondata più ampia di contenziosi e pressioni legislative incentrate sulla sicurezza dei minori, sulla salute mentale dei giovani e sulle teorie sulla responsabilità del prodotto per le piattaforme social. Indipendentemente dall'esito di ogni singolo caso, il processo è fondamentale: la fase istruttoria trasforma il dibattito interno in prova pubblica.

Ciò ha due effetti di secondo ordine:

  • Dà forma alla futura scrittura interna.I dirigenti diventano cauti non solo su ciò che fanno, ma anche su come lo descrivono.
  • Dà forma alla ricerca futura.Se è probabile che uno studio generi grafici politicamente esplosivi, qualcuno si chiederà se valga la pena farlo.

"Apple non sembra studiare nulla di tutto questo": qual è il ragionamento in questo caso?

L'e-mail, a quanto pare, fa un paragone con Apple, suggerendo che Apple "non sembra studiare" queste questioni allo stesso modo e quindi evita molte delle critiche.

Anche se questo confronto è incompleto (Apple pubblica materiale sulla sicurezza e sulla privacy, e questo è sottoposto a un attento esame in altri ambiti), il punto di fondo ècategoria di prodotto e superficie di rischio:

  • Le piattaforme social ospitano enormi volumi di contenuti generati dagli utenti, compresi contenuti offensivi.
  • I prodotti di messaggistica (in particolare quelli crittografati end-to-end) limitano strutturalmente ciò che il provider può ispezionare.
  • Le piattaforme dei dispositivi possono spostare la responsabilità verso il basso ("questo è ciò che gli utenti fanno sui loro dispositivi"), mentre i feed social sono più vicini all'amplificazione di tipo editoriale.

Quindi la domanda "perché si riscaldano meno?" ha una componente tecnica non banale.

La lente della sicurezza dei bambini: il volume delle segnalazioni può sembrare un senso di colpa

Una linea di argomentazione nel reportage è che Meta sottolinea il fatto che segnala molto materiale di abusi sessuali su minori (CSAM) al National Center for Missing and Exploited Children (NCMEC) e che l'elevato volume di segnalazioni può essere interpretato come il significato di "ci sono più abusi su Meta", anche quando parte del motivo èpiù rilevamento e segnalazione.

I dati pubblici dell'NCMEC contribuiscono a illustrare la complessità di tale interpretazione. Ad esempio, l'NCMEC rileva che nel 2024 ha ricevuto 20,5 milioni di segnalazioni (29,2 milioni di incidenti al netto delle correzioni) e descrive anche modifiche come il "raggruppamento" delle segnalazioni, che possono ridurre i conteggi grezzi senza implicare una riduzione degli abusi sottostanti.

I conteggi da soli sono uno strumento ottuso. Ciò che conta ètariffe,copertura di rilevamento, Erisultati a valle:

  • Quanto velocemente vengono chiusi gli account?
  • I responsabili vengono identificati e segnalati alle forze dell'ordine?
  • Con quale frequenza i minori vengono protetti in modo proattivo (ad esempio, limitando le funzionalità di contatto, limitando la portata degli adulti)?
  • Come si bilanciano i falsi positivi e i falsi negativi?

Quando il dibattito pubblico si concentra solo su “chi ha il numero più grande”, le aziende possono essere spinte a sottostimare i dati o a sottomisurare i dati.

Perché fare meno ricerca sarebbe dannoso, anche per Meta

Se si prende per buona la preoccupazione contenuta nell'e-mail, la "soluzione" di studiare meno è allettante: meno studi, meno diapositive, meno citazioni in giudizio.

Ma è anche controproducente.

1) Non puoi migliorare ciò che non misuri

Molti problemi di sicurezza delle piattaforme sono problemi di sistema, creati da classificazioni, raccomandazioni, meccanismi di contatto e cicli di crescita adiacenti agli abusi. Questi non si risolvono con una singola dichiarazione di policy. Richiedono una misurazione.

Senza ricerca e analisi interne, la "posizione di sicurezza" dell'azienda diventa:

  • reattivo (rispondere agli scandali)
  • aneddotico (fidati di ciò che dicono le lamentele più forti)
  • non verificabile (nessuna baseline, nessuna valutazione)

2) Le autorità di regolamentazione richiederanno comunque prove

Anche se un'azienda cerca di evitare ricerche sensibili, le autorità di regolamentazione possono comunque richiedere report sulla trasparenza, valutazioni del rischio e verificabilità. In altre parole: se non si generano le prove volontariamente, qualcun altro potrebbe costringere l'azienda a farlo, e ora si è costretti a farlo sotto pressione.

3) Perdi la capacità di distinguerecompromessidanegligenza

Uno dei temi principali trattati nell'e-mail è che non tutte le raccomandazioni sono ragionevoli da implementare, perché ogni cosa ha i suoi compromessi.

È vero. Ma l'unico modo credibile per sostenere "abbiamo considerato X e scelto Y perché..." è mostrare il proprio lavoro. Altrimenti, potrebbe sembrare un gesto di disapprovazione.

La ricerca è ciò che trasforma il "fidatevi di noi" in "ecco il modello, l'esperimento, il risultato misurato e il promemoria della decisione".

Il problema più profondo: il contenzioso trasforma la sincerità interna in una responsabilità

Un'organizzazione sana vuole sincerità: "Questa funzionalità potrebbe essere dannosa", "Questa coorte è a rischio", "Questa metrica sembra negativa", "Dobbiamo cambiare la classifica".

Ma le dinamiche del contenzioso e delle fughe di notizie possono punire la sincerità in due modi:

  • Effetto selezione:i dirigenti smettono di mettere per iscritto i pensieri sensibili.
  • Effetto culturale:i team evitano domande che potrebbero produrre risposte "cattive".

Entrambi gli effetti peggiorano la piattaforma.

E questo non riguarda solo Meta: è un problema generale per qualsiasi azienda che opera all'intersezione tra tecnologia per i consumatori e sicurezza pubblica.

Quali sarebbero gli incentivi migliori?

Se la società vuole che le piattaforme misurino e riducano i danni, deve rendere sostenibile questo percorso.

Alcune idee pratiche che ricorrono spesso negli ambienti politici:

1) Porti sicuri per la ricerca sulla sicurezza interna in buona fede

Immaginate un quadro in cui le aziende ottengono una protezione limitata quando conducono ricerche documentate e in buona fede sui danni e adottano misure significative in base ai risultati, simile nello spirito al modo in cui alcuni settori critici per la sicurezza gestiscono la segnalazione degli incidenti.

Ciò non significa immunità dagli illeciti. Significa ridurre l'incentivo arestare ignoranti di proposito.

2) Reporting standardizzato e verificato (in modo che i confronti siano equi)

Se ogni piattaforma riporta parametri di sicurezza utilizzando definizioni diverse, i numeri grezzi diventano un'arma.

Definizioni standard, audit di terze parti e denominatori più chiari (tariffe per utente, tariffe per messaggio, tariffe per visualizzazione) renderebbero la frase "abbiamo segnalato di più" meno una trappola per le pubbliche relazioni.

3) Separazione tra ricerca sulla sicurezza e incentivi alla crescita del prodotto

Quando la ricerca sulla sicurezza rientra nella stessa catena di comando degli obiettivi di crescita, può diventare politicamente scomoda.

La separazione strutturale, anche se non completamente indipendente, può contribuire a garantire che i problemi di sicurezza continuino a essere sollevati.

4) Una migliore consapevolezza pubblica sul significato delle metriche

Spesso il dibattito pubblico tratta la ricerca interna come una confessione.

A volte lo è. Ma a volte è il contrario: un segnale che l'azienda sta cercando.

Un'alfabetizzazione più matura chiederebbe:

  • Il danno è stato misurato in modo responsabile?
  • I risultati sono stati condivisi con un'adeguata supervisione?
  • Quali misure di mitigazione sono state testate?
  • Cosa è cambiato di conseguenza?

Cosa guardare dopo

L'email è solo un artefatto. La storia più ampia è la tensione tra tre forze:

  • Trasparenza:vogliamo sapere cosa sanno le piattaforme.
  • Responsabilità:vogliamo delle conseguenze quando i danni vengono ignorati.
  • Sistemi di apprendimento:abbiamo bisogno di piattaforme per continuare a misurare e migliorare.

Quando queste forze non sono allineate, il risultato dell'equilibrio può essere perverso: meno misurazioni, meno sincerità e miglioramenti più lenti, anche se aumenta la rabbia pubblica.

La versione migliore di Internet non è quella in cui le piattaforme nascondono le proprie ricerche. È quella in cui la ricerca interna è di routine, verificata e utilizzata per guidare i cambiamenti dei prodotti, e in cui il sistema legale e politico può distinguere tra "abbiamo studiato il danno e migliorato" e "abbiamo studiato il danno e deliberatamente non abbiamo fatto nulla".

In conclusione

L'email non sigillata di Zuckerberg è meno importante come "colpo di scena" e più come indizio sugli incentivi.

Se condurre una seria ricerca sulla sicurezza interna e sulle questioni sociali si trasforma in modo affidabile in un’esposizione legale e reputazionale, le aziende ne faranno meno e il pubblico ne trarrà beneficio.menovisibilità sui rischi reali.

L'obiettivo politico non dovrebbe essere quello di screditare le piattaforme per la loro attività di ricerca. Dovrebbe essere quello di esigere miglioramenti misurabili.Ecreare incentivi che rendano la misurazione responsabile la norma, non l'eccezione.

Fonti

Ricevi tutte le ultime notizie e informazioni direttamente nella tua casella di posta.

Document Title
Zuckerberg’s unsealed email raises an uncomfortable question: should platforms study their harms less?
An unsealed Meta email shows how lawsuits and leaks can turn internal safety research into a liability — creating incentives to measure less.
Title Attribute
oEmbed (JSON)
oEmbed (XML)
JSON
View all posts by Abdul Jabbar
Why is the FTC appealing its Meta antitrust loss — and what the appeal is really about
Page Content
Zuckerberg’s unsealed email raises an uncomfortable question: should platforms study their harms less?
Blog
/
General
/ By
Abdul Jabbar
One of the stranger incentives in modern tech policy is the
research paradox
: the companies that do the most internal work to measure harms can end up looking like the worst actors, simply because they have the most data — and because that data can leak, be subpoenaed, or be unsealed in court.
That paradox is at the center of a newly unsealed internal Meta email, reported by
The Verge
, in which Mark Zuckerberg suggests the company consider changing its approach to “research and analytics around social issues” after media coverage of internal findings (notably around teen wellbeing on Instagram) blew up in 2021.
This isn’t just an inside-baseball story about PR management. It’s a window into how social platforms think about accountability — and how the threat of litigation and leaks can shape what gets measured, what gets published, and what never gets asked.
Below is a practical explainer of what the email said, why it matters, and what a healthier incentive structure might look like.
What the unsealed email actually revealed
According to the reporting, Zuckerberg wrote to senior executives on September 15, 2021 — a day after a Wall Street Journal story based on internal documents (later tied to whistleblower Frances Haugen) highlighted Meta’s own research about teen girls and Instagram.
The key point wasn’t “Meta did research.” Many large platforms have research teams. The striking part is that the CEO explicitly connected
doing proactive social-issues research
with
creating liabilities and reputational risks
when findings become public.
The email’s framing is essentially:
We study sensitive issues (teen safety, mental health, child exploitation, misinformation, etc.).
When our findings leak or are reported out, the public narrative can turn into: “You knew, and you didn’t fix it.”
Some peer companies appear to do
less
proactive research — and therefore create fewer documents that can be used against them.
That’s an uncomfortable but real governance issue: if “measure and document the problem” increases the cost of operating, there’s a built-in incentive to measure less.
The research paradox: when transparency becomes a competitive disadvantage
In a world where platforms are scrutinized by regulators, journalists, and courts, you can imagine two broad strategies:
Study harms deeply
and build internal dashboards, experiments, and postmortems.
Study harms minimally
, focus on narrow compliance requirements, and avoid producing “bad-sounding” documents.
If the downside of strategy (1) is that it creates discoverable material — emails, slide decks, experiment readouts — then a rational corporate actor may drift toward strategy (2), even if strategy (1) is better for users.
That is not a defense of doing less research. It’s an explanation of the incentive.
The policy challenge is to design a system where the “do the responsible thing” approach (studying harms and acting on findings) does not become self-punishing.
Why Meta’s email is surfacing now: lawsuits and discovery
The email was unsealed after being collected in discovery by the New Mexico Attorney General’s office in a case alleging Meta deceptively positioned Facebook and Instagram as safe for teens while being aware of harmful design choices.
That case sits alongside a broader wave of litigation and legislative pressure focused on child safety, youth mental health, and product liability theories for social platforms. Regardless of how any single case turns out, the process matters: discovery turns internal debate into public evidence.
That has two second-order effects:
It shapes future internal writing.
Executives become cautious not only about what they do, but how they describe it.
It shapes future research.
If a study is likely to generate politically explosive charts, someone will ask whether it’s worth doing at all.
“Apple doesn’t seem to study any of this stuff”: what’s the argument here?
The email reportedly draws a comparison to Apple, suggesting Apple “doesn’t seem to study” these issues in the same way and therefore avoids a lot of the criticism.
Even if that comparison is incomplete (Apple does publish security and privacy material, and it faces intense scrutiny in other domains), the underlying point is about
product category and risk surface
:
Social platforms host massive volumes of user-generated content, including abusive content.
Messaging products (especially end-to-end encrypted ones) structurally limit what the provider can inspect.
Device platforms can push responsibility downward (“this is what users do on their devices”) while social feeds sit closer to editorial-like amplification.
So the “why do they get less heat?” question has a nontrivial technical component.
The child safety lens: reporting volume can look like guilt
One line of argument in the reporting is that Meta points to the fact that it reports a lot of child sexual abuse material (CSAM) to the National Center for Missing and Exploited Children (NCMEC) — and that high reporting volume can be interpreted as meaning “there’s more abuse on Meta,” even when part of the reason is
more detection and reporting
.
NCMEC’s own public data helps illustrate the complexity of that interpretation. For example, NCMEC notes that in 2024 it received 20.5 million reports (29.2 million incidents when adjusted), and it also describes changes like report “bundling” that can reduce raw counts without implying less underlying abuse.
Counts alone are a blunt tool. What matters is
rates
,
detection coverage
, and
downstream outcomes
How quickly are accounts taken down?
Are perpetrators identified and referred to law enforcement?
How often are minors proactively protected (e.g., restricting contact features, limiting adult reach)?
How do false positives and false negatives trade off?
When the public debate focuses only on “who has the biggest number,” companies can be pushed toward under-reporting or under-measuring.
Why doing less research would be bad — even for Meta
If you take the email’s concern at face value, the “solution” of studying less is seductive: fewer studies, fewer slides, fewer subpoenas.
But it’s also self-defeating.
1) You can’t improve what you don’t measure
Many platform safety problems are systems problems — created by ranking, recommendations, contact mechanics, and abuse-adjacent growth loops. Those aren’t fixed with a single policy statement. They require measurement.
Without internal research and analytics, the company’s “safety posture” becomes:
reactive (respond to scandals)
anecdotal (trust what the loudest complaints say)
non-auditable (no baselines, no evaluation)
2) Regulators will demand evidence anyway
Even if a company tries to avoid sensitive research, regulators can still require transparency reports, risk assessments, and auditability. In other words: if you don’t generate the evidence voluntarily, someone else may force you to generate it — and now you have to do it under pressure.
3) You lose the ability to distinguish
tradeoffs
from
negligence
A major theme in the email is that not all recommendations are reasonable to implement because everything has tradeoffs.
That’s true. But the only credible way to argue “we considered X and chose Y because…” is to show your work. Otherwise, it can look like hand-waving.
Research is what turns “trust us” into “here’s the model, the experiment, the measured outcome, and the decision memo.”
The deeper issue: litigation turns internal candor into a liability
A healthy organization wants candor: “This feature might be harmful,” “This cohort is at risk,” “This metric looks bad,” “We need to change ranking.”
But litigation and leak dynamics can punish candor in two ways:
Selection effect:
executives stop putting sensitive thoughts in writing.
Cultural effect:
teams avoid questions that might produce “bad” answers.
Both effects make the platform worse.
And this isn’t unique to Meta — it’s a general problem for any company operating at the intersection of consumer tech and public safety.
What would better incentives look like?
If society wants platforms to measure and reduce harms, it needs to make that path survivable.
A few practical ideas that show up repeatedly in policy circles:
1) Safe harbors for good-faith internal safety research
Imagine a framework where companies get a limited protection when they conduct documented, good-faith research into harms and take meaningful steps based on findings — similar in spirit to how some safety-critical industries handle incident reporting.
This doesn’t mean immunity for wrongdoing. It means reducing the incentive to
stay ignorant on purpose
2) Standardized, audited reporting (so comparisons are fair)
If every platform reports safety metrics using different definitions, raw numbers become weaponized.
Standard definitions, third-party audits, and clearer denominators (rates per user, rates per message, rates per view) would make “we reported more” less of a PR trap.
3) Separation between safety research and product growth incentives
When safety research sits inside the same chain of command as growth targets, it can become politically inconvenient.
Structural separation — even if not full independence — can help ensure safety questions keep getting asked.
4) Better public literacy about what metrics mean
The public conversation often treats internal research like a confession.
Sometimes it is. But sometimes it’s the opposite: a sign the company is looking.
A more mature literacy would ask:
Was the harm measured responsibly?
Were the findings shared with appropriate oversight?
What mitigations were tested?
What changed as a result?
What to watch next
The email is one artifact. The broader story is the tension between three forces:
Transparency:
we want to know what platforms know.
Accountability:
we want consequences when harms are ignored.
Learning systems:
we need platforms to keep measuring and improving.
When those forces are misaligned, the equilibrium outcome can be perverse: less measurement, less candor, and slower improvement — even while public anger increases.
The best version of the internet is not one where platforms hide their own research. It’s one where internal research is routine, audited, and used to drive product changes — and where the legal and political system can distinguish between “we studied the harm and improved” and “we studied the harm and deliberately did nothing.”
Bottom line
The unsealed Zuckerberg email matters less as a “gotcha” and more as a clue about incentives.
If doing serious internal safety and social-issues research reliably turns into reputational and legal exposure, companies will do less of it — and the public will get
visibility into real risks.
The policy goal shouldn’t be to shame platforms for having research. It should be to demand measurable improvements
and
create incentives that make responsible measurement the default, not the exception.
Sources
https://www.theverge.com/report/874176/meta-zuckerberg-new-mexico-email-teen-girls-research
https://www.theverge.com/2023/12/6/23990445/facebook-instagram-meta-lawsuit-child-predators-new-mexico
https://www.missingkids.org/gethelpnow/cybertipline/cybertiplinedata
https://about.fb.com/news/2024/01/our-work-to-help-provide-young-people-with-safe-positive-experiences/
←
Previous Post
→ Why is the FTC appealing its Meta antitrust loss — and what the appeal is really about
Copyright © 2026 Rill.blog
oEmbed (JSON)
oEmbed (XML)
JSON
View all posts by Abdul Jabbar
Why is the FTC appealing its Meta antitrust loss — and what the appeal is really about
An unsealed Meta email shows how lawsuits and leaks can turn internal safety research into a liability — creating incentives to measure less.
Document Title
Page not found - Rill.blog
Image Alt
Rill.blog
Title Attribute
Rill.blog » Feed
RSD
Skip to content
Placeholder Attribute
Search...
Email address
Page Content
Page not found - Rill.blog
Skip to content
Home
Read Now
Urdu Novels
Mukhtasar Kahanian
Urdu Columns
Main Menu
This page doesn't seem to exist.
It looks like the link pointing here was faulty. Maybe try searching?
Search for:
Search
Get all the latest news and info sent to your inbox.
Please enable JavaScript in your browser to complete this form.
Email
*
Subscribe
Categories
Copyright © 2025 Rill.blog
English
العربية
Čeština
Dansk
Nederlands
Eesti
Suomi
Français
Deutsch
Ελληνικά
Magyar
Bahasa Indonesia
Italiano
日本語
한국어
Latviešu valoda
Lietuvių kalba
Norsk bokmål
Polski
Português
Română
Русский
Slovenčina
Slovenščina
Español
Svenska
ไทย
Türkçe
Українська
Tiếng Việt
Notifications
Rill.blog
Rill.blog » Feed
RSD
Search...
Email address
t Italiano