Zuckerbergs oförseglade mejl väcker en obekväm fråga: borde plattformar studera sina skador mindre?

/Allmän/ Av

Ett av de märkliga incitamenten i modern teknikpolitik ärforskningsparadoxenDe företag som gör mest internt arbete för att mäta skador kan i slutändan framstå som de värsta aktörerna, helt enkelt för att de har mest data – och för att den informationen kan läcka, bli stämd eller avslöjas i domstol.

Den paradoxen står i centrum för ett nyligen avtäckt internt Meta-mejl, rapporterat avThe Verge, där Mark Zuckerberg föreslår att företaget överväger att ändra sin strategi för "forskning och analys kring sociala frågor" efter att mediebevakningen av interna resultat (särskilt kring tonåringars välbefinnande på Instagram) exploderade 2021.

Det här är inte bara en inblick i PR-hantering från basebollscenen. Det är ett fönster in i hur sociala plattformar tänker kring ansvarsskyldighet – och hur hotet om rättstvister och läckor kan forma vad som mäts, vad som publiceras och vad som aldrig efterfrågas.

Nedan följer en praktisk förklaring av vad mejlet sa, varför det är viktigt och hur en hälsosammare incitamentsstruktur skulle kunna se ut.

Vad det oförseglade mejlet faktiskt avslöjade

Enligt rapporteringen skrev Zuckerberg till högre chefer den 15 september 2021 – dagen efter att en artikel i Wall Street Journal baserad på interna dokument (senare kopplad till visselblåsaren Frances Haugen) lyfte fram Metas egen forskning om tonårsflickor och Instagram.

Den viktigaste poängen var inte ”Meta gjorde research”. Många stora plattformar har forskarteam. Det slående är att VD:n uttryckligen kopplade ihoputföra proaktiv forskning om sociala frågormedskapar skulder och ryktesriskernär resultaten blir offentliga.

E-postmeddelandets inramning är i huvudsak:

  • Vi studerar känsliga frågor (tonåringars säkerhet, psykisk hälsa, barnexploatering, desinformation etc.).
  • När våra resultat läcker ut eller rapporteras ut kan den offentliga berättelsen bli: ”Ni visste, och ni fixade det inte.”
  • Vissa jämförbara företag verkar göra detmindreproaktiv forskning – och därmed skapa färre dokument som kan användas mot dem.

Det är en obekväm men verklig styrningsfråga: om ”mäta och dokumentera problemet” ökar driftskostnaden finns det ett inbyggt incitament att mäta mindre.

Forskningsparadoxen: när transparens blir en konkurrensnackdel

I en värld där plattformar granskas av tillsynsmyndigheter, journalister och domstolar kan man föreställa sig två breda strategier:

  1. Studier skadar djuptoch bygga interna dashboards, experiment och obduktioner.
  2. Studier skadar minimalt, fokusera på snäva efterlevnadskrav och undvika att producera "dåligt klingande" dokument.

Om nackdelen med strategi (1) är att den skapar synbart material – e-postmeddelanden, bildspel, uppläsningar av experiment – ​​så kan en rationell företagsaktör glida mot strategi (2), även om strategi (1) är bättre för användarna.

Det är inte ett försvar för att göra mindre forskning. Det är en förklaring av incitamentet.

Den politiska utmaningen är att utforma ett system där "gör det ansvarsfulla" tillvägagångssättet (att studera skador och agera utifrån resultat) inte blir självbestraffande.

Varför Metas e-post dyker upp nu: stämningar och bevisupptagningar

Mejlet öppnades efter att ha samlats in som bevis av New Mexicos justitiekanslers kontor i ett fall där Meta påstods bedrägligt positionera Facebook och Instagram som säkra för tonåringar, samtidigt som de var medvetna om skadliga designval.

Det fallet ligger parallellt med en bredare våg av rättstvister och lagstiftningstryck inriktade på barnsäkerhet, ungdomars psykiska hälsa och produktansvarsteorier för sociala plattformar. Oavsett hur ett enskilt fall slutar är processen viktig: upptäckten förvandlar intern debatt till offentliga bevis.

Det har två andra ordningens effekter:

  • Det formar framtidens interna skrivande.Chefer blir försiktiga inte bara med vad de gör, utan också hur de beskriver det.
  • Det formar framtida forskning.Om en studie sannolikt kommer att generera politiskt explosiva diagram, kommer någon att fråga sig om det överhuvudtaget är värt att göra.

”Apple verkar inte studera något av det här”: vad är argumentet här?

Mejlet ska enligt uppgift göra en jämförelse med Apple, vilket antyder att Apple ”inte verkar studera” dessa frågor på samma sätt och därför undviker mycket av kritiken.

Även om den jämförelsen är ofullständig (Apple publicerar material om säkerhet och integritet, och det granskas noggrant inom andra områden), handlar den underliggande poängen omproduktkategori och riskyta:

  • Sociala plattformar är värd för enorma mängder användargenererat innehåll, inklusive kränkande innehåll.
  • Meddelandeprodukter (särskilt end-to-end-krypterade) begränsar strukturellt vad leverantören kan inspektera.
  • Enhetsplattformar kan pressa ansvaret nedåt ("detta är vad användare gör på sina enheter") medan sociala flöden ligger närmare redaktionell förstärkning.

Så frågan "varför får de mindre värme?" har en icke-trivial teknisk komponent.

Barnsäkerhetsperspektivet: rapporteringsvolymen kan se ut som skuld

Ett argument i rapporteringen är att Meta pekar på det faktum att de rapporterar mycket material med sexuella övergrepp mot barn till National Center for Missing and Exploited Children (NCMEC) – och att den höga rapporteringsvolymen kan tolkas som att "det finns mer övergrepp på Meta", även när en del av anledningen ärmer upptäckt och rapportering.

NCMEC:s egna offentliga data hjälper till att illustrera komplexiteten i den tolkningen. NCMEC noterar till exempel att de år 2024 mottog 20,5 miljoner rapporter (29,2 miljoner incidenter när de justerats), och de beskriver också förändringar som rapport-"bundling" som kan minska råantalet utan att antyda mindre underliggande missbruk.

Räkningar ensamma är ett trubbigt verktyg. Det som spelar roll ärpriser,detektionstäckningochnedströms resultat:

  • Hur snabbt tas konton ner?
  • Identifieras förövarna och hänvisas till polisen?
  • Hur ofta skyddas minderåriga proaktivt (t.ex. genom att begränsa kontaktfunktioner, begränsa räckvidden för vuxna)?
  • Hur avvägs falska positiva och falska negativa resultat?

När den offentliga debatten enbart fokuserar på "vem som har det största antalet" kan företag drivas mot underrapportering eller undermätning.

Varför det skulle vara dåligt att göra mindre forskning – även för Meta

Om man tar mejlets oro för ordet är ”lösningen” att studera mindre förförisk: färre studier, färre bilder, färre kallelser.

Men det är också självdestruktivt.

1) Du kan inte förbättra det du inte mäter

Många säkerhetsproblem på plattformar är systemproblem – skapade av rankning, rekommendationer, kontaktmekanismer och tillväxtslingor relaterade till missbruk. Dessa åtgärdas inte med en enda policy. De kräver mätning.

Utan intern forskning och analys blir företagets "säkerhetsställning":

  • reaktiv (reagera på skandaler)
  • anekdotisk (lita på vad de mest högljudda klagomålen säger)
  • ej granskningsbar (inga baslinjer, ingen utvärdering)

2) Tillsynsmyndigheterna kommer att kräva bevis ändå

Även om ett företag försöker undvika känslig forskning kan tillsynsmyndigheter fortfarande kräva transparensrapporter, riskbedömningar och granskningsbarhet. Med andra ord: om du inte genererar bevisen frivilligt kan någon annan tvinga dig att generera dem – och nu måste du göra det under press.

3) Du förlorar förmågan att skiljaavvägningarfrånoaktsamhet

Ett viktigt tema i mejlet är att inte alla rekommendationer är rimliga att genomföra eftersom allt har avvägningar.

Det är sant. Men det enda trovärdiga sättet att argumentera för ”vi övervägde X och valde Y eftersom…” är att visa ditt arbete. Annars kan det se ut som handviftning.

Det är forskning som förvandlar ”lita på oss” till ”här är modellen, experimentet, det uppmätta resultatet och beslutsmemoet”.

Det djupare problemet: rättstvister förvandlar intern uppriktighet till en belastning

En hälsosam organisation vill ha uppriktighet: ”Den här funktionen kan vara skadlig”, ”Denna kohort är i riskzonen”, ”Det här måttet ser dåligt ut”, ”Vi måste ändra rankningen”.

Men rättstvister och läckagedynamik kan bestraffa uppriktighet på två sätt:

  • Urvalseffekt:Chefer slutar skriva ner känsliga tankar.
  • Kulturell effekt:Team undviker frågor som kan ge "dåliga" svar.

Båda effekterna försämrar plattformen.

Och detta är inte unikt för Meta – det är ett generellt problem för alla företag som verkar i skärningspunkten mellan konsumentteknik och allmän säkerhet.

Hur skulle bättre incitament se ut?

Om samhället vill ha plattformar för att mäta och minska skador måste det göra den vägen överlevbar.

Några praktiska idéer som dyker upp gång på gång i policykretsar:

1) Säkra hamnar för intern säkerhetsforskning i god tro

Tänk dig ett ramverk där företag får ett begränsat skydd när de genomför dokumenterad forskning i god tro om skador och vidtar meningsfulla åtgärder baserat på resultat – i likhet med hur vissa säkerhetskritiska branscher hanterar incidenter.

Detta innebär inte immunitet för felaktigheter. Det innebär att minska incitamentet attförbli okunnig med flit.

2) Standardiserad, granskad rapportering (så att jämförelserna blir rättvisa)

Om varje plattform rapporterar säkerhetsmått med olika definitioner blir råa siffror beväpnade.

Standarddefinitioner, tredjepartsrevisioner och tydligare nämnare (frekvens per användare, frekvens per meddelande, frekvens per visning) skulle göra "vi rapporterade mer" mindre av en PR-fälla.

3) Separation mellan säkerhetsforskning och incitament för produkttillväxt

När säkerhetsforskning sitter inom samma befälsordning som tillväxtmål kan det bli politiskt obekvämt.

Strukturell separation – även om det inte är helt oberoende – kan bidra till att säkerhetsfrågor fortsätter att ställas.

4) Bättre allmänhetens kunskap om vad mätvärden betyder

Det offentliga samtalet behandlar ofta intern forskning som en bekännelse.

Ibland är det så. Men ibland är det tvärtom: ett tecken på att företaget letar.

En mer mogen läskunnighet skulle fråga:

  • Mättes skadan på ett ansvarsfullt sätt?
  • Delades resultaten med lämplig tillsyn?
  • Vilka mildrande åtgärder testades?
  • Vad förändrades som ett resultat av detta?

Vad man ska titta på härnäst

E-postmeddelandet är en enda artefakt. Den större berättelsen handlar om spänningen mellan tre krafter:

  • Genomskinlighet:Vi vill veta vad plattformar vet.
  • Ansvarighet:Vi vill ha konsekvenser när skadan ignoreras.
  • Lärandesystem:Vi behöver plattformar för att fortsätta mäta och förbättra oss.

När dessa krafter är feljusterade kan jämviktsresultatet bli perverst: mindre mätning, mindre uppriktighet och långsammare förbättringar – även om allmänhetens ilska ökar.

Den bästa versionen av internet är inte en där plattformar döljer sin egen forskning. Det är en där intern forskning är rutinmässig, granskas och används för att driva produktförändringar – och där det rättsliga och politiska systemet kan skilja mellan "vi studerade skadan och förbättrade" och "vi studerade skadan och gjorde medvetet ingenting".

Slutsats

Det oförseglade Zuckerberg-mejlet spelar mindre roll som en "gotcha" och mer som en ledtråd om incitament.

Om seriös intern säkerhets- och socialforskning på ett tillförlitligt sätt leder till anseende- och juridisk exponering, kommer företag att göra mindre av det – och allmänheten kommer att fåmindreinsyn i verkliga risker.

Det politiska målet bör inte vara att skämma ut plattformar för att ha forskning. Det bör vara att kräva mätbara förbättringar.ochskapa incitament som gör ansvarsfull mätning till standard, inte undantaget.

Källor

Få alla de senaste nyheterna och informationen skickade till din inkorg.

Document Title
Zuckerberg’s unsealed email raises an uncomfortable question: should platforms study their harms less?
An unsealed Meta email shows how lawsuits and leaks can turn internal safety research into a liability — creating incentives to measure less.
Title Attribute
oEmbed (JSON)
oEmbed (XML)
JSON
View all posts by Abdul Jabbar
Why is the FTC appealing its Meta antitrust loss — and what the appeal is really about
Page Content
Zuckerberg’s unsealed email raises an uncomfortable question: should platforms study their harms less?
Blog
/
General
/ By
Abdul Jabbar
One of the stranger incentives in modern tech policy is the
research paradox
: the companies that do the most internal work to measure harms can end up looking like the worst actors, simply because they have the most data — and because that data can leak, be subpoenaed, or be unsealed in court.
That paradox is at the center of a newly unsealed internal Meta email, reported by
The Verge
, in which Mark Zuckerberg suggests the company consider changing its approach to “research and analytics around social issues” after media coverage of internal findings (notably around teen wellbeing on Instagram) blew up in 2021.
This isn’t just an inside-baseball story about PR management. It’s a window into how social platforms think about accountability — and how the threat of litigation and leaks can shape what gets measured, what gets published, and what never gets asked.
Below is a practical explainer of what the email said, why it matters, and what a healthier incentive structure might look like.
What the unsealed email actually revealed
According to the reporting, Zuckerberg wrote to senior executives on September 15, 2021 — a day after a Wall Street Journal story based on internal documents (later tied to whistleblower Frances Haugen) highlighted Meta’s own research about teen girls and Instagram.
The key point wasn’t “Meta did research.” Many large platforms have research teams. The striking part is that the CEO explicitly connected
doing proactive social-issues research
with
creating liabilities and reputational risks
when findings become public.
The email’s framing is essentially:
We study sensitive issues (teen safety, mental health, child exploitation, misinformation, etc.).
When our findings leak or are reported out, the public narrative can turn into: “You knew, and you didn’t fix it.”
Some peer companies appear to do
less
proactive research — and therefore create fewer documents that can be used against them.
That’s an uncomfortable but real governance issue: if “measure and document the problem” increases the cost of operating, there’s a built-in incentive to measure less.
The research paradox: when transparency becomes a competitive disadvantage
In a world where platforms are scrutinized by regulators, journalists, and courts, you can imagine two broad strategies:
Study harms deeply
and build internal dashboards, experiments, and postmortems.
Study harms minimally
, focus on narrow compliance requirements, and avoid producing “bad-sounding” documents.
If the downside of strategy (1) is that it creates discoverable material — emails, slide decks, experiment readouts — then a rational corporate actor may drift toward strategy (2), even if strategy (1) is better for users.
That is not a defense of doing less research. It’s an explanation of the incentive.
The policy challenge is to design a system where the “do the responsible thing” approach (studying harms and acting on findings) does not become self-punishing.
Why Meta’s email is surfacing now: lawsuits and discovery
The email was unsealed after being collected in discovery by the New Mexico Attorney General’s office in a case alleging Meta deceptively positioned Facebook and Instagram as safe for teens while being aware of harmful design choices.
That case sits alongside a broader wave of litigation and legislative pressure focused on child safety, youth mental health, and product liability theories for social platforms. Regardless of how any single case turns out, the process matters: discovery turns internal debate into public evidence.
That has two second-order effects:
It shapes future internal writing.
Executives become cautious not only about what they do, but how they describe it.
It shapes future research.
If a study is likely to generate politically explosive charts, someone will ask whether it’s worth doing at all.
“Apple doesn’t seem to study any of this stuff”: what’s the argument here?
The email reportedly draws a comparison to Apple, suggesting Apple “doesn’t seem to study” these issues in the same way and therefore avoids a lot of the criticism.
Even if that comparison is incomplete (Apple does publish security and privacy material, and it faces intense scrutiny in other domains), the underlying point is about
product category and risk surface
:
Social platforms host massive volumes of user-generated content, including abusive content.
Messaging products (especially end-to-end encrypted ones) structurally limit what the provider can inspect.
Device platforms can push responsibility downward (“this is what users do on their devices”) while social feeds sit closer to editorial-like amplification.
So the “why do they get less heat?” question has a nontrivial technical component.
The child safety lens: reporting volume can look like guilt
One line of argument in the reporting is that Meta points to the fact that it reports a lot of child sexual abuse material (CSAM) to the National Center for Missing and Exploited Children (NCMEC) — and that high reporting volume can be interpreted as meaning “there’s more abuse on Meta,” even when part of the reason is
more detection and reporting
.
NCMEC’s own public data helps illustrate the complexity of that interpretation. For example, NCMEC notes that in 2024 it received 20.5 million reports (29.2 million incidents when adjusted), and it also describes changes like report “bundling” that can reduce raw counts without implying less underlying abuse.
Counts alone are a blunt tool. What matters is
rates
,
detection coverage
, and
downstream outcomes
How quickly are accounts taken down?
Are perpetrators identified and referred to law enforcement?
How often are minors proactively protected (e.g., restricting contact features, limiting adult reach)?
How do false positives and false negatives trade off?
When the public debate focuses only on “who has the biggest number,” companies can be pushed toward under-reporting or under-measuring.
Why doing less research would be bad — even for Meta
If you take the email’s concern at face value, the “solution” of studying less is seductive: fewer studies, fewer slides, fewer subpoenas.
But it’s also self-defeating.
1) You can’t improve what you don’t measure
Many platform safety problems are systems problems — created by ranking, recommendations, contact mechanics, and abuse-adjacent growth loops. Those aren’t fixed with a single policy statement. They require measurement.
Without internal research and analytics, the company’s “safety posture” becomes:
reactive (respond to scandals)
anecdotal (trust what the loudest complaints say)
non-auditable (no baselines, no evaluation)
2) Regulators will demand evidence anyway
Even if a company tries to avoid sensitive research, regulators can still require transparency reports, risk assessments, and auditability. In other words: if you don’t generate the evidence voluntarily, someone else may force you to generate it — and now you have to do it under pressure.
3) You lose the ability to distinguish
tradeoffs
from
negligence
A major theme in the email is that not all recommendations are reasonable to implement because everything has tradeoffs.
That’s true. But the only credible way to argue “we considered X and chose Y because…” is to show your work. Otherwise, it can look like hand-waving.
Research is what turns “trust us” into “here’s the model, the experiment, the measured outcome, and the decision memo.”
The deeper issue: litigation turns internal candor into a liability
A healthy organization wants candor: “This feature might be harmful,” “This cohort is at risk,” “This metric looks bad,” “We need to change ranking.”
But litigation and leak dynamics can punish candor in two ways:
Selection effect:
executives stop putting sensitive thoughts in writing.
Cultural effect:
teams avoid questions that might produce “bad” answers.
Both effects make the platform worse.
And this isn’t unique to Meta — it’s a general problem for any company operating at the intersection of consumer tech and public safety.
What would better incentives look like?
If society wants platforms to measure and reduce harms, it needs to make that path survivable.
A few practical ideas that show up repeatedly in policy circles:
1) Safe harbors for good-faith internal safety research
Imagine a framework where companies get a limited protection when they conduct documented, good-faith research into harms and take meaningful steps based on findings — similar in spirit to how some safety-critical industries handle incident reporting.
This doesn’t mean immunity for wrongdoing. It means reducing the incentive to
stay ignorant on purpose
2) Standardized, audited reporting (so comparisons are fair)
If every platform reports safety metrics using different definitions, raw numbers become weaponized.
Standard definitions, third-party audits, and clearer denominators (rates per user, rates per message, rates per view) would make “we reported more” less of a PR trap.
3) Separation between safety research and product growth incentives
When safety research sits inside the same chain of command as growth targets, it can become politically inconvenient.
Structural separation — even if not full independence — can help ensure safety questions keep getting asked.
4) Better public literacy about what metrics mean
The public conversation often treats internal research like a confession.
Sometimes it is. But sometimes it’s the opposite: a sign the company is looking.
A more mature literacy would ask:
Was the harm measured responsibly?
Were the findings shared with appropriate oversight?
What mitigations were tested?
What changed as a result?
What to watch next
The email is one artifact. The broader story is the tension between three forces:
Transparency:
we want to know what platforms know.
Accountability:
we want consequences when harms are ignored.
Learning systems:
we need platforms to keep measuring and improving.
When those forces are misaligned, the equilibrium outcome can be perverse: less measurement, less candor, and slower improvement — even while public anger increases.
The best version of the internet is not one where platforms hide their own research. It’s one where internal research is routine, audited, and used to drive product changes — and where the legal and political system can distinguish between “we studied the harm and improved” and “we studied the harm and deliberately did nothing.”
Bottom line
The unsealed Zuckerberg email matters less as a “gotcha” and more as a clue about incentives.
If doing serious internal safety and social-issues research reliably turns into reputational and legal exposure, companies will do less of it — and the public will get
visibility into real risks.
The policy goal shouldn’t be to shame platforms for having research. It should be to demand measurable improvements
and
create incentives that make responsible measurement the default, not the exception.
Sources
https://www.theverge.com/report/874176/meta-zuckerberg-new-mexico-email-teen-girls-research
https://www.theverge.com/2023/12/6/23990445/facebook-instagram-meta-lawsuit-child-predators-new-mexico
https://www.missingkids.org/gethelpnow/cybertipline/cybertiplinedata
https://about.fb.com/news/2024/01/our-work-to-help-provide-young-people-with-safe-positive-experiences/
←
Previous Post
→ Why is the FTC appealing its Meta antitrust loss — and what the appeal is really about
Copyright © 2026 Rill.blog
oEmbed (JSON)
oEmbed (XML)
JSON
View all posts by Abdul Jabbar
Why is the FTC appealing its Meta antitrust loss — and what the appeal is really about
An unsealed Meta email shows how lawsuits and leaks can turn internal safety research into a liability — creating incentives to measure less.
Document Title
Page not found - Rill.blog
Image Alt
Rill.blog
Title Attribute
Rill.blog » Feed
RSD
Skip to content
Placeholder Attribute
Search...
Email address
Page Content
Page not found - Rill.blog
Skip to content
Home
Read Now
Urdu Novels
Mukhtasar Kahanian
Urdu Columns
Main Menu
This page doesn't seem to exist.
It looks like the link pointing here was faulty. Maybe try searching?
Search for:
Search
Get all the latest news and info sent to your inbox.
Please enable JavaScript in your browser to complete this form.
Email
*
Subscribe
Categories
Copyright © 2025 Rill.blog
English
العربية
Čeština
Dansk
Nederlands
Eesti
Suomi
Français
Deutsch
Ελληνικά
Magyar
Bahasa Indonesia
Italiano
日本語
한국어
Latviešu valoda
Lietuvių kalba
Norsk bokmål
Polski
Português
Română
Русский
Slovenčina
Slovenščina
Español
Svenska
ไทย
Türkçe
Українська
Tiếng Việt
Notifications
Rill.blog
Rill.blog » Feed
RSD
Search...
Email address
v Svenska