Üks kummalisemaid stiimuleid tänapäeva tehnoloogiapoliitikas onuurimisparadoksEttevõtted, kes teevad kahjude mõõtmiseks kõige rohkem sisemist tööd, võivad lõpuks tunduda kõige halvemate tegijatena lihtsalt seetõttu, et neil on kõige rohkem andmeid – ja kuna need andmed võivad lekkida, kohtukutse saada või kohtus avalikustada.
See paradoks on äsja avalikustatud Meta sisemise e-kirja keskmes, millest teatasÄärel, milles Mark Zuckerberg soovitab ettevõttel kaaluda oma lähenemisviisi muutmist „sotsiaalsete probleemide uurimisele ja analüüsile“ pärast seda, kui meediakajastus ettevõttesiseste leidude (eriti teismeliste heaolu kohta Instagramis) kohta 2021. aastal plahvatuslikult kasvas.
See pole pelgalt avalike suhete juhtimisega seotud lugu. See on aken sellesse, kuidas sotsiaalmeedia platvormid suhtuvad vastutusse – ja kuidas kohtuvaidluste ja lekete oht võib kujundada seda, mida mõõdetakse, mida avaldatakse ja mida kunagi ei küsita.
Allpool on praktiline selgitus selle kohta, mida e-kirjas öeldi, miks see on oluline ja milline võiks olla tervislikum stiimulite struktuur.
Mida avalikustatud e-kiri tegelikult paljastas
Aruande kohaselt kirjutas Zuckerberg tippjuhtidele 15. septembril 2021 – päev pärast seda, kui Wall Street Journali sisedokumentidel põhinev lugu (hiljem seostati vilepuhuja Frances Haugeniga) tõi esile Meta enda uuringu teismeliste tüdrukute ja Instagrami kohta.
Põhipunkt ei olnud see, et „Meta tegi uuringuid”. Paljudel suurtel platvormidel on uurimisrühmad. Silmatorkav on see, et tegevjuht oli otseselt seotudennetava sotsiaalsete probleemide uurimise tegeminekooskohustuste ja maineriskide tekitaminekui leiud avalikuks tulevad.
E-kirja ülesehitus on sisuliselt järgmine:
- Uurime tundlikke teemasid (teismeliste turvalisus, vaimne tervis, laste ärakasutamine, väärinfo jne).
- Kui meie leiud lekivad või avalikuks tulevad, võib avalik narratiiv muutuda selliseks: „Sa teadsid ja ei parandanud seda.“
- Mõned konkurendid näivad tegevatvähemennetavat uurimistööd – ja seetõttu luuakse vähem dokumente, mida saab nende vastu kasutada.
See on ebamugav, aga reaalne juhtimisprobleem: kui „probleemi mõõtmine ja dokumenteerimine” suurendab tegevuskulusid, on olemas sisseehitatud stiimul vähem mõõta.
Uurimistöö paradoks: kui läbipaistvusest saab konkurentsieelis
Maailmas, kus platvorme uurivad regulaatorid, ajakirjanikud ja kohtud, võite ette kujutada kahte üldist strateegiat:
- Õppimine teeb sügavat kahjuja luua sisemisi armatuurlaudu, katseid ja järelanalüüse.
- Uuring kahjustab minimaalselt, keskenduge kitsastele vastavusnõuetele ja vältige „halvasti kõlavate” dokumentide tootmist.
Kui strateegia (1) negatiivne külg on see, et see loob leitavat materjali – e-kirju, slaidiesitlusi, katsete ettelugemisi –, siis võib ratsionaalne ettevõtte tegutseja kalduda strateegia (2) poole, isegi kui strateegia (1) on kasutajatele parem.
See ei ole vähema uurimistöö tegemise kaitse. See on stiimuli selgitus.
Poliitiline väljakutse seisneb süsteemi kujundamises, kus „tehke vastutustundlik asi” lähenemisviis (kahjude uurimine ja tulemustele reageerimine) ei muutuks ennast karistavaks.
Miks Meta e-kiri nüüd pinnale jõuab: kohtuasjad ja avastamine
E-kiri avati pärast seda, kui New Mexico osariigi peaprokuröri büroo selle avastas kohtuasjas, milles väideti, et Meta positsioneeris Facebooki ja Instagrami petlikult teismeliste jaoks turvalistena, olles samal ajal teadlik kahjulikest disainivalikutest.
See juhtum asetseb paralleelselt laiema kohtuvaidluste ja seadusandliku surve lainega, mis keskendub laste turvalisusele, noorte vaimsele tervisele ja tootevastutuse teooriatele sotsiaalmeedia platvormidel. Olenemata sellest, kuidas üksik juhtum lõpeb, on protsess oluline: avastused muudavad sisemise arutelu avalikuks tõendiks.
Sellel on kaks teist järku efekti:
- See kujundab tulevast sisemist kirjutamist.Juhid muutuvad ettevaatlikuks mitte ainult selle suhtes, mida nad teevad, vaid ka selle suhtes, kuidas nad seda kirjeldavad.
- See kujundab tulevasi uuringuid.Kui uuring tõenäoliselt loob poliitiliselt plahvatusohtlikke diagramme, küsib keegi, kas seda üldse tasub teha.
„Apple ei paista seda kraami uurivat”: mis on siin argument?
Väidetavalt tehakse e-kirjas võrdlus Apple'iga, mis viitab sellele, et Apple "ei paista neid probleeme samamoodi uurivat" ja seetõttu väldib ta suurt osa kriitikast.
Isegi kui see võrdlus on mittetäielik (Apple avaldab turvalisuse ja privaatsuse kohta käivat materjali ning seisab silmitsi intensiivse kontrolliga teistes valdkondades), on põhipunkt järgminetootekategooria ja riskipind:
- Sotsiaalplatvormid majutavad tohutul hulgal kasutajate loodud sisu, sealhulgas solvavat sisu.
- Sõnumsidetooted (eriti otsast lõpuni krüpteeritud) piiravad struktuurilt seda, mida teenusepakkuja saab kontrollida.
- Seadmeplatvormid võivad vastutust allapoole lükata („seda teevad kasutajad oma seadmetes“), samas kui sotsiaalmeediakanalid on pigem toimetuse sarnase võimendusega.
Seega on küsimusel „miks nad saavad vähem soojust?“ mittetriviaalne tehniline komponent.
Lapse turvalisuse lääts: helitugevuse teatamine võib tunduda süütundena
Üks argumendiliin aruandes on see, et Meta viitab asjaolule, et nad teatavad palju laste seksuaalse väärkohtlemisega seotud materjalist (CSAM) riiklikule kadunud ja ärakasutatud laste keskusele (NCMEC) – ja et suurt aruandlusmahtu võib tõlgendada nii, et „Metas on rohkem väärkohtlemist”, isegi kui üks põhjus onrohkem tuvastamist ja aruandlust.
NCMECi enda avalikud andmed aitavad illustreerida selle tõlgenduse keerukust. Näiteks märgib NCMEC, et 2024. aastal sai ta 20,5 miljonit teadet (kohandatud andmetega 29,2 miljonit juhtumit) ja kirjeldab ka selliseid muudatusi nagu teadete „koondamine“, mis võivad vähendada algandmete hulka, ilma et see viitaks vähemale varjatud kuritarvitusele.
Loendused üksi on nüri tööriist. Oluline on see,määrad,avastamise ulatusjaallavoolu tulemused:
- Kui kiiresti kontosid suletakse?
- Kas süüdlased on tuvastatud ja edastatud õiguskaitseorganitele?
- Kui tihti alaealisi ennetavalt kaitstakse (nt kontaktfunktsioonide piiramine, täiskasvanute juurdepääsu piiramine)?
- Kuidas valepositiivsed ja valenegatiivsed tulemused omavahel kompenseerivad?
Kui avalik debatt keskendub ainult sellele, „kellel on suurim number“, võidakse ettevõtteid suunata alaesindamise või alahindamise poole.
Miks vähem uurimistööd teha oleks halb – isegi Meta jaoks
Kui võtta e-kirjas esitatud muret nimiväärtusega, on vähem õppimise „lahendus” ahvatlev: vähem uuringuid, vähem slaide, vähem kohtukutseid.
Aga see on ka ennasthävitav.
1) Sa ei saa paremaks muuta seda, mida sa ei mõõda
Paljud platvormi turvaprobleemid on süsteemiprobleemid – need on tekkinud edetabeli, soovituste, kontaktmehaanika ja kuritarvitamisega seotud kasvutsüklite poolt. Neid ei saa lahendada ühe poliitikaavaldusega. Need vajavad mõõtmist.
Ilma sisemise uurimistöö ja analüüsita muutub ettevõtte „ohutuspositsioon“ järgmiselt:
- reaktiivne (reageerima skandaalidele)
- anekdootlik (uskuge seda, mida kõige valjemad kaebused ütlevad)
- mitteauditeeritav (puuduvad lähtetasemed, puudub hindamine)
2) Reguleerivad asutused nõuavad niikuinii tõendeid
Isegi kui ettevõte püüab tundlikke uuringuid vältida, saavad regulaatorid siiski nõuda läbipaistvusaruandeid, riskianalüüse ja auditeeritavust. Teisisõnu: kui te ei kogu tõendeid vabatahtlikult, võib keegi teine teid sundida neid koguma – ja nüüd peate seda tegema surve all.
3) Sa kaotad võime eristadakompromissidalateshooletus
E-kirja peamine teema on see, et mitte kõiki soovitusi pole mõistlik rakendada, sest igal asjal on omad kompromissid.
See on tõsi. Aga ainus usutav viis väita, et „me kaalusime X-i ja valisime Y-i, sest…“, on näidata oma tööd. Vastasel juhul võib see välja näha kätega vehkimisena.
Uuringud on see, mis muudab „usalda meid“ põhimõtteks „siin on mudel, eksperiment, mõõdetud tulemus ja otsuse memo“.
Sügavam probleem: kohtuvaidlus muudab sisemise avameelsuse kohustuseks
Heas vormis organisatsioon soovib avameelsust: „See funktsioon võib olla kahjulik“, „See rühm on ohus“, „See mõõdik näeb halb välja“, „Peame edetabelit muutma“.
Kuid kohtuvaidlused ja lekete dünaamika võivad karistada avameelsust kahel viisil:
- Valiku mõju:juhid lõpetavad tundlike mõtete kirjapanemise.
- Kultuuriline mõju:Meeskonnad väldivad küsimusi, mis võivad anda „halbu“ vastuseid.
Mõlemad mõjud muudavad platvormi halvemaks.
Ja see pole Metale ainuomane – see on üldine probleem igale ettevõttele, mis tegutseb tarbetehnoloogia ja avaliku julgeoleku ristumiskohas.
Millised näeksid välja paremad stiimulid?
Kui ühiskond soovib platvorme kahjude mõõtmiseks ja vähendamiseks, peab see tee olema läbitav.
Mõned praktilised ideed, mis poliitilistes ringkondades korduvalt esile kerkivad:
1) Heausksete sisemiste ohutusalaste uuringute turvalised sadamad
Kujutage ette raamistikku, kus ettevõtted saavad piiratud kaitse, kui nad viivad läbi dokumenteeritud ja heauskset kahjude uurimist ning astuvad tulemuste põhjal olulisi samme – sarnaselt sellele, kuidas mõned ohutuse seisukohast kriitilised tööstusharud intsidentide aruandlusega tegelevad.
See ei tähenda süütegude eest puutumatust. See tähendab stiimuli vähendamist.jääda meelega teadmatusse.
2) Standardiseeritud ja auditeeritud aruandlus (nii et võrdlused on õiglased)
Kui iga platvorm esitab ohutusnäitajaid erinevate definitsioonide abil, muutuvad toornumbrid relvaks.
Standardmääratlused, kolmandate osapoolte auditid ja selgemad nimetajad (kasutaja kohta käivad määrad, sõnumi kohta käivad määrad, vaatamise kohta käivad määrad) muudaksid „me teatasime rohkem“ vähem PR-lõksuks.
3) Ohutusalaste uuringute ja tootearenduse stiimulite eraldamine
Kui ohutusalane uurimistöö toimub samas käsuliinis kui kasvueesmärgid, võib see muutuda poliitiliselt ebamugavaks.
Struktuuriline eraldatus – isegi kui mitte täielik iseseisvus – aitab tagada, et ohutusküsimusi esitatakse jätkuvalt.
4) Parem avalik kirjaoskus mõõdikute tähenduse kohta
Avalikkuses käsitletakse siseuuringuid sageli ülestunnistusena.
Vahel ongi. Aga vahel on vastupidi: märk, mida ettevõte otsib.
Küpsem kirjaoskus küsiks:
- Kas kahju mõõdeti vastutustundlikult?
- Kas leide jagati asjakohase järelevalve all?
- Milliseid leevendusmeetmeid testiti?
- Mis selle tulemusel muutus?
Mida järgmisena vaadata
E-kiri on üks artefakt. Laiem lugu on pinge kolme jõu vahel:
- Läbipaistvus:Me tahame teada, mida platvormid teavad.
- Vastutus:Me tahame tagajärgi, kui kahju eiratakse.
- Õppesüsteemid:Meil on vaja platvorme, et pidevalt mõõta ja täiustada.
Kui need jõud on tasakaalust väljas, võib tasakaalu tulemus olla perversne: vähem mõõtmist, vähem avameelsust ja aeglasem paranemine – isegi kui avalik viha kasvab.
Interneti parim versioon ei ole selline, kus platvormid varjavad omaenda uuringuid. See on selline, kus sisemine uuring on rutiinne, auditeeritud ja seda kasutatakse tootemuudatuste tegemiseks – ning kus õigus- ja poliitiline süsteem suudab vahet teha „uurisime kahju ja parandasime“ ning „uurisime kahju ja ei teinud teadlikult midagi“.
Lõpptulemus
Zuckerbergi avatud e-kiri on vähem oluline kui „saind sain aru“ ja rohkem kui vihje stiimulite kohta.
Kui tõsine siseohutuse ja sotsiaalsete probleemide uurimine toob usaldusväärselt kaasa maine ja õigusliku paljastamise, teevad ettevõtted seda vähem – ja avalikkus saab...vähemnähtavust reaalsetele riskidele.
Poliitika eesmärk ei tohiks olla platvormide häbistamine uuringute tegemise pärast. See peaks olema mõõdetavate edusammude nõudmine.jaluua stiimuleid, mis muudavad vastutustundliku mõõtmise vaikimisi, mitte erandiks.
Allikad
- https://www.theverge.com/report/874176/meta-zuckerberg-new-mexico-email-teen-girls-research
- https://www.theverge.com/2023/12/6/23990445/facebook-instagram-meta-lawsuit-child-predators-new-mexico
- https://www.missingkids.org/gethelpnow/cybertipline/cybertiplinedata
- https://about.fb.com/news/2024/01/our-work-to-help-provide-young-people-with-safe-positive-experiences/