Viena iš keisčiausių šiuolaikinės technologijų politikos paskatų yratyrimų paradoksasĮmonės, kurios atlieka daugiausiai vidinio darbo žalai įvertinti, gali atrodyti kaip blogiausi veikėjai vien dėl to, kad jos turi daugiausia duomenų – ir dėl to, kad tie duomenys gali nutekėti, būti šaukiami į teismą arba būti atskleisti teisme.
Šis paradoksas yra naujai paviešinto vidinio „Meta“ el. laiško, apie kurį pranešė„The Verge“, kuriame Markas Zuckerbergas siūlo bendrovei apsvarstyti galimybę keisti savo požiūrį į „socialinių problemų tyrimus ir analizę“ po to, kai 2021 m. smarkiai išaugo žiniasklaidos dėmesys apie vidinius tyrimo rezultatus (ypač apie paauglių gerovę „Instagram“ tinkle).
Tai ne tik vidinė beisbolo istorija apie viešųjų ryšių valdymą. Tai langas į tai, kaip socialinės platformos mąsto apie atskaitomybę ir kaip teisminių ginčų bei informacijos nutekėjimo grėsmė gali nulemti, kas vertinama, kas skelbiama ir ko niekada neklausiama.
Žemiau pateikiamas praktinis el. laiško aiškinimas, kodėl tai svarbu ir kaip galėtų atrodyti sveikesnė skatinimo struktūra.
Ką iš tikrųjų atskleidė išslaptintas el. laiškas
Pranešime teigiama, kad Zuckerbergas parašė vyresniesiems vadovams 2021 m. rugsėjo 15 d. – dieną po to, kai „Wall Street Journal“ straipsnyje, paremtame vidiniais dokumentais (vėliau susietame su informatore Frances Haugen), buvo atkreiptas dėmesys į pačios „Meta“ tyrimą apie paaugles mergaites ir „Instagram“.
Svarbiausias dalykas nebuvo tas, kad „Meta“ atliko tyrimus. Daugelyje didelių platformų yra tyrimų komandos. Įspūdinga tai, kad generalinis direktorius aiškiai susiejoatliekant proaktyvius socialinių problemų tyrimussusukuriant įsipareigojimus ir reputacijos rizikąkai išvados tampa viešos.
El. laiško struktūra iš esmės yra tokia:
- Mes nagrinėjame opius klausimus (paauglių saugumas, psichinė sveikata, vaikų išnaudojimas, dezinformacija ir kt.).
- Kai mūsų išvados nuteka arba apie jas pranešama, viešas pasakojimas gali virsti: „Žinojote, bet neištaisėte.“
- Kai kurios panašios įmonės, regis, tai daromažiauproaktyvius tyrimus – ir todėl sukurti mažiau dokumentų, kuriuos būtų galima panaudoti prieš juos.
Tai nemaloni, bet reali valdymo problema: jei „problemos matavimas ir dokumentavimas“ padidina veiklos sąnaudas, atsiranda integruota paskata matuoti mažiau.
Tyrimo paradoksas: kai skaidrumas tampa konkurenciniu trūkumu
Pasaulyje, kuriame platformas tikrina reguliavimo institucijos, žurnalistai ir teismai, galite įsivaizduoti dvi plačias strategijas:
- Studijos daro didelę žaląir kurti vidines ataskaitų suvestines, eksperimentus ir atliekamus tyrimus po analizės.
- Tyrimai kenkia minimaliai, sutelkti dėmesį į siaurus atitikties reikalavimus ir vengti „blogai skambančių“ dokumentų rengimo.
Jei (1) strategijos trūkumas yra tas, kad ji sukuria lengvai atrandamą medžiagą – el. laiškus, skaidrių rinkinius, eksperimentų ataskaitas, – racionalus įmonės veikėjas gali rinktis (2) strategiją, net jei (1) strategija yra geresnė vartotojams.
Tai ne argumentas už mažiau tyrimų atlikimą. Tai paaiškinimas, kokia yra paskata.
Politinis iššūkis – sukurti sistemą, kurioje „elkitės atsakingai“ požiūris (žalos tyrimas ir veiksmų pagal išvadas atlikimas) netaptų savęs baudžiančiu.
Kodėl „Meta“ el. laiškas dabar pasirodo: ieškiniai ir įrodymai
El. laiškas buvo išslaptintas po to, kai jį aptiko Naujosios Meksikos generalinio prokuroro biuras byloje, kurioje teigiama, kad „Meta“ apgaulingai pozicionavo „Facebook“ ir „Instagram“ kaip saugius paaugliams, nors žinojo apie žalingus dizaino pasirinkimus.
Ši byla nagrinėjama greta platesnės bylinėjimosi ir įstatymų leidėjų spaudimo bangos, kurioje daugiausia dėmesio skiriama vaikų saugumui, jaunimo psichinei sveikatai ir socialinėms platformoms taikomoms produktų atsakomybės teorijoms. Nepriklausomai nuo to, kaip pasibaigs konkreti byla, procesas yra svarbus: informacijos atskleidimas paverčia vidinius debatus viešais įrodymais.
Tai turi du antros eilės efektus:
- Tai formuoja būsimą vidinį rašymą.Vadovai tampa atsargesni ne tik dėl to, ką daro, bet ir dėl to, kaip tai apibūdina.
- Tai formuoja būsimus tyrimus.Jei tyrimas gali sukurti politiškai sprogstamas diagramas, kažkas paklaus, ar apskritai verta jį daryti.
„Atrodo, kad „Apple“ nieko iš to nestudijuoja“: koks čia argumentas?
Pranešama, kad el. laiške pateikiamas palyginimas su „Apple“, leidžiant manyti, kad „Apple“, regis, netiria“ šių problemų tokiu pačiu būdu ir todėl išvengia daug kritikos.
Net jei šis palyginimas yra nepilnas („Apple“ skelbia saugumo ir privatumo medžiagą ir susiduria su intensyviu tikrinimu kitose srityse), esminis dalykas yra apieprodukto kategorija ir rizikos paviršius:
- Socialinėse platformose yra didžiulis kiekis vartotojų sukurto turinio, įskaitant įžeidžiantį turinį.
- Pranešimų siuntimo produktai (ypač tie, kurie yra užšifruoti nuo galo iki galo) struktūriškai riboja tai, ką paslaugų teikėjas gali patikrinti.
- Įrenginių platformos gali nustumti atsakomybę žemyn („tai yra tai, ką vartotojai daro savo įrenginiuose“), o socialiniai srautai labiau primena redakcinį sustiprinimą.
Taigi klausimas „kodėl jie gauna mažiau šilumos?“ turi ne trivialų techninį komponentą.
Vaiko saugumo prizmė: pranešimų apie garsumą kiekis gali atrodyti kaip kaltė
Vienas iš ataskaitos argumentų yra tas, kad „Meta“ nurodo faktą, jog Nacionaliniam dingusių ir išnaudojamų vaikų centrui (NCMEC) praneša daug vaikų seksualinės prievartos medžiagos (CSAM) – ir kad didelis pranešimų skaičius gali būti interpretuojamas kaip „Meta“ daugiau prievartos atvejų, net jei viena iš priežasčių yradaugiau aptikimo ir ataskaitų teikimo.
Pačios NCMEC vieši duomenys padeda iliustruoti šio aiškinimo sudėtingumą. Pavyzdžiui, NCMEC pažymi, kad 2024 m. ji gavo 20,5 mln. pranešimų (29,2 mln. incidentų, įvertinus duomenis), ir taip pat aprašo tokius pokyčius kaip pranešimų „grupavimas“, kurie gali sumažinti neapdorotų atvejų skaičių, nesumažindami pagrindinių piktnaudžiavimo atvejų.
Vien skaičiai yra bukas įrankis. Svarbu tai,tarifai,aptikimo aprėptisirtolesni rezultatai:
- Kaip greitai paskyros panaikinamos?
- Ar nusikaltėliai yra nustatyti ir perduoti teisėsaugos institucijoms?
- Kaip dažnai nepilnamečiai yra aktyviai saugomi (pvz., ribojant kontaktines funkcijas, ribojant suaugusiųjų pasiekiamumą)?
- Kaip kompensuojami klaidingai teigiami ir klaidingai neigiami rezultatai?
Kai viešose diskusijose daugiausia dėmesio skiriama tik tam, „kas turi didžiausią skaičių“, įmonės gali būti stumiamos į nepakankamą ataskaitų teikimą arba nepakankamą matavimą.
Kodėl mažiau tyrimų būtų blogai – net ir „Meta“ atveju
Jei el. laiške išreikštą susirūpinimą priimsite tiesiogiai, „sprendimas“ – mažiau mokytis – yra viliojantis: mažiau studijų, mažiau skaidrių, mažiau šaukimų į teismą.
Bet tai taip pat ir savęs žlugdymas.
1) Negalite patobulinti to, ko neišmatuojate
Daugelis platformos saugumo problemų yra sisteminės problemos, kurias sukelia reitingavimas, rekomendacijos, kontaktų mechanika ir piktnaudžiavimo gretimose augimo grandinėse. Jos neišsprendžiamos viena politikos ataskaita. Joms reikia matavimo.
Be vidinių tyrimų ir analizės, įmonės „saugos pozicija“ tampa:
- reaktyvus (reaguoti į skandalus)
- anekdotinis (pasitikėkite tuo, ką sako garsiausi skundai)
- neaudituotina (nėra bazinių rodiklių, nėra vertinimo)
2) Reguliavimo institucijos vis tiek pareikalaus įrodymų
Net jei įmonė stengiasi vengti neskelbtinų tyrimų, reguliavimo institucijos vis tiek gali reikalauti skaidrumo ataskaitų, rizikos vertinimų ir audituojamumo. Kitaip tariant: jei savanoriškai nesurinksite įrodymų, kažkas kitas gali jus priversti juos surinkti – ir dabar jūs turite tai daryti spaudžiami.
3) Prarandate gebėjimą atskirtikompromisaiišaplaidumas
Pagrindinė el. laiško tema yra ta, kad ne visas rekomendacijas galima pagrįstai įgyvendinti, nes kiekvienas dalykas turi kompromisų.
Tai tiesa. Tačiau vienintelis patikimas būdas argumentuoti „mes apsvarstėme X ir pasirinkome Y, nes...“ yra parodyti savo darbą. Priešingu atveju tai gali atrodyti kaip mojavimas ranka.
Tyrimai yra tai, kas „pasitikėkite mumis“ paverčia „štai modelis, eksperimentas, išmatuotas rezultatas ir sprendimo memorandumas“.
Gilesnė problema: bylinėjimasis vidinį atvirumą paverčia įsipareigojimu
Sveika organizacija nori atvirumo: „Ši funkcija gali būti žalinga“, „Šiai kohortai gresia pavojus“, „Šis rodiklis atrodo blogai“, „Turime pakeisti reitingą“.
Tačiau bylinėjimasis ir informacijos nutekėjimo dinamika gali nubausti atvirumą dviem būdais:
- Atrankos efektas:vadovai nustoja rašyti jautrias mintis.
- Kultūrinis poveikis:komandos vengia klausimų, į kuriuos gali būti atsakyta „blogai“.
Abu šie efektai pablogina platformą.
Ir tai nėra būdinga tik „Meta“ – tai bendra problema bet kuriai įmonei, veikiančiai vartotojų technologijų ir visuomenės saugumo sankirtoje.
Kaip atrodytų geresnės paskatos?
Jei visuomenė nori platformų, skirtų žalai matuoti ir mažinti, ji turi padaryti tą kelią įmanomą.
Keletas praktinių idėjų, kurios nuolat kartojasi politikos sluoksniuose:
1) Saugūs uostai sąžiningiems vidaus saugumo tyrimams
Įsivaizduokite sistemą, kurioje įmonės gauna ribotą apsaugą, kai atlieka dokumentuotus, sąžiningus žalos tyrimus ir imasi reikšmingų veiksmų, remdamosi išvadomis – panašiai kaip kai kurios saugai svarbios pramonės šakos tvarko incidentų ataskaitas.
Tai nereiškia imuniteto nuo pažeidimų. Tai reiškia paskatų juos daryti sumažinimą.sąmoningai likti nežinia.
2) Standartizuotas, audituotas ataskaitų teikimas (kad palyginimai būtų teisingi)
Jei kiekviena platforma saugos rodiklius pateikia naudodama skirtingus apibrėžimus, neapdoroti skaičiai tampa ginklu.
Standartiniai apibrėžimai, trečiųjų šalių auditai ir aiškesni vardikliai (kainos vienam vartotojui, kainos už žinutę, kainos už peržiūrą) sumažintų „pranešėme daugiau“ kaip viešųjų ryšių spąstus.
3) Saugos tyrimų ir produktų plėtros skatinimo atskyrimas
Kai saugos tyrimai atliekami toje pačioje vadovavimo grandinėje kaip ir augimo tikslai, tai gali tapti politiškai nepatogu.
Struktūrinis atskyrimas – net jei ir ne visiškas nepriklausomumas – gali padėti užtikrinti, kad saugumo klausimai būtų nuolat keliami.
4) Geresnis visuomenės raštingumas apie tai, ką reiškia rodikliai
Viešame pokalbyje vidiniai tyrimai dažnai traktuojami kaip prisipažinimas.
Kartais taip ir yra. Bet kartais būna priešingai: tai ženklas, kad įmonė ieško.
Brandesnis raštingumas paklaustų:
- Ar žala buvo įvertinta atsakingai?
- Ar išvados buvo tinkamai aptartos prižiūrint?
- Kokios švelninimo priemonės buvo išbandytos?
- Kas pasikeitė dėl to?
Ką žiūrėti toliau
El. laiškas yra vienas artefaktas. Platesnė istorija yra trijų jėgų įtampa:
- Skaidrumas:Norime sužinoti, ką žino platformos.
- Atskaitomybė:Norime pasekmių, kai žala ignoruojama.
- Mokymosi sistemos:Mums reikia platformų, kad galėtume nuolat vertinti ir tobulėti.
Kai šios jėgos nesuderintos, pusiausvyros rezultatas gali būti iškreiptas: mažiau matavimo, mažiau atvirumo ir lėtesnis tobulėjimas – net ir didėjant visuomenės pykčiui.
Geriausia interneto versija yra ne ta, kurioje platformos slepia savo tyrimus. Tai tokia, kurioje vidiniai tyrimai yra įprasti, audituojami ir naudojami produktų pokyčiams skatinti, o teisinė ir politinė sistema gali atskirti „mes ištyrėme žalą ir patobulinome“ nuo „mes ištyrėme žalą ir sąmoningai nieko nedarėme“.
Esmė
Atviras Zuckerbergo el. laiškas yra mažiau svarbus kaip „sugautas daiktas“, o labiau kaip užuomina apie paskatas.
Jei rimti vidinio saugumo ir socialinių problemų tyrimai patikimai paveiks reputaciją ir teisinį demaskavimą, įmonės to darys mažiau – ir visuomenė gaus...mažiaumatomumas realioms rizikoms.
Politikos tikslas neturėtų būti gėdinti platformas už tai, kad jos atlieka tyrimus. Jis turėtų būti reikalavimas išmatuojamų patobulinimų.irkurti paskatas, kurios atsakingą matavimą padarytų numatytuoju, o ne išimtimi.
Šaltiniai
- https://www.theverge.com/report/874176/meta-zuckerberg-new-mexico-email-teen-girls-research
- https://www.theverge.com/2023/12/6/23990445/facebook-instagram-meta-lawsuit-child-predators-new-mexico
- https://www.missingkids.org/gethelpnow/cybertipline/cybertiplinedata
- https://about.fb.com/news/2024/01/our-work-to-help-provide-young-people-with-safe-positive-experiences/