Viens no dīvainākajiem stimuliem mūsdienu tehnoloģiju politikā irpētniecības paradokssUzņēmumi, kas veic visvairāk iekšējā darba, lai novērtētu kaitējumu, var šķist visļaunākie dalībnieki vienkārši tāpēc, ka tiem ir visvairāk datu — un tāpēc, ka šie dati var noplūst, tikt izsaukti uz tiesas pavēstēm vai atklāti tiesā.
Šis paradokss ir nesen atklātā iekšējā Meta e-pasta centrā, par ko ziņoThe Verge, kurā Marks Cukerbergs iesaka uzņēmumam apsvērt iespēju mainīt savu pieeju “pētniecībai un analītikai sociālo jautājumu jomā” pēc tam, kad 2021. gadā plašsaziņas līdzekļos tika plaši atspoguļoti iekšējie atklājumi (īpaši par pusaudžu labklājību Instagram).
Šis nav tikai iekšējais beisbola stāsts par sabiedrisko attiecību vadību. Tas ir logs uz to, kā sociālās platformas domā par atbildību un kā tiesvedības un informācijas nopludināšanas draudi var ietekmēt to, kas tiek mērīts, kas tiek publicēts un kas nekad netiek jautāts.
Zemāk ir sniegts praktisks e-pasta ziņojuma skaidrojums, tā nozīme un veselīgākas stimulēšanas struktūras ieviešanas iespēja.
Ko patiesībā atklāja neaizzīmogotā e-pasta vēstule
Saskaņā ar ziņojumu Cukerbergs rakstīja vecākajiem vadītājiem 2021. gada 15. septembrī — dienu pēc tam, kad Wall Street Journal rakstā, kas balstīts uz iekšējiem dokumentiem (vēlāk saistīts ar trauksmes cēlēju Frānsisu Haugenu), tika uzsvērts paša Meta pētījums par pusaugu meitenēm un Instagram.
Galvenais nebija tas, ka “Meta veica pētījumu”. Daudzām lielām platformām ir pētniecības komandas. Pārsteidzoši ir tas, ka izpilddirektors nepārprotami sazinājās arveicot proaktīvu sociālo problēmu izpētiarradot saistības un reputācijas riskuskad atklājumi kļūst publiski pieejami.
E-pasta ziņojuma struktūra būtībā ir šāda:
- Mēs pētām sensitīvus jautājumus (pusaudžu drošība, garīgā veselība, bērnu izmantošana, dezinformācija utt.).
- Kad mūsu atklājumi noplūst vai tiek ziņoti atklātībā, publiskais naratīvs var pārvērsties par: “Tu zināji, un tu to nelaboji.”
- Daži līdzīgi uzņēmumi, šķiet, tā daramazākproaktīvu izpēti — un tādējādi radīt mazāk dokumentu, ko var izmantot pret viņiem.
Tā ir neērta, bet reāla pārvaldības problēma: ja “problēmas mērīšana un dokumentēšana” palielina darbības izmaksas, pastāv iebūvēts stimuls mērīt mazāk.
Pētījuma paradokss: kad caurspīdīgums kļūst par konkurences trūkumu
Pasaulē, kurā platformas rūpīgi uzrauga regulatori, žurnālisti un tiesas, var iedomāties divas plašas stratēģijas:
- Studijas nodara dziļu ļaunumuun veidot iekšējos informācijas paneļus, eksperimentus un analīzes pēc analīzes.
- Pētījums nodara minimālu kaitējumu, koncentrēties uz šaurām atbilstības prasībām un izvairīties no "nepatīkami skanošu" dokumentu izstrādes.
Ja stratēģijas (1) trūkums ir tas, ka tā rada viegli atrodamus materiālus — e-pastus, slaidu prezentācijas, eksperimentu nolasījumus —, tad racionāls korporatīvais dalībnieks var novirzīties uz stratēģiju (2), pat ja stratēģija (1) ir labāka lietotājiem.
Tā nav aizstāvība mazāka pētījumu apjoma veikšanai. Tas ir motivācijas skaidrojums.
Politikas izaicinājums ir izstrādāt sistēmu, kurā pieeja “rīkoties atbildīgi” (kaitējuma izpēte un rīcība, pamatojoties uz atklājumiem) nekļūst par pašsodošu.
Kāpēc Meta e-pasts parādās tagad: tiesas prāvas un atklājumi
E-pasts tika atklāts pēc tam, kad to atklāja Ņūmeksikas ģenerālprokurora birojs lietā, kurā tika apgalvots, ka Meta maldinoši pozicionēja Facebook un Instagram kā drošus pusaudžiem, vienlaikus apzinoties kaitīgas dizaina izvēles.
Šī lieta atrodas līdzās plašākam tiesvedības un likumdevēju spiediena vilnim, kas koncentrējas uz bērnu drošību, jauniešu garīgo veselību un produktu atbildības teorijām sociālajās platformās. Neatkarīgi no tā, kā izvēršas katra atsevišķā lieta, process ir svarīgs: atklāšana pārvērš iekšējās debates publiskos pierādījumos.
Tam ir divi otrās kārtas efekti:
- Tas veido nākotnes iekšējo rakstīšanu.Vadītāji kļūst piesardzīgi ne tikai attiecībā uz to, ko viņi dara, bet arī to, kā viņi to apraksta.
- Tas veido turpmākos pētījumus.Ja pētījums, visticamāk, radīs politiski sprādzienbīstamas diagrammas, kāds jautās, vai to vispār ir vērts veikt.
“Šķiet, ka Apple neko no tā nepēta”: kāds šeit ir arguments?
E-pastā, kā ziņots, tiek salīdzināts ar Apple, norādot, ka Apple "šķiet, nepēta" šos jautājumus tādā pašā veidā un tāpēc izvairās no lielas kritikas.
Pat ja šis salīdzinājums ir nepilnīgs (Apple publicē drošības un privātuma materiālus, un tas saskaras ar intensīvu pārbaudi citās jomās), pamatā esošais jautājums ir parprodukta kategorija un riska virsma:
- Sociālajās platformās tiek mitināts milzīgs apjoms lietotāju ģenerēta satura, tostarp aizskarošs saturs.
- Ziņojumapmaiņas produkti (īpaši tie, kas šifrēti no viena gala līdz otram) strukturāli ierobežo to, ko pakalpojumu sniedzējs var pārbaudīt.
- Ierīču platformas var samazināt atbildību (“tas ir tas, ko lietotāji dara savās ierīcēs”), savukārt sociālās plūsmas ir vairāk vērstas uz redakcionālu pastiprināšanu.
Tātad jautājumam “kāpēc viņi saņem mazāk siltuma?” ir netriviāla tehniska komponente.
Bērnu drošības lēca: ziņošanas apjoms var izskatīties pēc vainas apziņas
Viens no ziņojuma argumentiem ir tāds, ka Meta norāda uz to, ka tā ziņo par lielu skaitu bērnu seksuālas izmantošanas materiālu (CSAM) Nacionālajam pazudušo un izmantoto bērnu centram (NCMEC), un ka lielo ziņojumu apjomu var interpretēt kā to, ka “Meta ir vairāk vardarbības gadījumu”, pat ja daļa no iemesla irvairāk atklāšanas un ziņošanas.
NCMEC publiskie dati palīdz ilustrēt šīs interpretācijas sarežģītību. Piemēram, NCMEC norāda, ka 2024. gadā tā saņēma 20,5 miljonus ziņojumu (29,2 miljoni incidentu pēc koriģēšanas), un tā arī apraksta tādas izmaiņas kā ziņojumu “apvienošana”, kas var samazināt neapstrādāto skaitu, nemazinot pamatā esošo ļaunprātīgas izmantošanas apjomu.
Vienīgi skaitļi ir neass instruments. Svarīgi ir tas,likmes,atklāšanas pārklājumsunpakārtotie rezultāti:
- Cik ātri konti tiek dzēsti?
- Vai vainīgie ir identificēti un nodoti tiesībaizsardzības iestādēm?
- Cik bieži nepilngadīgie tiek proaktīvi aizsargāti (piemēram, ierobežojot kontaktu veidošanas iespējas, ierobežojot pieaugušo sasniedzamību)?
- Kā viltus pozitīvie un viltus negatīvie rezultāti savstarpēji kompensējas?
Kad publiskās debates koncentrējas tikai uz to, “kam ir vislielākais skaitlis”, uzņēmumi var tikt mudināti uz nepietiekamu ziņošanu vai nepietiekamu mērījumu veikšanu.
Kāpēc mazāk pētījumu veikšana būtu slikta — pat Metai
Ja uztverat e-pasta pausto bažu burtiski, tad “risinājums” – mazāk mācīties – ir vilinošs: mazāk pētījumu, mazāk slaidu, mazāk tiesas pavēstu.
Bet tas ir arī pašpārkāpjošs.
1) Nevar uzlabot to, ko neizmēra
Daudzas platformas drošības problēmas ir sistēmas problēmas, ko rada ranžēšana, ieteikumi, kontaktu mehānika un ļaunprātīgas izmantošanas blakus esošās izaugsmes cilpas. Tās nevar atrisināt ar vienu politikas paziņojumu. Tās ir jāmēra.
Bez iekšējiem pētījumiem un analīzes uzņēmuma “drošības pozīcija” kļūst:
- reaktīvs (reaģēt uz skandāliem)
- anekdotisks (ticiet tam, ko saka skaļākās sūdzības)
- neauditējams (nav bāzes līniju, nav novērtējuma)
2) Regulatori jebkurā gadījumā pieprasīs pierādījumus
Pat ja uzņēmums cenšas izvairīties no sensitīviem pētījumiem, regulatori joprojām var pieprasīt pārredzamības ziņojumus, riska novērtējumus un auditējamību. Citiem vārdiem sakot: ja jūs brīvprātīgi neiegūstat pierādījumus, kāds cits var jūs piespiest tos iegūt, un tagad jums tas jādara spiediena ietekmē.
3) Jūs zaudējat spēju atšķirtkompromisinonolaidība
E-pasta galvenā tēma ir tāda, ka ne visus ieteikumus ir saprātīgi īstenot, jo visam ir savi kompromisi.
Tā ir taisnība. Taču vienīgais ticamais veids, kā apgalvot, ka “mēs apsvērām X un izvēlējāmies Y, jo…”, ir parādīt savu darbu. Pretējā gadījumā tas var izskatīties pēc roku vicināšanas.
Tieši pētījumi pārvērš “uzticieties mums” par “šeit ir modelis, eksperiments, izmērītais rezultāts un lēmuma piezīmi”.
Dziļākā problēma: tiesvedība pārvērš iekšējo atklātību par atbildību
Veselīga organizācija vēlas atklātību: “Šī funkcija varētu būt kaitīga”, “Šī kohorta ir apdraudēta”, “Šis rādītājs izskatās slikti”, “Mums jāmaina rangs”.
Taču tiesvedība un noplūdes dinamika var sodīt atklātību divos veidos:
- Atlases efekts:vadītāji pārtrauc pierakstīt sensitīvas domas.
- Kultūras ietekme:Komandas izvairās no jautājumiem, uz kuriem varētu rasties “sliktas” atbildes.
Abi efekti pasliktina platformu.
Un tas nav raksturīgi tikai Meta — tā ir vispārēja problēma jebkuram uzņēmumam, kas darbojas patērētāju tehnoloģiju un sabiedriskās drošības krustpunktā.
Kā izskatītos labāki stimuli?
Ja sabiedrība vēlas platformas, lai mērītu un mazinātu kaitējumu, tai ir jāpadara šis ceļš izdzīvojams.
Dažas praktiskas idejas, kas politikas aprindās parādās atkārtoti:
1) Drošas ostas labticīgiem iekšējiem drošības pētījumiem
Iedomājieties sistēmu, kurā uzņēmumi saņem ierobežotu aizsardzību, ja tie veic dokumentētu, labticīgu kaitējumu izpēti un, pamatojoties uz atklājumiem, veic jēgpilnus pasākumus — līdzīgi tam, kā dažas drošībai kritiski svarīgas nozares rīkojas ar incidentu ziņošanu.
Tas nenozīmē imunitāti pret pārkāpumiem. Tas nozīmē mazināt motivāciju tos darīt.apzināti palikt neziņā.
2) Standartizēta, auditēta atskaišu sniegšana (lai salīdzinājumi būtu godīgi)
Ja katra platforma ziņo par drošības rādītājiem, izmantojot dažādas definīcijas, neapstrādāti skaitļi kļūst par ieroci.
Standarta definīcijas, trešo pušu auditi un skaidrāki saucēji (līnijas uz vienu lietotāju, cenas uz vienu ziņojumu, cenas uz vienu skatījumu) padarītu "mēs ziņojām par vairāk" mazāk sabiedrisko attiecību slazdu.
3) Drošības pētījumu un produktu izaugsmes stimulu nodalīšana
Ja drošības pētījumi atrodas tajā pašā komandķēdē, kurā izaugsmes mērķi, tas var kļūt politiski neērti.
Strukturāla atdalīšana — pat ja ne pilnīga neatkarība — var palīdzēt nodrošināt, ka drošības jautājumi tiek uzdoti atkārtoti.
4) Labāka sabiedrības izpratne par to, ko nozīmē rādītāji
Publiskajā sarunā iekšējie pētījumi bieži tiek uztverti kā atzīšanās.
Dažreiz tā ir. Bet dažreiz ir pretēji: zīme, ko uzņēmums meklē.
Nobriedušāka lasītprasme uzdotu šādu jautājumu:
- Vai kaitējums tika novērtēts atbildīgi?
- Vai konstatējumi tika kopīgoti, nodrošinot pienācīgu uzraudzību?
- Kādi mazināšanas pasākumi tika pārbaudīti?
- Kas mainījās rezultātā?
Ko skatīties tālāk
E-pasts ir viens artefakts. Plašāks stāsts ir spriedze starp trim spēkiem:
- Caurspīdīgums:Mēs vēlamies zināt, ko platformas zina.
- Atbildība:Mēs vēlamies sekas, ja kaitējums tiek ignorēts.
- Mācību sistēmas:Mums ir nepieciešamas platformas, lai nepārtraukti mērītu un uzlabotu rezultātus.
Kad šie spēki nav saskaņoti, līdzsvara rezultāts var būt apgriezts: mazāk mērīšanas, mazāk atklātības un lēnāki uzlabojumi — pat tad, kad sabiedrības dusmas pieaug.
Vislabākā interneta versija nav tāda, kurā platformas slēpj savus pētījumus. Tā ir tāda, kurā iekšējie pētījumi ir rutīnas process, tos auditē un izmanto, lai veicinātu produktu izmaiņas, un kurā juridiskā un politiskā sistēma spēj atšķirt "mēs pētījām kaitējumu un uzlabojām" no "mēs pētījām kaitējumu un apzināti neko nedarījām".
Apakšējā līnija
Atklātais Cukerberga e-pasts ir mazāk svarīgs kā "saprotams fakts" un vairāk kā pavediens par stimuliem.
Ja nopietna iekšējās drošības un sociālo jautājumu izpēte droši vien novedīs pie reputācijas un juridiskas atmaskošanas, uzņēmumi to darīs mazāk — un sabiedrība to iegūs.mazākreālu risku pārredzamība.
Politikas mērķim nevajadzētu būt platformu kaunināšana par to, ka tās veic pētījumus. Tam vajadzētu būt pieprasīt izmērāmus uzlabojumus.unradīt stimulus, kas atbildīgu mērīšanu padara par noklusējuma, nevis izņēmumu.
Avoti
- https://www.theverge.com/report/874176/meta-zuckerberg-new-mexico-email-teen-girls-research
- https://www.theverge.com/2023/12/6/23990445/facebook-instagram-meta-lawsuit-child-predators-new-mexico
- https://www.missingkids.org/gethelpnow/cybertipline/cybertiplinedata
- https://about.fb.com/news/2024/01/our-work-to-help-provide-young-people-with-safe-positive-experiences/