Yksi modernin teknologiapolitiikan oudoimmista kannustimista ontutkimusparadoksiYritykset, jotka tekevät eniten sisäistä työtä vahinkojen mittaamiseksi, voivat päätyä näyttämään pahimmilta toimijoilta yksinkertaisesti siksi, että niillä on eniten dataa – ja koska tämä data voi vuotaa, joutua haasteen kohteeksi tai sen salassapito voidaan paljastaa oikeudessa.
Tämä paradoksi on keskeisessä asemassa hiljattain paljastetussa Meta-sivuston sisäisessä sähköpostissa, jonka on raportoinutThe Verge, jossa Mark Zuckerberg ehdottaa yhtiölle, että se harkitsisi lähestymistapansa muuttamista "sosiaalisten kysymysten tutkimukseen ja analytiikkaan" sen jälkeen, kun sisäisten havaintojen (erityisesti teini-ikäisten hyvinvoinnista Instagramissa) mediahuomio räjähti vuonna 2021.
Tämä ei ole vain sisäpiirijuttu PR-johtamisesta. Se on ikkuna siihen, miten sosiaalisen median alustat ajattelevat vastuullisuudesta – ja miten oikeudenkäyntien ja vuotojen uhka voi muokata sitä, mitä mitataan, mitä julkaistaan ja mitä ei koskaan kysytä.
Alla on käytännön selitys siitä, mitä sähköpostissa sanottiin, miksi sillä on merkitystä ja miltä terveellisempi kannustinrakenne voisi näyttää.
Mitä avattu sähköposti todellisuudessa paljasti
Raportin mukaan Zuckerberg kirjoitti ylemmille johtajille 15. syyskuuta 2021 – päivää sen jälkeen, kun Wall Street Journalin sisäisiin asiakirjoihin (myöhemmin tietovuotaja Frances Haugeniin yhdistettynä) perustuva artikkeli nosti esiin Metan oman tutkimuksen teinitytöistä ja Instagramista.
Keskeistä ei ollut se, että ”Meta teki tutkimusta”. Monilla suurilla alustoilla on tutkimustiimejä. Silmiinpistävää on, että toimitusjohtaja oli nimenomaisesti yhteydessätekee ennakoivaa yhteiskunnallisten kysymysten tutkimustakanssaaiheuttaen vastuita ja maineriskejäkun löydökset tulevat julkisiksi.
Sähköpostin kehystys on pohjimmiltaan seuraava:
- Tutkimme arkaluontoisia aiheita (nuorten turvallisuus, mielenterveys, lasten hyväksikäyttö, väärän tiedon levittäminen jne.).
- Kun löydöksemme vuotavat tai niistä raportoidaan, julkinen narratiivi voi muuttua muotoon: ”Tiesit, etkä korjannut sitä.”
- Jotkut vertaisyritykset näyttävät tekevänVähemmänennakoivaa tutkimusta – ja siten luoda vähemmän asiakirjoja, joita voidaan käyttää heitä vastaan.
Se on epämukava mutta todellinen hallintotapaongelma: jos ”ongelman mittaaminen ja dokumentointi” lisää toimintakustannuksia, on olemassa sisäänrakennettu kannustin mitata vähemmän.
Tutkimuksen paradoksi: kun läpinäkyvyydestä tulee kilpailuetu
Maailmassa, jossa sääntelyviranomaiset, toimittajat ja tuomioistuimet tarkkailevat alustoja, voit kuvitella kaksi päästrategiaa:
- Opiskelu vahingoittaa syvästija rakentaa sisäisiä koontinäyttöjä, kokeita ja jälkianalyysien tuloksia.
- Opiskelusta on vähän haittaa, keskittyä kapeisiin vaatimustenmukaisuusvaatimuksiin ja välttää "huonosti kuulostavien" asiakirjojen tuottamista.
Jos strategian (1) haittapuolena on, että se luo löydettävää materiaalia – sähköposteja, diaesityksiä, kokeiden lukulistoja – rationaalinen yritystoimija saattaa ajautua strategiaan (2), vaikka strategia (1) olisikin parempi käyttäjille.
Se ei ole puolustus tutkimuksen vähentämiselle. Se on selitys kannustimelle.
Poliittinen haaste on suunnitella järjestelmä, jossa "tee vastuullinen asia" -lähestymistapa (haittojen tutkiminen ja havaintoihin perustuva toiminta) ei muutu itserangaistukseksi.
Miksi Metan sähköposti nousee nyt pintaan: oikeusjutut ja todisteet
Sähköposti avattiin sen jälkeen, kun New Mexicon oikeusministerin toimisto löysi sen tapauksesta, jossa Meta väitti harhaanjohtavasti asemoineen Facebookin ja Instagramin turvallisiksi teini-ikäisille, vaikka oli tietoinen haitallisista suunnitteluvalinnoista.
Tuo tapaus sijoittuu laajempaan oikeudenkäyntien ja lainsäädäntöpaineen aaltoon, joka keskittyy lasten turvallisuuteen, nuorten mielenterveyteen ja tuotevastuuteorioihin sosiaalisilla alustoilla. Riippumatta siitä, miten yksittäinen tapaus päättyy, prosessilla on merkitystä: tiedonhankinta muuttaa sisäisen keskustelun julkiseksi todisteeksi.
Sillä on kaksi toisen asteen vaikutusta:
- Se muokkaa tulevaa sisäistä kirjoittamista.Johtajat alkavat olla varovaisia paitsi tekemisensä suhteen, myös sen suhteen, miten he sitä kuvailevat.
- Se muokkaa tulevaa tutkimusta.Jos tutkimus todennäköisesti tuottaa poliittisesti räjähdysherkkiä kaavioita, joku kysyy, onko se ollenkaan tekemättä jättämisen arvoinen.
”Apple ei näytä tutkivan mitään näistä asioista”: mikä tässä on argumentti?
Sähköpostin kerrotaan vertaavan sitä Appleen ja vihjaavan, että Apple "ei näytä tutkivan" näitä asioita samalla tavalla ja välttää siksi paljon kritiikkiä.
Vaikka tuo vertailu on epätäydellinen (Apple julkaisee tietoturva- ja yksityisyysmateriaalia, ja sitä tarkastellaan tiukasti muilla aloilla), ydinajatus ontuotekategoria ja riskipinta-ala:
- Sosiaaliset alustat isännöivät valtavia määriä käyttäjien luomaa sisältöä, mukaan lukien loukkaavaa sisältöä.
- Viestintätuotteet (etenkin päästä päähän salatut) rajoittavat rakenteellisesti sitä, mitä palveluntarjoaja voi tarkastaa.
- Laitealustat voivat työntää vastuuta alaspäin ("tätä käyttäjät tekevät laitteillaan"), kun taas sosiaalisen median syötteet ovat lähempänä toimituksellista vahvistusta.
Joten kysymykseen "miksi ne saavat vähemmän lämpöä?" liittyy epätriviaali tekninen komponentti.
Lapsen turvallisuusnäkökulma: äänenvoimakkuuden raportointi voi näyttää syyllisyydeltä
Yksi raportin argumentti on, että Meta viittaa siihen, että se ilmoittaa paljon lasten seksuaaliseen hyväksikäyttöön liittyvää materiaalia (CSAM) National Center for Missing and Exploited Children (NCMEC) -järjestölle – ja että suuri ilmoitusmäärä voidaan tulkita tarkoittavan, että "Metassa on enemmän hyväksikäyttöä", vaikka osasyynä olisienemmän havaitsemista ja raportointia.
NCMEC:n omat julkiset tiedot auttavat havainnollistamaan kyseisen tulkinnan monimutkaisuutta. Esimerkiksi NCMEC toteaa, että vuonna 2024 se vastaanotti 20,5 miljoonaa ilmoitusta (29,2 miljoonaa tapausta oikaistuna), ja se kuvailee myös muutoksia, kuten ilmoitusten "niputtamista", jotka voivat vähentää raakamääriä ilman, että taustalla olevaa väärinkäyttöä vähennetään.
Pelkät laskut ovat tylsä työkalu. Tärkeintä onhinnat,havaitsemiskattavuus, jalopputulokset:
- Kuinka nopeasti tilit poistetaan?
- Tunnistetaanko tekijät ja annetaanko heidät tietoon lainvalvontaviranomaisista?
- Kuinka usein alaikäisiä suojellaan ennakoivasti (esim. rajoittamalla yhteydenpitotoimintoja, rajoittamalla aikuisten ulottuvuutta)?
- Miten väärät positiiviset ja väärät negatiiviset tulokset tasapainottelevat toisiaan?
Kun julkinen keskustelu keskittyy vain siihen, "kenellä on suurin luku", yritykset voivat ajautua kohti aliraportointia tai alimittausta.
Miksi tutkimuksen vähentäminen olisi huono asia – jopa Metalle
Jos sähköpostin huolen ottaa kirjaimellisesti, niin vähemmän opiskelun "ratkaisu" on houkutteleva: vähemmän tutkimuksia, vähemmän dioja, vähemmän haasteita.
Mutta se on myös itsetuhoista.
1) Et voi parantaa sitä, mitä et mittaa
Monet alustan turvallisuusongelmat ovat järjestelmäongelmia – ne syntyvät sijoituksista, suosituksista, yhteydenpitomekaniikoista ja väärinkäytösten viereisistä kasvusilmukoista. Näitä ei korjata yhdellä käytäntölauseella. Ne vaativat mittaamista.
Ilman sisäistä tutkimusta ja analytiikkaa yrityksen "turvallisuusasenteesta" tulee:
- reaktiivinen (reagoida skandaaleihin)
- anekdootti (luota siihen, mitä äänekkäimmät valitukset sanovat)
- ei-tarkastettavissa (ei lähtötasoja, ei arviointia)
2) Sääntelyviranomaiset vaativat todisteita joka tapauksessa
Vaikka yritys yrittäisi välttää arkaluonteista tutkimusta, sääntelyviranomaiset voivat silti vaatia avoimuusraportteja, riskinarviointeja ja tarkastettavuustietoja. Toisin sanoen: jos et tuota todisteita vapaaehtoisesti, joku muu voi pakottaa sinut tuottamaan ne – ja nyt sinun on tehtävä se paineen alla.
3) Menetät kyvyn erottaakompromissitalkaenhuolimattomuus
Sähköpostin keskeinen teema on, että kaikkia suosituksia ei ole järkevää toteuttaa, koska kaikella on kompromissinsa.
Se on totta. Mutta ainoa uskottava tapa väittää "harkitsimme X:ää ja valitsimme Y:n, koska..." on näyttää työsi. Muuten se voi näyttää kädenheiluttelulta.
Tutkimus muuttaa "luota meihin" -ajattelun "tässä on malli, kokeilu, mitattu tulos ja päätösmuistio" -ajatteluksi.
Syvempi ongelma: oikeudenkäynti muuttaa sisäisen avoimuuden vastuunkannoksi
Terve organisaatio haluaa avoimuutta: ”Tämä ominaisuus saattaa olla haitallinen”, ”Tämä kohortti on vaarassa”, ”Tämä mittari näyttää huonolta”, ”Meidän on muutettava sijoitusta”.
Mutta oikeudenkäynnit ja vuotojen dynamiikka voivat rangaista avoimuutta kahdella tavalla:
- Valinnan vaikutus:johtajat lakkaavat kirjoittamasta arkaluonteisia ajatuksiaan.
- Kulttuurivaikutus:tiimit välttävät kysymyksiä, jotka saattavat tuottaa "huonoja" vastauksia.
Molemmat vaikutukset huonontavat alustaa.
Eikä tämä ole ainutlaatuista Metalle – se on yleinen ongelma kaikille yrityksille, jotka toimivat kuluttajateknologian ja yleisen turvallisuuden risteyksessä.
Miltä näyttäisivät paremmat kannustimet?
Jos yhteiskunta haluaa alustoja haittojen mittaamiseen ja vähentämiseen, sen on tehtävä tuosta polusta selviytymiskelpoinen.
Muutamia käytännönläheisiä ideoita, jotka toistuvat poliittisissa piireissä:
1) Turvasatamia vilpittömässä mielessä tehtävälle sisäiselle turvallisuustutkimukselle
Kuvittele viitekehys, jossa yritykset saavat rajoitetun suojan, kun ne tekevät dokumentoitua ja vilpitöntä tutkimusta vahingoista ja ryhtyvät merkityksellisiin toimiin havaintojen perusteella – hengeltään samankaltaisesti kuin jotkut turvallisuuskriittiset toimialat käsittelevät vaaratilanteiden raportointia.
Tämä ei tarkoita väärinkäytöksistä vapauttamista. Se tarkoittaa kannustimien vähentämistä.pysyä tietämättömänä tarkoituksella.
2) Standardoitu, tilintarkastettu raportointi (jotta vertailut ovat oikeudenmukaisia)
Jos jokainen alusta raportoi turvallisuusmittareita eri määritelmien mukaisesti, raakaluvuista tulee aseita.
Vakiomääritelmät, kolmannen osapuolen auditoinnit ja selkeämmät nimittäjät (käyttäjäkohtaiset hinnat, viestikohtaiset hinnat, katselukertakohtaiset hinnat) tekisivät "raportoimme enemmän" -lauseesta vähemmän PR-ansan.
3) Turvallisuustutkimuksen ja tuotekehityksen kannustimien erottaminen toisistaan
Kun turvallisuustutkimus on samassa komentoketjussa kasvutavoitteiden kanssa, siitä voi tulla poliittisesti hankalaa.
Rakenteellinen erillisyys – vaikkakaan ei täydellinen riippumattomuus – voi auttaa varmistamaan, että turvallisuuskysymyksiä esitetään jatkuvasti.
4) Parempi yleisön lukutaito siitä, mitä mittarit tarkoittavat
Julkisessa keskustelussa sisäistä tutkimusta usein kohdellaan kuin tunnustusta.
Joskus se on. Mutta joskus se on päinvastoin: merkki siitä, että yritys etsii.
Kypsempi lukutaito kysyisi:
- Oliko vahinko mitattu vastuullisesti?
- Jaettiinko löydökset asianmukaisen valvonnan alaisena?
- Mitä lieventämiskeinoja testattiin?
- Mikä muuttui sen seurauksena?
Mitä katsoa seuraavaksi
Sähköposti on yksi artefakti. Laajempi tarina on kolmen voiman välinen jännite:
- Läpinäkyvyys:Haluamme tietää, mitä alustat tietävät.
- Vastuullisuus:Haluamme seurauksia, kun vahingot jätetään huomiotta.
- Oppimisjärjestelmät:Tarvitsemme alustoja jatkuvaa mittaamista ja parantamista varten.
Kun nämä voimat ovat vinossa, tasapainotila voi olla perverssi: vähemmän mittaamista, vähemmän avoimuutta ja hitaampaa kehitystä – vaikka yleisön viha kasvaakin.
Internetin paras versio ei ole sellainen, jossa alustat piilottavat omaa tutkimustaan. Se on sellainen, jossa sisäinen tutkimus on rutiininomaista, auditoitua ja sitä käytetään tuotemuutosten ajamiseen – ja jossa oikeus- ja poliittinen järjestelmä pystyy erottamaan toisistaan "tutkimme haittoja ja paransimme niitä" ja "tutkimme haittoja ja teimme tarkoituksella mitään".
Lopputulos
Avattu Zuckerbergin sähköpostiviesti on merkityksellisempi kuin vihje kannustimista ja siten vähemmän "selvä juttu".
Jos vakavan sisäisen turvallisuus- ja sosiaalisten kysymysten tutkimuksen tekeminen johtaa luotettavasti maineen ja oikeudelliseen vaarantumiseen, yritykset tekevät sitä vähemmän – ja yleisö saa...Vähemmännäkyvyyttä todellisiin riskeihin.
Politiikan tavoitteena ei pitäisi olla tutkimusalustojen häpäiseminen. Sen tulisi olla mitattavien parannusten vaatiminen.jaluoda kannustimia, jotka tekevät vastuullisesta mittaamisesta oletuksen, ei poikkeuksen.
Lähteet
- https://www.theverge.com/report/874176/meta-zuckerberg-new-mexico-email-teen-girls-research
- https://www.theverge.com/2023/12/6/23990445/facebook-instagram-meta-lawsuit-child-predators-new-mexico
- https://www.missingkids.org/gethelpnow/cybertipline/cybertiplinedata
- https://about.fb.com/news/2024/01/our-work-to-help-provide-young-people-with-safe-positive-experiences/