A modern technológiai politika egyik furcsább ösztönzője akutatási paradoxonAzok a cégek, amelyek a legtöbb belső munkát végzik a károk felmérésére, végül a legrosszabb szereplőknek tűnhetnek, egyszerűen azért, mert ők rendelkeznek a legtöbb adattal – és mert ezek az adatok kiszivároghatnak, idézést kaphatnak, vagy bíróság előtt felfedhetik azokat.
Ez a paradoxon áll egy újonnan nyilvánosságra hozott belső Meta e-mail középpontjában, amelyről a ... számolt be.A peremén, amelyben Mark Zuckerberg azt javasolja a vállalatnak, hogy fontolja meg a „társadalmi kérdésekkel kapcsolatos kutatások és elemzések” megközelítésének megváltoztatását, miután a belső megállapítások (nevezetesen a tinédzserek jólétével kapcsolatos Instagram-jelentések) médiavisszhangja 2021-ben felrobbant.
Ez nem csupán egy belsős történet a PR-menedzsmentről. Betekintést nyújt abba, hogyan gondolkodnak a közösségi platformok az elszámoltathatóságról – és hogyan befolyásolhatja a perek és a kiszivárogtatások veszélye, hogy mi kerül mérésre, mi kerül nyilvánosságra, és miről nem tesznek fel kérdéseket.
Az alábbiakban egy gyakorlati magyarázatot találsz arról, hogy mit tartalmazott az e-mail, miért fontos, és hogyan nézhetne ki egy egészségesebb ösztönző struktúra.
Amit valójában feltárt a felbontott e-mail
A jelentés szerint Zuckerberg 2021. szeptember 15-én írt a felsővezetőknek – egy nappal azután, hogy a Wall Street Journal belső dokumentumokon alapuló cikke (amelyet később Frances Haugen informátorhoz kötöttek) kiemelte a Meta saját kutatását a tinilányokról és az Instagramról.
A lényeg nem az volt, hogy „a Meta kutatást végzett”. Sok nagy platformnak vannak kutatócsoportjai. A feltűnő az egészben, hogy a vezérigazgató kifejezetten kapcsolatba lépettproaktív társadalmi kérdések kutatása-velfelelősséget és hírnévkockázatot teremtamikor a megállapítások nyilvánosságra kerülnek.
Az e-mail szövege lényegében a következő:
- Kényes kérdéseket vizsgálunk (tinédzserek biztonsága, mentális egészség, gyermekek kizsákmányolása, félretájékoztatás stb.).
- Amikor a megállapításaink kiszivárognak vagy nyilvánosságra kerülnek, a nyilvános narratíva átalakulhat: „Tudtad, és nem javítottad ki.”
- Néhány versenytárs cég úgy tűnik, hogykevesebbproaktív kutatást végeznek – és így kevesebb olyan dokumentumot hoznak létre, amelyet ellenük lehet felhasználni.
Ez egy kellemetlen, de valós irányítási probléma: ha a „probléma mérése és dokumentálása” növeli a működési költségeket, akkor beépített ösztönző van a kevesebb mérésre.
A kutatási paradoxon: amikor az átláthatóság versenyhátránygá válik
Egy olyan világban, ahol a platformokat szabályozók, újságírók és bíróságok vizsgálják, két fő stratégiát képzelhetünk el:
- A tanulás mélyen ártés belső irányítópultokat, kísérleteket és utólagos elemzéseket készíthet.
- A tanulmány minimális kárt okoz, szűk körű megfelelőségi követelményekre összpontosítsanak, és kerüljék a „rosszul hangzó” dokumentumok készítését.
Ha az (1) stratégia hátránya, hogy felfedezhető anyagokat – e-maileket, diavetítéseket, kísérleti felolvasásokat – hoz létre, akkor egy racionális vállalati szereplő a (2) stratégia felé sodródhat, még akkor is, ha az (1) stratégia jobb a felhasználók számára.
Ez nem a kevesebb kutatás mentsége. Ez az ösztönzés magyarázata.
A szakpolitikai kihívás egy olyan rendszer kialakítása, ahol a „tedd a felelősséget” megközelítés (a károk tanulmányozása és a megállapítások alapján való cselekvés) nem válik önbüntetővé.
Miért került most felszínre a Meta e-mailje: perek és bizonyítékok
Az e-mailt azután hozták nyilvánosságra, hogy az új-mexikói főügyészség egy olyan ügyben gyűjtötte össze, amelyben azt állították, hogy a Meta megtévesztően a tinédzserek számára biztonságosnak pozicionálta a Facebookot és az Instagramot, miközben tisztában volt a káros tervezési döntésekkel.
Ez az eset egy szélesebb körű perek és törvényhozási nyomás hullámával párhuzamosan zajlik, amely a gyermekbiztonságra, a fiatalok mentális egészségére és a közösségi platformok termékfelelősségi elméleteire összpontosít. Függetlenül attól, hogy egy adott ügy hogyan alakul, a folyamat számít: a bizonyítékok feltárása a belső vitát nyilvános bizonyítékká alakítja.
Ennek két másodrendű hatása van:
- Ez formálja a jövőbeli belső írást.A vezetők nemcsak azzal kapcsolatban válnak óvatossá, hogy mit csinálnak, hanem azzal is, hogyan írják le azt.
- Ez formálja a jövőbeli kutatásokat.Ha egy tanulmány valószínűleg politikailag robbanékony diagramokat fog generálni, valaki meg fogja kérdezni, hogy egyáltalán érdemes-e elvégezni.
„Úgy tűnik, az Apple nem tanulmányozza ezeket a dolgokat”: mi itt az érv?
Az e-mail állítólag az Apple-höz hasonlítja a céget, azt sugallva, hogy az Apple „úgy tűnik, nem tanulmányozza” ezeket a kérdéseket ugyanúgy, és ezért elkerüli a kritikák nagy részét.
Még ha ez az összehasonlítás nem is teljes (az Apple valóban közzétesz biztonsági és adatvédelmi anyagokat, és más területeken is intenzív ellenőrzésnek van kitéve), a lényeg a következő:termékkategória és kockázati felület:
- A közösségi platformok hatalmas mennyiségű felhasználó által generált tartalmat tárolnak, beleértve a sértő tartalmakat is.
- Az üzenetküldő termékek (különösen a végponttól végpontig titkosított termékek) strukturálisan korlátozzák, hogy a szolgáltató mit ellenőrizhet.
- Az eszközplatformok lefelé tolhatják a felelősséget („ezt csinálják a felhasználók az eszközeiken”), míg a közösségi hírfolyamok inkább a szerkesztői jellegű erősítést képviselik.
Tehát a „miért kapnak kevesebb hőt?” kérdésnek van egy nem triviális technikai összetevője is.
A gyermekbiztonság lencséje: a jelentéstételi mennyiség bűntudatnak tűnhet
A jelentésben szereplő egyik érvelés szerint a Meta arra a tényre mutat rá, hogy rengeteg gyermek szexuális zaklatással kapcsolatos anyagot (CSAM) jelent az Eltűnt és Kihasznált Gyermekek Nemzeti Központjának (NCMEC) – és hogy a magas bejelentési mennyiség úgy értelmezhető, hogy „több a zaklatás a Metán”, még akkor is, ha az ok részben az, hogytöbb észlelés és jelentéstétel.
Az NCMEC saját nyilvános adatai segítenek illusztrálni ennek az értelmezésnek az összetettségét. Az NCMEC például megjegyzi, hogy 2024-ben 20,5 millió bejelentést kapott (kiigazítva 29,2 millió eset), és olyan változásokat is ismertet, mint a bejelentések „csomagolása”, amelyek csökkenthetik a nyers számokat anélkül, hogy a mögöttes visszaélések száma csökkenne.
A számok önmagukban tompa eszközök. Ami számít, az az, hogyárak,észlelési lefedettség, éskésőbbi eredmények:
- Milyen gyorsan törlik a fiókokat?
- Azonosítják-e és értesítik-e a bűnüldöző szerveket az elkövetőket?
- Milyen gyakran védik proaktívan a kiskorúakat (pl. korlátozzák a kapcsolattartási funkciókat, korlátozzák a felnőttek elérhetőségét)?
- Hogyan egyensúlyoznak a téves pozitívak és a téves negatívok?
Amikor a nyilvános vita csak arra összpontosít, hogy „kié a legnagyobb szám”, a vállalatok a valós eredmények alulbecsléséhez vagy alulmérésükhöz vezethetnek.
Miért lenne rossz kevesebb kutatást végezni – még a Meta számára is
Ha az e-mailben megfogalmazott aggodalmat névértéken vesszük, a kevesebb tanulás „megoldása” csábító lehet: kevesebb tanulmány, kevesebb dia, kevesebb idézés.
De ez önpusztító is.
1) Amit nem mérsz, azt nem tudod fejleszteni
Sok platformbiztonsági probléma rendszerszintű probléma – ezeket a rangsorolás, az ajánlások, a kapcsolattartási mechanizmusok és a visszaélésekhez kapcsolódó növekedési hurkok hozzák létre. Ezeket nem lehet egyetlen irányelvvel megoldani. Mérést igényelnek.
Belső kutatás és elemzés nélkül a vállalat „biztonsági helyzete” a következőképpen alakul:
- reaktív (botrányokra reagál)
- anekdotikus (higgy a leghangosabb panaszoknak)
- nem auditálható (nincsenek alapértékek, nincs értékelés)
2) A szabályozók mindenképpen bizonyítékokat fognak követelni
Még ha egy vállalat megpróbálja is elkerülni az érzékeny kutatásokat, a szabályozó hatóságok továbbra is megkövetelhetik az átláthatósági jelentéseket, a kockázatértékeléseket és az auditálhatóságot. Más szóval: ha nem állítod elő önként a bizonyítékokat, valaki más kényszerítheti rá – és most nyomás alatt kell megtenned.
3) Elveszíti a megkülönböztető képességétkompromisszumok-tólgondatlanság
Az e-mail egyik fő témája, hogy nem minden javaslat megvalósítható, mivel mindennek megvannak a maga előnyei.
Ez igaz. De az egyetlen hihető módja annak, hogy azzal érvelj, hogy „X-et figyelembe vettünk és Y-t választottuk, mert…”, az, ha bemutatod a munkádat. Különben úgy nézhet ki, mint egy kézlegyintés.
A kutatás az, ami a „bízz bennünk” hozzáállást az „itt a modell, a kísérlet, a mért eredmény és a döntési feljegyzés” elvébe fordítja.
A mélyebb probléma: a pereskedés a belső őszinteséget felelősséggé változtatja
Egy egészséges szervezet őszinteséget akar: „Ez a funkció káros lehet”, „Ez a kohorsz veszélyben van”, „Ez a mutató rosszul néz ki”, „Módosítanunk kell a rangsorolást”.
De a pereskedés és a kiszivárogtatások dinamikája kétféleképpen is büntetheti az őszinteséget:
- Kiválasztási hatás:A vezetők abbahagyják az érzékeny gondolatok írásban való rögzítését.
- Kulturális hatás:A csapatok kerülik azokat a kérdéseket, amelyek „rossz” válaszokat eredményezhetnek.
Mindkét hatás rontja a platform állapotát.
És ez nem csak a Metára jellemző – ez egy általános probléma minden olyan vállalat számára, amely a fogyasztói technológia és a közbiztonság metszéspontjában működik.
Milyenek lennének a jobb ösztönzők?
Ha a társadalom azt akarja, hogy a platformok mérjék és csökkentsék a károkat, akkor ezt az utat túlélhetővé kell tennie.
Néhány gyakorlati ötlet, amelyek újra és újra felmerülnek a politikai körökben:
1) Biztonságos kikötők a jóhiszemű belső biztonsági kutatáshoz
Képzeljen el egy olyan keretrendszert, amelyben a vállalatok korlátozott védelmet kapnak, amikor dokumentált, jóhiszemű kutatást végeznek a károkkal kapcsolatban, és az eredmények alapján érdemi lépéseket tesznek – hasonlóan ahhoz, ahogyan egyes biztonságkritikus iparágak kezelik az incidensek bejelentését.
Ez nem azt jelenti, hogy mentesülünk a szabálytalanságok alól. Azt jelenti, hogy csökken az ösztönzés a jogsértésekre.szándékosan tudatlan marad.
2) Szabványosított, auditált jelentéskészítés (így az összehasonlítások korrektek)
Ha minden platform más definíciókat használva jelenti a biztonsági mutatókat, a nyers számok fegyverré válnak.
A szabványos definíciók, a harmadik fél általi auditok és az egyértelműbb nevezők (felhasználónkénti arányok, üzenetenkénti arányok, megtekintésenkénti arányok) kevésbé tennék a „többet jelentettünk” PR-csapdává.
3) A biztonsági kutatás és a termékfejlesztési ösztönzők szétválasztása
Amikor a biztonsági kutatás a növekedési célokkal egy parancsnoki láncon belül helyezkedik el, az politikailag kényelmetlenné válhat.
A strukturális elkülönítés – még ha nem is teljes függetlenség – segíthet abban, hogy a biztonsági kérdések folyamatosan felmerüljenek.
4) Jobb nyilvános ismeretek a mérőszámok jelentéséről
A nyilvános beszélgetések gyakran vallomásként kezelik a belső kutatást.
Néha igen. De néha az ellenkezője történik: ez egy jel, amit a cég keres.
Egy érettebb műveltségű ember a következőket kérdezné:
- Felelősségteljesen mérték fel a kárt?
- Megfelelő felügyelet mellett megosztották-e a megállapításokat?
- Milyen mérséklési megoldásokat teszteltek?
- Mi változott ennek eredményeként?
Mit érdemes legközelebb nézni?
Az e-mail egyetlen tárgy. A tágabb történet három erő közötti feszültség:
- Átláthatóság:Tudni akarjuk, mit tudnak a platformok.
- Felelősségvállalás:Következményeket akarunk, ha a károkat figyelmen kívül hagyjuk.
- Tanulási rendszerek:Szükségünk van platformokra a folyamatos méréshez és fejlesztéshez.
Amikor ezek az erők nincsenek összhangban, az egyensúlyi eredmény perverz lehet: kevesebb mérték, kevesebb őszinteség és lassabb javulás – még akkor is, ha a közvélemény felháborodása fokozódik.
Az internet legjobb verziója nem az, ahol a platformok elrejtik a saját kutatásaikat. Olyan, ahol a belső kutatás rutinszerű, ellenőrzött és a termékváltoztatások ösztönzésére szolgál – és ahol a jogi és politikai rendszer különbséget tud tenni a „tanulmányoztuk a károkat és javítottunk” és a „tanulmányoztuk a károkat és szándékosan nem tettünk semmit” között.
A lényeg
A Zuckerberg által kiszivárgott, lezáratlan e-mail kevésbé számít „elkapottként”, inkább az ösztönzőkre utaló jelként.
Ha a komoly belső biztonsági és társadalmi kérdéseket vizsgáló kutatás megbízhatóan hírnév- és jogi leleplezéshez vezet, a vállalatok kevesebbet fognak ezzel foglalkozni – és a nyilvánosság is...kevesebbrálátás a valós kockázatokra.
A politikai célnak nem az kellene lennie, hogy megszégyenítse a kutatásokat végző platformokat. A célnak az kellene lennie, hogy mérhető fejlesztéseket követeljen.ésolyan ösztönzőket kell létrehozni, amelyek a felelős mérést alapértelmezetté, nem pedig kivétellé teszik.
Források
- https://www.theverge.com/report/874176/meta-zuckerberg-new-mexico-email-teen-girls-research
- https://www.theverge.com/2023/12/6/23990445/facebook-instagram-meta-lawsuit-child-predators-new-mexico
- https://www.missingkids.org/gethelpnow/cybertipline/cybertiplinedata
- https://about.fb.com/news/2024/01/our-work-to-help-provide-young-people-with-safe-positive-experiences/