Modern teknoloji politikalarındaki en tuhaf teşviklerden biri şudur:araştırma paradoksuZararları ölçmek için en çok iç çalışma yapan şirketler, en çok veriye sahip oldukları ve bu verilerin sızdırılabileceği, mahkeme celbiyle istenebileceği veya mahkemede gizliliğinin kaldırılabileceği için en kötü aktörler gibi görünebilirler.
Bu paradoks, Meta tarafından yakın zamanda ortaya çıkarılan dahili bir e-postanın merkezinde yer alıyor; bu e-posta daha önce de haberleştirilmişti.The VergeMark Zuckerberg'in, 2021'de şirket içi bulguların (özellikle Instagram'daki gençlerin refahı hakkındaki bulguların) medyada büyük yankı uyandırmasının ardından, şirketin "sosyal konular etrafındaki araştırma ve analizlere" yaklaşımını değiştirmeyi düşünmesi gerektiğini öne sürdüğü bir makale.
Bu sadece halkla ilişkiler yönetimiyle ilgili teknik bir hikaye değil. Sosyal platformların hesap verebilirlik konusunda nasıl düşündüklerine ve dava tehdidinin ve sızıntıların nelerin ölçüleceğini, nelerin yayınlanacağını ve nelerin asla sorulmayacağını nasıl şekillendirdiğine dair bir pencere açıyor.
Aşağıda, e-postanın içeriğine, önemine ve daha sağlıklı bir teşvik yapısının nasıl olabileceğine dair pratik bir açıklama bulunmaktadır.
Açılan e-postanın aslında ortaya çıkardığı şey
Haberlere göre, Zuckerberg 15 Eylül 2021'de üst düzey yöneticilere bir mektup yazdı; bu, Wall Street Journal'ın iç belgelere dayanan (daha sonra ihbarcı Frances Haugen ile ilişkilendirilen) ve Meta'nın genç kızlar ve Instagram hakkındaki kendi araştırmasını vurgulayan bir haberinden bir gün sonraydı.
Asıl önemli nokta "Meta araştırma yaptı" değildi. Birçok büyük platformun araştırma ekibi vardır. Dikkat çekici olan, CEO'nun bunu açıkça ilişkilendirmesiydi.proaktif sosyal sorunlar araştırması yapmakileyükümlülükler ve itibar riskleri yaratmakBulgular kamuoyuna açıklandığında.
E-postanın temel yapısı şu şekildedir:
- Hassas konuları inceliyoruz (gençlerin güvenliği, ruh sağlığı, çocuk istismarı, yanlış bilgilendirme vb.).
- Bulgularımız sızdığında veya haberlerde yer aldığında, kamuoyundaki söylem şu hale dönüşebilir: "Biliyordunuz ve düzeltmediniz."
- Bazı rakip şirketler bunu yapıyor gibi görünüyor.azProaktif araştırma yaparak, aleyhlerinde kullanılabilecek daha az belge oluştururlar.
Bu, rahatsız edici ama gerçek bir yönetim sorunudur: Eğer "sorunu ölçmek ve belgelemek" işletme maliyetini artırıyorsa, daha az ölçüm yapmaya yönelik doğal bir teşvik vardır.
Araştırma paradoksu: şeffaflık rekabet dezavantajına dönüştüğünde
Platformların düzenleyiciler, gazeteciler ve mahkemeler tarafından yakından incelendiği bir dünyada, iki genel strateji hayal edebilirsiniz:
- Çalışmak derinden zarar verir.ve dahili gösterge panelleri, deneyler ve olay sonrası analizler oluşturun.
- Çalışmanın zararı minimum düzeydedir.Dar kapsamlı uyumluluk gereksinimlerine odaklanın ve "kötü izlenim bırakan" belgeler üretmekten kaçının.
Eğer strateji (1)'in dezavantajı keşfedilebilir materyal (e-postalar, slayt sunumları, deney sonuçları) oluşturması ise, rasyonel bir kurumsal aktör, strateji (1) kullanıcılar için daha iyi olsa bile, strateji (2)'ye yönelebilir.
Bu, daha az araştırma yapmayı savunmak değil, teşvikin açıklamasıdır.
Politika açısından asıl zorluk, "sorumlu davranma" yaklaşımının (zararları incelemek ve bulgulara göre hareket etmek) kendi kendini cezalandırıcı bir hale gelmeyeceği bir sistem tasarlamaktır.
Meta'nın e-postasının şimdi ortaya çıkmasının nedeni: davalar ve delil toplama süreci
E-posta, Meta'nın zararlı tasarım tercihlerinin farkında olmasına rağmen Facebook ve Instagram'ı gençler için güvenliymiş gibi gösterdiği iddiasıyla ilgili bir davada, New Mexico Başsavcılığı tarafından yapılan incelemeler sonucunda kamuoyuna açıklandı.
Bu dava, çocuk güvenliği, gençlerin ruh sağlığı ve sosyal platformlar için ürün sorumluluğu teorilerine odaklanan daha geniş bir dava ve yasal baskı dalgasının yanında yer alıyor. Herhangi bir davanın sonucu ne olursa olsun, süreç önemlidir: delil toplama, iç tartışmaları kamuya açık kanıtlara dönüştürür.
Bunun iki ikincil etkisi vardır:
- Gelecekteki içsel yazım süreçlerini şekillendirir.Yöneticiler sadece ne yaptıklarına değil, bunu nasıl anlattıklarına da dikkat etmeye başlıyorlar.
- Gelecekteki araştırmalara şekil veriyor.Eğer bir araştırmanın siyasi açıdan son derece hassas sonuçlar doğuracak grafikler üretme olasılığı varsa, birileri bu araştırmanın yapılmaya değer olup olmadığını sorgulayacaktır.
“Apple bu konuların hiçbirini incelemiyor gibi görünüyor”: Buradaki argüman ne?
E-postada Apple ile bir karşılaştırma yapıldığı ve Apple'ın bu konuları aynı şekilde "incelemediği" ve bu nedenle eleştirilerin çoğundan kaçındığı öne sürülüyor.
Bu karşılaştırma eksik olsa bile (Apple güvenlik ve gizlilikle ilgili materyaller yayınlıyor ve diğer alanlarda da yoğun incelemeye tabi tutuluyor), asıl nokta şudur:ürün kategorisi ve risk yüzeyi:
- Sosyal medya platformları, küfür içerikli içerikler de dahil olmak üzere, kullanıcılar tarafından oluşturulan çok büyük miktarda içeriğe ev sahipliği yapıyor.
- Mesajlaşma ürünleri (özellikle uçtan uca şifrelenmiş olanlar), sağlayıcının inceleyebileceği şeyleri yapısal olarak sınırlandırır.
- Cihaz platformları sorumluluğu aşağıya doğru kaydırabilir ("kullanıcılar cihazlarında bunu yapıyor"), sosyal medya akışları ise editoryal bir yaklaşımla içeriği daha geniş kitlelere ulaştırmaya daha yakındır.
Dolayısıyla "neden daha az ısı alıyorlar?" sorusunun önemsiz olmayan bir teknik boyutu var.
Çocuk güvenliği perspektifi: Bildirim hacmi suçluluk duygusu gibi görünebilir.
Haberlerde öne sürülen argümanlardan biri, Meta'nın Ulusal Kayıp ve İstismar Edilen Çocuklar Merkezi'ne (NCMEC) çok sayıda çocuk cinsel istismarı materyali (CSAM) bildirdiğine işaret etmesi ve bu yüksek bildirim hacminin, nedenlerden biri kısmen şu olsa bile, "Meta'da daha fazla istismar var" şeklinde yorumlanabileceği yönündedir.daha fazla tespit ve raporlama.
NCMEC'in kendi kamuya açık verileri, bu yorumun karmaşıklığını göstermeye yardımcı oluyor. Örneğin, NCMEC 2024 yılında 20,5 milyon rapor (düzeltildiğinde 29,2 milyon olay) aldığını belirtiyor ve ayrıca raporların "gruplandırılması" gibi değişikliklerin, altta yatan suistimalin azaldığı anlamına gelmeden ham sayıları azaltabileceğini açıklıyor.
Sayımlar tek başına yetersiz bir araçtır. Önemli olan şudur:oranlar,tespit kapsamı, Veaşağı yönlü sonuçlar:
- Hesaplar ne kadar hızlı kapatılıyor?
- Suçlular tespit edilip kolluk kuvvetlerine teslim edildi mi?
- Çocuklar ne sıklıkla proaktif olarak korunuyor (örneğin, temas özelliklerini kısıtlamak, yetişkinlerin erişimini sınırlamak)?
- Yanlış pozitifler ve yanlış negatifler arasındaki denge nasıl işliyor?
Kamuoyu tartışması yalnızca "en büyük rakama kim sahip" sorusuna odaklandığında, şirketler gerçek rakamları olduğundan az bildirmeye veya ölçümleri olduğundan az yapmaya yönlendirilebilir.
Daha az araştırma yapmanın neden kötü olacağı - Meta için bile
E-postadaki endişeyi olduğu gibi kabul ederseniz, daha az ders çalışmanın "çözümü" cazip görünüyor: daha az ders, daha az slayt, daha az mahkeme celbi.
Ama bu aynı zamanda kendi kendini baltalayan bir durum.
1) Ölçmediğiniz şeyi geliştiremezsiniz.
Platform güvenliğiyle ilgili birçok sorun, sıralama, öneriler, iletişim mekanizmaları ve kötüye kullanıma yol açan döngüler gibi sistem sorunlarından kaynaklanmaktadır. Bunlar tek bir politika açıklamasıyla çözülemez. Ölçüm gerektirirler.
Şirket içi araştırma ve analizler olmadan, şirketin "güvenlik duruşu" şu hale gelir:
- tepkisel (skandallara yanıt veren)
- anekdot niteliğinde (en yüksek sesle şikayet edenlere güvenin)
- Denetlenemez (temel veriler yok, değerlendirme yok)
2) Düzenleyiciler her halükarda kanıt isteyeceklerdir.
Bir şirket hassas araştırmalardan kaçınmaya çalışsa bile, düzenleyiciler yine de şeffaflık raporları, risk değerlendirmeleri ve denetlenebilirlik talep edebilir. Başka bir deyişle: kanıtları gönüllü olarak üretmezseniz, bir başkası sizi üretmeye zorlayabilir ve artık bunu baskı altında yapmak zorunda kalırsınız.
3) Ayırt etme yeteneğinizi kaybedersiniz.ödünleritibarenihmal
E-postadaki ana tema, her şeyin dezavantajları olduğu için tüm önerilerin uygulanmasının mantıklı olmadığıdır.
Doğru. Ancak “X’i değerlendirdik ve Y’yi seçtik çünkü…” şeklinde bir argüman sunmanın tek inandırıcı yolu, gerekçelerinizi göstermektir. Aksi takdirde, geçiştirme gibi görünebilir.
Araştırma, "bize güvenin" ifadesini "işte model, deney, ölçülen sonuç ve karar notu" haline dönüştüren şeydir.
Daha derin sorun şu: dava açmak, kurum içi açıklığı bir yükümlülüğe dönüştürüyor.
Sağlıklı bir organizasyon dürüstlük ister: "Bu özellik zararlı olabilir", "Bu grup risk altında", "Bu ölçüt kötü görünüyor", "Sıralamayı değiştirmemiz gerekiyor."
Ancak dava süreçleri ve bilgi sızdırma dinamikleri, dürüstlüğü iki şekilde cezalandırabilir:
- Seçim etkisi:Yöneticiler hassas düşüncelerini yazılı olarak ifade etmeyi bırakıyorlar.
- Kültürel etki:Takımlar, "kötü" yanıtlar doğurabilecek sorulardan kaçınırlar.
Her iki etki de platformu daha kötü hale getiriyor.
Bu durum sadece Meta'ya özgü değil; tüketici teknolojisi ve kamu güvenliği alanlarının kesiştiği noktada faaliyet gösteren her şirket için genel bir sorun.
Daha iyi teşvikler nasıl olurdu?
Toplum, zararları ölçmek ve azaltmak için platformlar istiyorsa, bu yolun sürdürülebilir olmasını sağlamalıdır.
Politika çevrelerinde sıkça karşımıza çıkan birkaç pratik fikir:
1) İyi niyetli iç güvenlik araştırmaları için güvenli limanlar
Şirketlerin, zararlara ilişkin belgelenmiş, iyi niyetli araştırmalar yürüttüklerinde ve bulgulara dayanarak anlamlı adımlar attıklarında sınırlı bir koruma elde ettikleri bir çerçeve hayal edin; bu, bazı güvenlik açısından kritik sektörlerin olay raporlamasını ele alma biçimine benzer bir anlayışa sahip olabilir.
Bu, yanlış yapanlara dokunulmazlık anlamına gelmez. Bu, yanlış yapma teşvikini azaltmak anlamına gelir.bilerek cahil kalmak.
2) Standartlaştırılmış, denetlenmiş raporlama (böylece karşılaştırmalar adil olur)
Eğer her platform güvenlik ölçütlerini farklı tanımlar kullanarak raporluyorsa, ham sayılar birer silaha dönüşür.
Standart tanımlar, üçüncü taraf denetimleri ve daha net rakamlar (kullanıcı başına oranlar, mesaj başına oranlar, görüntüleme başına oranlar) "daha fazla rapor verdik" ifadesini bir halkla ilişkiler tuzağı olmaktan çıkaracaktır.
3) Güvenlik araştırmaları ile ürün geliştirme teşvikleri arasındaki ayrım
Güvenlik araştırmaları, büyüme hedefleriyle aynı komuta zinciri içinde yer aldığında, siyasi açıdan sakıncalı hale gelebilir.
Yapısal ayrım – tam bağımsızlık olmasa bile – güvenlik sorularının sorulmaya devam etmesini sağlamaya yardımcı olabilir.
4) Metriklerin ne anlama geldiği konusunda kamuoyunun daha iyi bilgilendirilmesi
Kamuoyundaki tartışmalar genellikle iç araştırmaları bir itiraf gibi ele alıyor.
Bazen öyledir. Ama bazen de tam tersidir: şirketin arayış içinde olduğunun bir işaretidir.
Daha olgun bir okuryazarlık şu soruyu sorardı:
- Zararın ölçümü sorumluluk bilinciyle yapıldı mı?
- Bulgular uygun denetim altında paylaşıldı mı?
- Hangi risk azaltma önlemleri test edildi?
- Sonuç olarak ne değişti?
Sırada ne izlenecek?
E-posta, ortaya konan unsurlardan sadece biridir. Daha geniş kapsamlı hikaye ise üç güç arasındaki gerilimdir:
- Şeffaflık:Platformların neler bildiğini öğrenmek istiyoruz.
- Hesap verebilirlik:Zararlar göz ardı edildiğinde sonuçların olmasını isteriz.
- Öğrenme sistemleri:Sürekli ölçüm yapabilmek ve gelişmek için platformlara ihtiyacımız var.
Bu güçler hizalanmadığında, denge sonucu ters bir hal alabilir: daha az ölçüm, daha az dürüstlük ve daha yavaş iyileşme; üstelik kamuoyunun öfkesi de artarken.
İnternetin en iyi versiyonu, platformların kendi araştırmalarını gizlediği bir versiyon değil. İç araştırmaların rutin hale geldiği, denetlendiği ve ürün değişikliklerini yönlendirmek için kullanıldığı; yasal ve siyasi sistemin ise "zararı inceledik ve iyileştirme yaptık" ile "zararı inceledik ve bilerek hiçbir şey yapmadık" arasında ayrım yapabildiği bir versiyondur.
Özetle
Zuckerberg'in gizliliği kaldırılan e-postası, bir "tuzak" olmaktan ziyade, teşvikler hakkında bir ipucu olarak önem taşıyor.
Ciddi iç güvenlik ve sosyal sorunlar araştırması yapmanın itibar ve yasal risklere yol açması durumunda, şirketler bu tür araştırmaları daha az yapacak ve kamuoyu bundan olumsuz etkilenecektir.azGerçek risklere ilişkin görünürlük.
Politika hedefi, platformları araştırma yaptıkları için utandırmak olmamalı. Hedef, ölçülebilir iyileştirmeler talep etmek olmalıdır.VeSorumlu ölçümü istisna değil, varsayılan durum haline getiren teşvikler oluşturun.
Kaynaklar
- https://www.theverge.com/report/874176/meta-zuckerberg-new-mexico-email-teen-girls-research
- https://www.theverge.com/2023/12/6/23990445/facebook-instagram-meta-lawsuit-child-predators-new-mexico
- https://www.missingkids.org/gethelpnow/cybertipline/cybertiplinedata
- https://about.fb.com/news/2024/01/our-work-to-help-provide-young-people-with-safe-positive-experiences/