Twitter’ın eski güven ve güvenlik başı, merkezi olmayan sosyal platformların karşılaştığı zorlukları detaylandırıyor

Yoel Rothdaha önce Twitter’ın güven ve güvenliğinin başı, şimdi maçta, açık sosyal ağın geleceği ve çocuk cinsel istismar materyali (CSAM) gibi yanlış bilgilendirme, spam ve diğer yasadışı içeriklerle mücadele etme yeteneği hakkındaki endişelerini paylaşıyor. Yakın zamanda yapılan bir röportajda Roth, Fediverse için mevcut ılımlı araçların eksikliğinden endişe duyuyor – Mastodon, Threads, Pixelfed ve diğerleri gibi uygulamaları ve Bluesky gibi diğer açık platformları içeren açık sosyal ağ.

Ayrıca, Başkan Trump’ı platformdan yasaklama kararı, Rus bot çiftlikleri tarafından yayılan yanlış bilgilendirme ve CEO Jack Dorsey de dahil olmak üzere Twitter’ın kendi kullanıcılarının botlara nasıl avlandığı gibi, Twitter’daki güven ve güvenlik alanındaki kilit anları hatırlattı.

Podcast’te Revolution.social ile @RabbleRoth, açık sosyal ağda daha demokratik olarak çevrimiçi topluluklar oluşturma çabalarının da ılımlılık araçları söz konusu olduğunda en az kaynağa sahip olan çabalarının olduğuna dikkat çekti.

“… Mastodon’a bakmak, ActivityPub’a dayalı diğer hizmetlere bakmak [protocol]Bluesky’ye ilk günlerinde baktığımızda ve daha sonra meta geliştirmeye başladığında ipliklere baktığımızda, gördüğümüz şey, topluluk temelli kontrole en çok eğilen hizmetlerin çoğunun topluluklarına politikalarını yönetebilmek için en az teknik araçlar vermesiydi ”dedi.

Ayrıca, Twitter’ın bir zamanlar sahip olduğu şeffaflık ve karar meşruiyeti söz konusu olduğunda, açık sosyal ağda “oldukça büyük bir backslide” gördü. Muhtemelen, o zamanlar birçoğu Twitter’ın Trump’ı yasaklama kararına katılmasa da, şirket bunu yapması gerekçesini açıkladı. Şimdi, sosyal medya sağlayıcıları, kötü aktörlerin onları oynamasını önlemekten o kadar endişe duyuyorlar ki nadiren kendilerini açıklıyorlar.

Bu arada, birçok açık sosyal platformda, kullanıcılar yasaklanmış yayınları hakkında bir bildirim almayacaklardı ve yayınları yok olacaktı – gönderinin eskiden var olduğunun başkalarına bir gösterge bile yoktu.

“Yeni başlayanlar ya da tüm çan ve ıslıklardan yoksun olduğu için yeni yazılım parçaları veya yeni yazılım parçaları suçlamıyorum, ancak projenin tüm amacı yönetişimin demokratik meşruiyetini arttırıyorsa ve yaptığımız şey yönetişime geri adım atmak, o zaman bu gerçekten işe yaradı mı?” Roth harikalar.

Ilımlılık ekonomisi

Ayrıca, ılımlılık ekonomisi ve federasyonlu yaklaşımın bu cephede henüz nasıl sürdürülebilir olmadığı konusundaki sorunları da gündeme getirdi.

Örneğin, IFTA (Bağımsız Federated Güven ve Güvenlik) adlı bir kuruluş, Federvere ile CSAM ile mücadele için araçlara erişim sağlamak da dahil olmak üzere Fedevre için ılımlılık araçları oluşturmak için çalışıyordu, ancak parası tükendi ve Birçoğunu kapatmak zorunda kaldı 2025’te daha önce projelerinin.

“İki yıl önce geldiğini gördük. IFTas’ın geldiğini gördük. Bu alanda çalışan herkes büyük ölçüde zamanlarını ve çabalarını gönüllü olarak yapıyor ve bu sadece şimdiye kadar gidiyor, çünkü bir noktada aileleri var ve fatura ödemeleri gerekiyor ve belirli kötü içerik türlerini tespit etmek için ML modellerini çalıştırmanız gerekiyorsa maliyetleri hesaplamaları gerekiyor” diye açıkladı. “Her şey pahalı hale geliyor ve güven ve güvenlik için bu federasyon yaklaşımının ekonomisi asla bir araya geldi. Ve bence hala değil.”

Bu arada Bluesky, moderatörleri istihdam etmeyi ve güven ve güvenlik içinde işe almayı seçti, ancak kendini kendi uygulamasının denetlenmesi ile sınırlandırıyor. Ayrıca, insanların kendi ılımlılık tercihlerini özelleştirmelerini sağlayan araçlar sağlıyorlar.

Roth, “Bu işi ölçeklendiriyorlar. Açıkçası iyileştirme için yer var. Onların biraz daha şeffaf olmalarını çok isterim. Ama temelde doğru şeyleri yapıyorlar” dedi. Bununla birlikte, hizmet daha da merkezsizleştikçe, Bluesky bireyi topluluğun ihtiyaçları üzerinde korumanın sorumluluğu olduğu hakkında sorularla karşılaşacak.

Örneğin, Doxxing ile, birisinin ılımlılık araçlarını nasıl yapılandırdıkları için kişisel bilgilerinin çevrimiçi olarak yayıldığını görmemesi mümkündür. Ancak, kullanıcı ana Bluesky uygulamasında olmasa bile, bu korumaları uygulamak hala birisinin sorumluluğu olmalıdır.

Gizlilik çizgisini nereden çizmeli

Fediver’in karşılaştığı bir diğer konu da gizliliği destekleme kararının ılımlılık girişimlerini engelleyebileceğidir. Twitter, ihtiyaç duymadığı kişisel verileri depolamamaya çalışırken, hizmete, cihaz tanımlayıcılarına ve daha fazlasına eriştiklerinde kullanıcının IP adresi gibi şeyler topladı. Bunlar, Rus trol çiftliği gibi bir şeyin adli analizini yapması gerektiğinde şirkete yardımcı oldu.

Bu arada Fediver yöneticileri, gerekli günlükleri bile toplayamayabilir veya kullanıcı gizliliğinin ihlali olduğunu düşünüyorlarsa onları görmeyebilir.

Ama gerçek şu ki, veri olmadan, kimin gerçekten bir bot olduğunu belirlemek daha zor.

Roth, Twitter günlerinden itibaren birkaç örnek sundu ve kullanıcıların aynı fikirde olmadıkları herkese “bot” yanıtlamasının nasıl bir eğilim haline geldiğini belirtti. Başlangıçta bir uyarı kurduğunu ve tüm bu yayınları manuel olarak incelediğini, yüzlerce “bot” suçlamasını inceleyerek ve hiç kimse haklı olmadığını söyledi. Twitter kurucu ortağı ve eski CEO’su Jack Dorsey bile kurban, retweeting görevlerini üstlendi Crystal Johnson olduğunu iddia eden bir Rus aktördenNew York’tan siyah bir kadın.

Roth, “Şirketin CEO’su bu içeriği beğendi, güçlendirdi ve bir kullanıcı olarak Crystal Johnson’ın aslında bir Rus trol olduğunu bilmenin hiçbir yolu yoktu” dedi.

AI rolü

Zamanında bir tartışma konusu AI’nın manzarayı nasıl değiştirdiğiydi. Roth, Stanford’dan siyasi bir bağlamda, büyük dil modellerinin (LLM’ler) uygun şekilde ayarlandığında insanlardan daha ikna edici olabileceğini tespit eden son araştırmalara atıfta bulundu.

Bu, yalnızca içerik analizine dayanan bir çözümün yeterli olmadığı anlamına gelir.

Bunun yerine, şirketlerin diğer davranışsal sinyalleri izlemesi gerekiyor – bazı varlık birden fazla hesap oluşturuyorsa, yayınlamak için otomasyonu kullanıyorsa veya günün garip saatlerinde farklı zaman dilimlerine karşılık gelen tuhaf zamanlarda yayınlamak gibi.

Roth, “Bunlar gerçekten ikna edici içerikte bile gizli olan davranışsal sinyaller. Ve bence buna başlamanız gereken yer burası” dedi. “İçeriğe başlıyorsanız, önde gelen AI modellerine karşı bir silah yarışındasınız ve zaten kaybettiniz.”