Viral ırkçı ve antisemitik tiktok videoları Google’ın yeni AI video jeneratörü VEO 3 ile yapılmış gibi görünüyor, Media Matters’ın yeni bir raporuna göre.
Kâr amacı gütmeyen araştırma organizasyonu, nefret dolu videoların bazılarının yüz binlerce veya milyonlarca görüşe girdiğini buldu.
Bir Tiktok sözcüsü Mashable’a platformun nefret söylemine karşı sağlam politikaları olduğunu ve bunları uygulamak için kapsamlı teknolojiler ve ılımlılık süreçleri kullandığını söyledi.
Sözcü, Mashable’a bir e -postada, “Nefret dolu konuşma ve davranışlara karşı proaktif kurallar uyguluyoruz ve raporda belirlediğimiz hesapları kaldırdık, birçoğu rapor yayınlanmasından önce zaten yasaklandı.”
“Atlanta’daki Ortalama Waffle Home” olarak etiketlenmiş bir Tiktok, karpuz atan ve kızarmış tavuk kovalarını taşıyan maymunlar tarafından istila kurdu. Medya meseleleri bir Videonun ekran görüntüsü.
Google’ın Veo 3 AI video jeneratörü, şimdiye kadar gördüğünüz hiçbir şeye benzemiyor. Dünya hazır değil.
Bazı yorumcular videonun ırkçı stereotiplerini doğruladı. Bir kişi söz konusu“tüm davranışları… t’ye…”
A Farklı Tiktok Haziran ortasında en az 835.000 görüntüleme ile yüklendi, “AI sordum: ‘Ortalama Spirit Havayolları Deneyimi.” Videoda da uçağa tırmanarak maymunlar da yer aldı.
Medya meseleleri, belirlediği videoların en fazla sekiz saniye sürdüğünü, VEO 3’ün herkese açık olarak mevcut metin-video kliplerinin uzunluğunu söyledi. Videolar da köşede “Veo” etiketli veya kullanılmış hashtag’ler, altyazılar veya kullanıcı adları VEO 3 veya AI ile ilgili. Ayrıca AI tarafından oluşturulan videolarda yaygın olan hatalar, bozulmalar ve saçmalık metin içeriyorlar.
Medya Issues, kendisine tanımladığı kliplerin bir derlemesini yayınladı. Kendi YouTube Hesabı.
Püre Işık Hızı
Mashable, medya meseleleri raporu hakkında yorum yapmak için Google ile iletişime geçti, ancak yayın sırasında bir yanıt almamıştı.
Medya konuları Tiktok’ta görünen videolara odaklanırken, aynı sakıncalı kliplerden bazıları YouTube ve Instagram’a da gönderildi.
Bununla birlikte, Mashable’ın görüldüğü örneklerin çok daha az katılım vardı, bazen sadece birkaç yüz beğeni ve bir avuç yorum alıyordu, bu da kaldırılmadan önce Tiktok’ta viral olan içerik kadar yaygın olarak görülmediklerini gösteriyor.
Genel olarak, nefret dolu veya ırkçı içerik içeren Veo 3 ile oluşturulan videolar, Instagram dahil diğer sosyal medya platformları.
VEO 3 Mayıs ayı sonlarında piyasaya sürüldüğünde, Mashable teknoloji editörü Timothy Beck Wert, gerçekçiliğini hem “etkileyici” hem de “korkutucu” olarak nitelendirdi. Google, Werth’e Veo 3’ün yanlış bilgiye karşı önlemlerinin dijital filigranları içerdiğini ve AI güvenlik yönergeleri kullandığını söyledi.
Medya meseleleri tarafından tanımlanan AI tarafından üretilen videolar arasında suçluluk, gıda tercihleri ve eksik babalar hakkında siyah karşıtı klişeler vardı. Bazıları, beyaz bir memurun arabasından “siyah olanı” vurduğu da dahil olmak üzere siyah insanlarla polis karşılaşmalarını içeriyordu. Bu klip görüntülenmişti 14 milyondan fazla.
Klipler ayrıca Asya ve Güney Asya halkına karşı ırkçı görüntüleri tasvir etti ve altın madalyonun peşinden koşan Yahudi erkekler de dahil olmak üzere antisemitik stereotipleri tasvir etti.
Bir klip, bir milyon kez görüntüledibir Nazi toplama kampındayken vlogging, bir krematoryumun önünde duran bir gaunt adamı vardı. “Peki herkes burada harika zaman geçiriyor,” diyor adam. VEO 3 ile dakika süren videonun yapılıp yapılmadığı belirsiz.
AI tarafından üretilen başka bir stil, göçmenlere ve onları savunan protestoculara karşı şiddetle hareket etmeye odaklanmış gibi görünüyordu.
Videolar Google’ın nefret söylemi politikalarını ihlal ediyor gibi görünüyor. Google’ın oluşturucu AI politikası kullanıcıların nefret veya nefret söylemini kolaylaştıran içerik üretmesini veya dağıtmasını yasaklar; Başkalarının taciz ve kötüye kullanılması, şiddet veya şiddetin teşviki.
Tiktok nefret söylemini ve nefret dolu davranışları yasaklıyor Bu “bir kişiyi veya grubun korunan özelliklerine göre saldırı, tehdit etmeyi, insanlık dışı bırakmayı veya aşağılamayı içerir.”
GÜNCELLEME: 3 Tem, 2025, 13:02 PDT Hikaye, Tiktok’tan bir açıklama içerecek şekilde güncellendi.
