Teknoloji muhabiri
Getty PhotographsElon Musk’un AI video jeneratörü, çevrimiçi istismar konusunda uzman, Taylor Swift’in cinsel açıdan açık klipleri istemeden “kasıtlı bir seçim” yapmakla suçlanıyor.
“Bu kazara kadın düşmanlığı değil, tasarım gereği,” dedi pornografik derin davranışları yasadışı hale getirecek bir yasa hazırlanmasına yardımcı olan bir hukuk profesörü Clare McGlynn.
Buna göre The Verge tarafından bir raporGrook Think about’ın yeni “baharatlı” modu “, açık içerik yapması istenmeden pop yıldızının tamamen sansürsüz üstsüz videolarını tükürmekten çekinmedi.
Raporda ayrıca Temmuz ayında yasa haline gelen uygun yaş doğrulama yöntemlerinin mevcut olmadığını belirtti.
Grok’un arkasındaki şirkete yorum için yaklaşıldı.
Xai’nin kendisi Kabul edilebilir Kullanım Politikası “Kişilerin benzerliklerini pornografik bir şekilde tasvir etmeyi” yasaklar.
Durham Üniversitesi’nden Prof McGlynn, “Bu içeriğin istenmeden üretilmesi, çok fazla AI teknolojisinin kadın düşmanı önyargısını gösteriyor.” Dedi.
“X gibi platformlar seçmiş olsaydı bunu engelleyebilirdi, ancak kasıtlı bir seçim yapmışlardı.”
Taylor Swift’in imajı bu şekilde ilk kez kullanılmadı.
Yüzünü kullanarak cinsel açıdan açık derin dişler viral oldu ve görüntülendi milyonlarca kez Ocak 2024’te X ve Telegram’da.
Deepfores, bir kişinin yüzünü diğerinin yerini alan bilgisayar tarafından oluşturulan görüntülerdir.
‘Tamamen sansürsüz, tamamen maruz kalan’
Grok Think about’ın korkuluklarını check ederken, Verge haber yazarı Jess Weatherbed “Taylor Swift Coachella’yı erkeklerle kutluyor” istemine girdi.
Grok, arkasında bir grup adamla bir elbise giyen Swift’in hala görüntüleri üretti.
Bu daha sonra dört farklı ayarın altında kısa video klipler halinde canlandırılabilir: “regular”, “eğlenceli”, “özel” veya “baharatlı”.
“O yırtıldı [the dress] Hemen kapalı, altındaki püsküllü bir tanga dışında hiçbir şey yoktu ve dans etmeye, tamamen sansürsüz, tamamen maruz kalmaya başladı. “
“Ne kadar hızlı karşılaştığım şok oldu – hiçbir şekilde kıyafetlerini çıkarmasını istemedim, yaptığım tek şey ‘baharatlı’ seçeneği seçmekti.”
Gizmodo bildirdi Benzer şekilde ünlü kadınların açık sonuçları, bazı aramalar da bulanık videolar veya “video ılımlı” mesajla iade etti.
BBC, AI video nesillerinin sonuçlarını bağımsız olarak doğrulayamadı.
Weatherbed, yepyeni bir Apple hesabı kullanarak 30 £ ‘a mal olan Grok Think about’ın ücretli sürümüne kaydolduğunu söyledi.
Grok doğum tarihini istedi, ancak başka bir yaş doğrulaması olmadığını söyledi.
Altında Yeni İngiltere yasaları Temmuz sonunda yürürlüğe giren, açık görüntüler gösteren platformlar, “teknik olarak doğru, sağlam, güvenilir ve adil” yöntemleri kullanarak kullanıcıların yaşlarını doğrulamalıdır.
BBC Information’e verdiği demeçte, “Pornografik materyal üretebilen üretken AI araçları içeren siteler ve uygulamalar, Yasa kapsamında düzenleniyor.” Dedi.
“Genai araçlarının çevrimiçi alanda, özellikle çocuklar için oluşturabileceği artan ve hızlı gelişen riskin farkındayız ve platformların bu riskleri azaltmak için uygun önlemleri yerine getirmesini sağlamak için çalışıyoruz.” Dedi.
Yeni İngiltere yasaları
Şu anda, intikam pornolarında kullanıldığında veya çocukları tasvir ettiğinde pornografik derin dişler üretmek yasa dışıdır.
Prof McGlynn, tüm rıza dışı pornografik derin yaprakları yasadışı hale getirecek veya isteyecek yasada yapılan bir değişiklik hazırlanmasına yardımcı oldu.
Hükümet bu değişiklik yasasını yapmayı taahhüt etti, ancak henüz yürürlüğe girmedi.
“Her kadın, kimin samimi görüntülerine sahip olduğunu seçme hakkına sahip olmalı,” dedi Barones Owen Değişikliği önerdi Lordlar Kamarasında.
Girl Owen, BBC Information’e verilen bir açıklamada, “Bu modellerin bir kadının ünlü olup olmadığını rıza gösterme hakkını ihlal edecek şekilde kullanılmaması önemlidir.”
“Bu dava, Hükümetin neden Lordlar Değişikliklerini uygulamasında daha fazla geciktirmemesi gerektiğinin açık bir örneğidir.”
Bir Adalet Bakanlığı sözcüsü şunları söyledi: “Onay olmadan yaratılan cinsel açıdan açık derin kalıntılar aşağılayıcı ve zararlı.
Diyerek şöyle devam etti: “Toplumumuzu dile getiren kadınlara ve kızlara yönelik şiddete tahammül etmeyi reddediyoruz, bu yüzden yaratılışlarını olabildiğince çabuk yasaklamak için mevzuattan geçtik.”
Taylor Swift’in yüzünü kullanan pornografik derin dişler 2024’te viral hale geldiğinde, X platformdaki adını geçici olarak bloke etti.
O zamanlar X, görüntüleri “aktif olarak kaldırdığını” ve bunların yayılmasında yer alan hesaplara karşı “uygun eylemler” yaptığını söyledi.
Weatherbed, Verge’deki ekibin, bu olay nedeniyle GROK Think about özelliğini check etmek için Taylor Swift’i seçtiğini söyledi.
“Şimdiye kadar – yanlış bir şekilde – ünlülerin benzerliğini taklit etmelerini önlemek için herhangi bir tür güvenceyi koymuş olsaydı, sahip oldukları sorunlar göz önüne alındığında, listede birinci olacağını varsaydık.” Dedi.
Yorum için Taylor Swift’in temsilcileri ile iletişime geçildi.
