Babydoll ArchiBirkaç viral sosyal medya anı sayesinde Hindistan Instagram hissi Babydoll Archi’nin 1,4 milyona kadar ikiye katlaması sadece birkaç gün sürdü.
Biri, onu kırmızı bir sari içinde gösteren bir videodu, Romen şarkısı olan Dame Un Grr için baştan çıkarıcı bir şekilde dans etti. Ve platformda yayınlanan bir fotoğraf, Amerikan yetişkin movie yıldızı Kendra Lust ile poz verdiğini gösterdi.
Aniden herkes onu bilmek istedi – ve Babydoll Archi adı Google Arama’da tetiklendi ve sayısız mem ve hayran sayfası ortaya çıkardı. Ama ortaya çıkacak bir sorun vardı – çevrimiçi sansasyonun arkasında gerçek bir kadın yoktu.
Instagram hesabı sahte idi, ancak kullandığı yüz gerçek bir kadına esrarengiz benzerliğe sahipti – Assam’daki Dibrugarh Metropolis’de Sanchi dediğimiz bir ev hanımı.
Kardeşi bir polis şikayeti yaptıktan sonra gerçek çözüldü. Sanchi’nin eski erkek arkadaşı Pratim Bora tutuklandı.
Soruşturmaya başkanlık eden kıdemli polis memuru Sizal Agarwal, BBC’ye Sanchi ve Bora’nın düştüğünü ve yarattığı AI benzerliğinin kendisine “saf intikam” olduğunu söyledi.
Agarwal, Makine Mühendisi ve kendi kendine öğretilen bir yapay zeka (AI) meraklısı olan Bora, sahte bir profil oluşturmak için Sanchi’nin özel fotoğraflarını kullandığını söyledi.
Bora gözaltında ve henüz herhangi bir açıklama yapmadı. BBC ailesine ulaştı ve makaleyi konuştuklarında güncelleyecek.
Babydoll Archi 2020’de oluşturuldu ve ilk yüklemeler Mayıs 2021’de yapıldı. İlk fotoğrafların morphed olan gerçek resimleri olduğunu söyledi.
“Zaman geçtikçe Bora, bir AI sürümü oluşturmak için Chatgpt ve Dzine gibi araçları kullandı. Daha sonra kolu derin pasif fotoğraf ve videolarla doldurdu.”
Hesap geçen yıldan beğenileri almaya başladı, ancak bu yıl Nisan ayından itibaren çekiş kazanmaya başladı.
11 Temmuz gecesi Sanchi’nin ailesi tarafından gönderilen polise yapılan kısa iki paragraf şikayeti, bazı fotoğraf ve videoların çıktılarıyla kanıt olarak geldi.
Bayan Agarwal, kimsenin adını vermediğini, çünkü arkasında kimin olabileceğini bilmediklerini söylüyor.
ReutersBabydoll Archi polis için alışılmadık bir isim değildi. Agarwal, AI’nın üretildiğini tahmin eden medya raporları ve yorumları da gördüklerini, ancak bunun gerçek bir kişiye dayandığına dair bir öneri olmadığını söyledi.
Şikayeti aldıktan sonra polis Instagram’a hesabın yaratıcısının ayrıntılarını isteyen yazdı.
“Instagram’dan bilgi aldıktan sonra Sanchi’ye herhangi bir Pratim Bora tanıyıp tanımadığını sorduk. Bir kez doğruladıktan sonra, komşu Tinsukia bölgesindeki adresini izledik. 12 Temmuz akşamı onu tutukladık.”
Agarwal, polisin “dizüstü bilgisayarını, cep telefonlarını ve sabit disklerini ve banka belgelerini hesabı para kazandığından beri ele geçirdiğini” söyledi.
“Hesabın Linktree’de 3.000 aboneliği vardı ve ondan 1 milyon rupi kazandığına inanıyoruz. Tutuklanmasından sadece beş gün önce 300.000 rupi yaptığına inanıyoruz.”
Agarwal, Sanchi’nin “son derece perişan olduğunu – ama şimdi o ve ailesi danışmanlık alıyor ve daha iyisini yapıyorlar” diyor.
Agarwal, böyle bir şeyin gerçekleşmesini önlemenin gerçekten bir yolu yok, “ama daha önce hareket etmiş olsaydık, çok fazla çekiş kazanmasını engelleyebilirdik” dedi.
“Ama Sanchi’nin hiçbir fikri yoktu çünkü sosyal medya varlığı yok. Ailesi de bu hesaptan engellendi. Sadece viral hale geldiğinde farkına vardılar.”
Meta, davadaki BBC sorgularına yanıt vermedi, ancak genellikle çıplaklık veya cinsel içeriğin yayınlanmasına izin vermiyor. Ve geçen ay, CBS bildirildi Gerçek insanların görüntülerini kullanarak cinsel açıdan açık derin dişler oluşturmak için kullanılan AI araçlarını tanıtan bir dizi reklamı kaldırdı.
Getty Photos282 gönderisi olan Babydoll Archi’nin Instagram hesabı artık halka açık değil – sosyal medya fotoğrafları ve videoları ile dolu olsa da ve bir Instagram hesabı hepsine sahip gibi görünüyor. BBC Meta’ya bu konuda ne yapmayı planladıklarını sordu.
AI uzmanı ve avukat Meghna Bal, Sanchi’ye olanların “korkunç ama önlenmesi neredeyse imkansız” olduğunu söylüyor.
Mahkemeye gidip unutulma hakkını isteyebilir ve bir mahkeme, onu adlandırılan basın raporlarını devredilmesini emredebilir, ancak tüm izi internetten ovmak zordur.
Sanchi’ye olanın, fotoğraflarının ve videolarının intikam olarak dolaştığı kadınlara her zaman olan şey olduğunu söylüyor.
Bal, “Yapay zeka nedeniyle yapmak çok daha kolay, ancak bu tür olaylar hala beklediğimiz kadar yaygın değil – ya da damgalanma veya hedeflenen insanlar mevcut davada olduğu gibi bile bilmiyor olabilirler.” Ve onu izleyen insanların sosyal medya platformuna veya siber suç portalına bildirme teşviki olmadığını da sözlerine ekledi.
Bora’ya karşı yapılan şikayetlerinde polis, cinsel taciz, müstehcen materyalin dağılımı, iftira, itibara zarar vermek için sahtecilik, kişileştirme ve siber suçlarla hile ile ilgilenen hukuk bölümlerini çağırdı. Suçlu bulunursa, Bay Bora 10 yıla kadar hapis cezasına çarptırılabilir.
Son günlerde sosyal medyada da öfkeye yol açan dava, bazılarının bu tür davalarla başa çıkmak için daha zor yasalar aradığını gördü.
Bayan Bal, bu tür davalarla ilgilenmek için yeterli yasa olduğuna inanıyor, ancak yeni yasaların üretken AI şirketleriyle başa çıkma kapsamı olup olmadığı görülmeli.
“Ama aynı zamanda derin dişlerin mutlaka kötü olmadığını ve yasaların özenle hazırlanması gerektiğini hatırlamalıyız çünkü özgür konuşmayı üretmek için silahlandırılabilirler.”
BBC Information India’yı takip edin Instagram– YouTube, X Ve Facebook
