Hindistan sosyal medyasında son günlerde viral olan fenomen "Babydoll Archi" hesabının arkasındaki gerçek, ülke gündemine bomba gibi düştü. Cesur dans videoları ve yetişkin içerikli görsellerle Instagram'da bir milyonun üzerinde takipçi toplayan ve dünya çapında dikkat çeken hesap aslında bir yapay zeka projesiydi. Ancak olayın en çarpıcı yönü, kullanılan yapay yüzün gerçek bir kadına ait olması ve bu kadının tüm bu süreçten habersiz olmasıydı.
Sahte Fenomenin Gerçek Mağduru
Assam eyaletinin Dibrugarh kentinde yaşayan Sanchi (gerçek adı gizli tutuldu), hesabın yüzü olarak deepfake teknolojisiyle kullanıldı. Sanchi’nin ailesi, kızlarının görüntülerinin uygunsuz içeriklerde kullanıldığını fark edince 11 Temmuz gecesi polise başvurdu. Soruşturma kısa sürede sonuç verdi.
Eski Erkek Arkadaş Tutuklandı
Polis, yapılan teknik takip sonrası Sanchi’nin eski sevgilisi Pratim Bora’yı 12 Temmuz’da tutukladı. Mühendislik eğitimi alan ve yapay zeka konusunda yetkinliği olduğu belirtilen Bora'nın, Sanchi'nin özel fotoğraflarını kullanarak "Babydoll Archi" karakterini yıllar önce oluşturduğu anlaşıldı.
Deepfake ile İnşa Edilen Kariyer
İlk gönderiler 2021’de paylaşılmış olsa da hesap bu yılın başından itibaren geniş kitlelere ulaştı. İçerikler arasında yetişkin film yıldızlarıyla görseller, dans videoları ve cesur pozlar yer alıyordu. Hesap kısa sürede "influencer" statüsüne ulaştı, 1 milyon rupiden fazla (yaklaşık 470 bin TL) gelir elde ettiği ortaya çıktı.
Kolluk Kuvvetlerinden Meta’ya Baskı
Polis, Instagram’a resmi başvuru yaparak hesabın sahibine dair bilgi talep etti. Elde edilen veriler sonucu Bora tespit edilerek gözaltına alındı. Bora’nın dizüstü bilgisayarına, telefonlarına, banka hesaplarına ve sabit disklerine el konuldu.
Yasal Süreç ve Sosyal Medyada Öfke
Pratim Bora hakkında cinsel taciz, dijital dolandırıcılık, deepfake üretimi, kişilik haklarına saldırı ve itibar suikasti suçlamalarıyla dava açıldı. Suçlu bulunması durumunda 10 yıla kadar hapis cezası alabileceği belirtiliyor.
Uzmanlar Uyarıyor: “Engellemek Neredeyse İmkânsız”
Yapay zeka hukuku uzmanı Meghna Bal, yaşananların ürkütücü ancak gelecekte daha yaygın hale gelebilecek siber suçlara işaret ettiğini belirtti. Sosyal medyada görünürlüğü olmayan insanların bile bu tür saldırılara maruz kalabileceğini, mağdurların çoğunlukla habersiz kaldığını vurguladı.
“İnternetten izleri silmek neredeyse imkânsız. Unutulma hakkı var ama uygulaması zor. Yapay zekayla üretilen içeriklerin kötüye kullanımını önlemek için özel düzenlemelere ihtiyaç var,” dedi.
Meta’dan Hâlâ Yanıt Yok
Meta, Instagram’daki içerikler, deepfake uyarıları ve kullanıcı güvenliği ile ilgili BBC’nin sorularına henüz yanıt vermedi. Hesap şu anda erişime kapalı ancak içerikler farklı kullanıcılar tarafından hâlâ sosyal medya platformlarında paylaşılmaya devam ediyor.
