Uluslararası alanda faaliyet gösteren yüzü aşkın kuruluş, yapay zekâ kullanılarak kişilerin fotoğraflarını dijital ortamda “çıplak” hale getiren uygulamaların yasaklanması için ortak bir manifesto yayımladı. Hollanda’dan Amsterdam Belediyesi ile çevrim içi istismar konusunda uzman Offlimits kurumu da çağrıya destek verenler arasında yer aldı.
Manifestoda, “nudifying tools” olarak adlandırılan bu yazılımların dünya genelinde tamamen yasaklanması isteniyor. Özellikle kadınlar, kız çocukları ve çocukların görüntülerinin manipüle edilmesinde kullanılan bu teknolojilerin; cinsel istismar, şantaj ve psikolojik travma gibi ciddi riskler barındırdığı vurgulanıyor. Sosyal medya platformu X de kısa süre önce, yapay zekâ sohbet robotu Grok’un sahte çıplak görüntüler üretebilmesi nedeniyle gündeme gelmişti.
Manifestoya imza atan kuruluşlar, hükümetlere iki yıl içinde bu tür yazılımların kullanımını, dağıtımını ve satışını yasaklayan yasaların hayata geçirilmesi çağrısında bulunuyor. Ayrıca teknoloji şirketleri ve kamuoyuna da bu zararlı teknolojilere karşı sorumluluk almaları yönünde çağrı yapılıyor.
“Yasalar sınırda duruyor”
''Offlimits Yönetim Kurulu Üyesi Robbert Hoving, yapay zekâ ile üretilen sahte çıplak görüntülerin artık gerçeklerinden ayırt edilemediğini belirterek, bunun mağdurlar üzerinde gerçek görüntülerle aynı yıkıcı etkiyi yarattığını söyledi. Hoving, “Mağdurlar uyuyamıyor, okula gitmek istemiyor. Büyük panik yaşanıyor, hatta intihar düşüncelerine kadar varan durumlar görüyoruz” dedi.
Bu görüntülerin çoğunlukla şantaj amacıyla kullanıldığını ifade eden Hoving, kız çocuklarının ve genç kadınların cinsel içerikli şantaja (sextortion) maruz kaldığını, erkek çocuklarının ise para talebiyle tehdit edildiğini aktardı.
Hoving, Hollanda’da bu tür uygulamaların büyük bölümünün zaten yasak olduğunu, ancak sorunun sınırları aştığını vurguladı. “Eğer sadece tek bir ülkede yasaklarsanız ama başka ülkelerde serbest kalırsa, mağdurlar olmaya devam eder. Bu nedenle uluslararası düzeyde uyumlu bir yasaya ihtiyaç var” dedi.
Başvurularda yüzde 260 artış
Çağrı yalnızca hükümetlere değil, teknoloji şirketlerine ve topluma da yöneltiliyor. Şirketlerin geliştirdikleri araçların bu tür kötüye kullanımlara kapalı olmasını sağlaması gerektiğini söyleyen Hoving, toplumsal farkındalığın da hayati önemde olduğuna dikkat çekti. Okullarda bilgilendirme programlarının yaygınlaştırılması gerektiğini ifade etti.
Konu Hollanda siyasetinin de gündeminde. Kurulması beklenen yeni hükümetin dijital güvenliği önceliklerinden biri haline getirmesi ve cinsel içerikli deepfake’lere karşı ek önlemler almayı değerlendirdiği belirtiliyor. Hoving, mevcut yasal çerçevenin bazı imkânlar sunduğunu ancak her türlü ek odağın önemli olduğunu söyledi.
Sorunun boyutu ise Offlimits’in verileriyle ortaya konuyor. Kurumun yardım hattına başvuran mağdur sayısında geçen yıla kıyasla yüzde 260’lık bir artış yaşandığını belirten Hoving, bu durumun acil ve ortak bir uluslararası müdahalenin zorunlu olduğunu gösterdiğini ifade etti.
Nhaber.nl
