Almanca konuşulan İsviçre’de bir ortaokulda yaşanan olay, yapay zekâ teknolojilerinin kötüye kullanımına ilişkin endişeleri yeniden gündeme taşıdı. 12-14 yaşlarındaki bazı erkek öğrencilerin, kız öğrencilerin fotoğraflarını kullanarak yapay zekâ destekli sahte çıplak görseller oluşturduğu ortaya çıktı. Olayla ilgili adli soruşturma başlatıldı.
Fotoğraflar ücretsiz bir sitede işlendi
Yerel basında yer alan bilgilere göre öğrenciler, ücretsiz hizmet veren bir internet sitesi üzerinden okuldan bazı kız öğrencilerin fotoğraflarını yükleyerek sahte görüntüler üretti. Hangi okulun ve hangi kantonun etkilendiği açıklanmadı. Yetkililer, mağdur çocukların korunması amacıyla ayrıntı paylaşılmadığını bildirdi.
Söz konusu platformun, kullanıcıların yüklediği görseller üzerinde saniyeler içinde “soyunma” efekti uygulayan yapay zekâ aracı sunduğu ve bunun açıkça tanıtıldığı ifade edildi. Siteye kayıt zorunluluğu bulunmadığı, yaş doğrulaması yapılmadığı ve hizmetin ücretsiz olduğu aktarıldı.
Görseller snapchat üzerinden paylaşıldı
Üretilen sahte görüntülerin, ilgili öğrencilerin rızası olmadan oluşturulduğu ve daha sonra Snapchat üzerinden yayıldığı belirtildi. Uzmanlar, bu tür içeriklerin hızla dolaşıma girmesinin mağdurlar üzerinde ciddi psikolojik ve sosyal etkiler yaratabileceğine dikkat çekiyor.
Hukuki boyutu ağır olabilir
Zürih Üniversitesi’nde görevli hukukçu Martin Wyss, rıza olmadan çıplak görüntü üretmenin veya göndermenin suç teşkil edebileceğini vurguladı. Uzmanlara göre içeriklerin gerçek olup olmaması hukuki değerlendirmeyi değiştirmiyor; çocuklara ait cinsel içerikli görsellerin üretilmesi ve yayılması, İsviçre hukukunda ağır yaptırımlara yol açabiliyor.
İsviçre’de ceza sorumluluğu yaşı 10’dan başlıyor. Bu nedenle olaya karışan öğrenciler hakkında çocuk ve gençlik ceza hukuku kapsamında işlem yapılabileceği belirtiliyor.
Uzmanlar artış uyarısı yapmıştı
Zürih Uygulamalı Bilimler Üniversitesi’nden kriminolog Dirk Baier’in yaklaşık bir yıl önce benzer vakalara karşı uyarıda bulunduğu hatırlatıldı. Baier, yapay zekâ ile deepfake üretiminin kolaylaşmasının bu tür olaylarda artışa yol açabileceğini öngördüğünü açıklamıştı.
Yaşanan gelişmenin ardından gençlik savcılığı olayla ilgili soruşturma başlattı. Olay, okullarda dijital güvenlik, mahremiyet ve yapay zekâ okuryazarlığı konularında daha sıkı önlemler alınması gerekliliğini yeniden gündeme taşıdı.
YASAL UYARI: Haber, fotoğraf ve videolarımızı link vermeden kullananlar hakkında hukuki süreç başlatılacaktır. ©ufuk.nl UMG (Ufuk Media Grubu)
