İngiltere hükümeti, yapay zeka ile üretilen çocuk istismarı görselleriyle mücadele etmek için dört yeni yasa çıkaracağını duyurdu. Yeni düzenlemeler kapsamında, çocuk istismarı içeriği üretmek, paylaşmak veya bulundurmak amacıyla geliştirilen yapay zeka araçları yasaklanacak. Bu suçu işleyenler beş yıla kadar hapis cezası alabilecek.

Hükümet ayrıca, yapay zeka kullanarak çocuk istismarını teşvik eden rehberlerin bulundurulmasını da yasadışı hale getirecek. Bu tür içeriklere sahip olanlar üç yıla kadar hapis cezasıyla karşı karşıya kalacak.

İçişleri Bakanı Yvette Cooper, BBC’ye verdiği röportajda, yapay zekanın çevrimiçi çocuk istismarını büyük ölçüde artırdığını belirterek, "Bu teknoloji, çocuk istismarını sanayileşmiş bir boyuta taşıyor. Hükümet olarak bu alandaki önlemlerimizi daha da ileriye taşımamız gerekebilir" dedi.

Çocuk istismarı siteleri işletenlere ağır cezalar
Yeni düzenlemeler, çocuk istismarı içeriğinin paylaşıldığı veya istismarcılara çocukları nasıl manipüle edebilecekleri konusunda rehberlik sağlayan web sitelerinin işletilmesini de suç kapsamına alıyor. Bu suçu işleyenler 10 yıla kadar hapis cezasına çarptırılabilecek.

Ayrıca, İngiltere’ye giriş yapmaya çalışan ve çocuklara yönelik cinsel risk oluşturduğu düşünülen kişilere yönelik yeni kontroller getirilecek. Sınır yetkilileri, bu kişilerin dijital cihazlarını inceleyebilecek. Eğer cihazlarında çocuk istismarı materyali bulunursa, suçun ağırlığına bağlı olarak üç yıla kadar hapis cezası verilebilecek.

Yapay zeka ile üretilen istismar görselleri endişe verici boyutta
Yapay zeka teknolojisi, gerçek çocukların yüzlerini farklı görsellere yerleştirerek veya onları soyunmuş gibi göstererek sahte istismar içerikleri üretebiliyor. Bazı durumlarda, mağdurların gerçek sesleri bile kullanılarak yeniden travmatize edilmelerine neden olunuyor. Ayrıca, bu sahte görseller, çocukları şantaj yoluyla daha fazla istismara maruz bırakmak için de kullanılıyor.

Ulusal Suç Ajansı (NCA) verilerine göre, her ay çocuklara yönelik çevrimiçi tehditlerle bağlantılı 800 tutuklama gerçekleştiriliyor. Kurum, Birleşik Krallık’ta çevrim içi ve fiziksel dünyada çocuklara tehdit oluşturan yaklaşık 840 bin yetişkinin bulunduğunu belirtiyor. Bu, yetişkin nüfusun yaklaşık yüzde 1,6’sına denk geliyor.

Uzmanlardan daha sıkı önlem çağrısı
Bazı uzmanlar, hükümetin attığı adımları olumlu karşılasa da daha fazlasının yapılması gerektiğini savunuyor. Hukuk profesörü Clare McGlynn, yeni yasaların önemli olduğunu ancak "önemli boşluklar" bulunduğunu ifade etti. McGlynn, çocukların görüntülerini değiştiren "soyundurucu" uygulamaların yasaklanması gerektiğini ve yetişkin aktörlerin çocuk gibi gösterildiği içeriklerin de suç kapsamına alınması gerektiğini söyledi.

İnternet İzleme Vakfı (IWF) verileri, yapay zeka ile üretilen çocuk istismarı görsellerinin giderek daha yaygın hale geldiğini gösteriyor. 2024 yılında, bu tür içeriklerin rapor edilme oranı %380 artarak 245’e yükseldi. Bir yıl önce bu sayı sadece 51’di. Ayrıca, 2023 yılında yapılan bir araştırma, karanlık ağdaki bir sitede bir ay içinde 3.512 yapay zeka ile üretilmiş çocuk istismarı görseli bulunduğunu ortaya koydu.

IWF’nin geçici CEO’su Derek Ray-Hill, "Bu içeriklerin varlığı, çocuklara yönelik cinsel şiddeti körüklüyor. İstismarcıları cesaretlendiriyor ve gerçek çocukları daha da büyük bir tehlikeye atıyor" dedi.

Çocukların güvenliği için daha fazla adım atılmalı
Çocuk hakları savunucuları, yeni düzenlemelerin önemli bir başlangıç olduğunu ancak teknoloji şirketlerinin de platformlarını çocuklar için daha güvenli hale getirmesi gerektiğini vurguluyor. Çocuklara yönelik çalışan Barnardo’s Vakfı’nın CEO’su Lynn Perry, "Teknolojik gelişmelere ayak uyduran yasalar olmadan bu suçların önüne geçemeyiz" dedi ve sosyal medya platformlarının daha güçlü güvenlik önlemleri alması gerektiğini belirtti.

Yeni yasalar, önümüzdeki haftalarda parlamentoya sunulacak olan Suç ve Polislik Yasası kapsamında yürürlüğe girecek.