İngiltere ve Galler Kraliyet Savcılık Servisi'nde (CPS) görevli kıdemli bir savcının, Yüksek Mahkeme'deki kritik bir davada yapay zekânın ürettiği tamamen hayali bir emsal karara dayanması adalet sisteminde yeni bir kriz yarattı. Bir çocuğun yargılanması sürecinde uydurma bir mahkeme kararına atıfta bulunulması, yapay zekâ halüsinasyonlarının yargı mekanizmasına sızmasına ilişkin ciddi endişeleri yeniden alevlendirdi. Olmayan kararla çocuğun yargılanması savunuldu Olay, 7 yaşındaki kız kardeşine yönelik cinsel saldırı iddiasıyla suçlanan ve olay tarihinde 11 yaşında olan bir erkek çocuğun yargılanma kararına yapılan itiraz sırasında ortaya çıktı. Çocuğun avukatları sosyal hizmet uzmanları, gençlik çalışanları ve adli psikologların görüşlerinin savcılıkça dikkate alınmadığını belirterek davanın düşürülmesini talep etti. Buna karşılık CPS'in Tecavüz ve Ağır Cinsel Suçlar Birimi'nde görevli kıdemli savcı Ravinder Dhillon, çocuğun yargılanması gerektiğini savunurken "CPS – R v J [2024] EWCA Crim 3529" numaralı detaylı bir emsal karara atıfta bulundu ancak yapılan incelemede böyle bir mahkeme kararının hiçbir zaman var olmadığı anlaşıldı. Ekim ayında hatasını kabul eden savcı, internet araması sırasında karşılaştığı yapay zekâ özetindeki hayali kararı aldığını ve aslında 15 yıl önceki gerçek bir davayı kastettiğini öne sürdü. Yüksek Mahkeme yargıçları bu açıklamayı "yetersiz" buldu. "Devlet gücü adına kabul edilemez bir hata" Yargıda yapay zekâ kullanımını araştıran Maynooth Üniversitesi Hukuk Fakültesi Öğretim Üyesi Doç. Dr. Brian Flanagan, bir çocuğun yargılanmasını savunmak için var olmayan bir kaynağın kullanılmasını "vahim bir başarısızlık" olarak nitelendirdi. Flanagan, zaman kazanma hırsıyla yapay zekâya başvurmanın yargıya duyulan güveni temelden sarstığını ve bir kamu savcısının bunu yapmasının devletin muazzam gücü düşünüldüğünde durumu daha da tehlikeli kıldığını vurguladı. Yüksek Mahkeme, bu hayali atfın davanın sonucunu değiştirmediğini ve çocuğun gençlik mahkemesindeki duruşmasının devam edeceğini belirtse de benzer vakaların artışı dikkat çekiyor. Yaşanan bu son olay, İngiltere'de doğrulanmış, şüpheli veya ihtilaflı yapay zekâ hatalarını kaydeden takip listesindeki vaka sayısını 101'e yükseltti. CPS, kurumun yapay zekâ kullanımına ilişkin katı kuralları olduğunu ve bu teknolojinin asla nihai hukuki kararlar almak için kullanılamayacağını savundu. Bir sözcü, hatanın internet üzerinden yapılan bir araştırma kaynaklı olduğunu, durumun tespit edilmesinin ardından derhal bir iç inceleme başlatılarak benzer başka bir vakanın bulunmadığının teyit edildiğini ve emsal kararların yalnızca güvenilir kaynaklardan doğrulanması kuralının personele yeniden hatırlatıldığını ifade etti. Uzmanlar ise savcılıkların ele aldığı dosyalardaki yüksek hassasiyet ve gizlilik gerektiren verilerin yapay zekâ araçlarıyla taranmasının ciddi gizlilik riskleri barındırdığı konusunda uyarıda bulunuyor.