İngiltere ve Galler Yüksek Mahkemesi, avukatlara hukuki araştırmalarında ChatGPT gibi üretken yapay zeka (YZ) araçlarına bel bağlamanın riskleri hakkında uyarılarda bulundu.
Yargıç Victoria Sharp, bu tür araçların sağladığı yanıltıcı bilgilere dayanarak mahkemeye sunum yapan avukatların ciddi cezalara maruz kalabileceğini ifade etti.
YÜKSEK MAHKEMEDEN NET UYARI: “YAPAY ZEKA GÜVENİLİR DEĞİL”
Yargıç Sharp, verdiği kararda, üretken yapay zeka uygulamalarının “güvenilir hukuki araştırmalar gerçekleştirme yeteneğinin bulunmadığını” vurguladı.
Bu araçların belli bir düzeyde mantıklı yanıtlara ulaşabilmesine rağmen, aynı zamanda tamamen yanlış bilgi üretme potansiyeline sahip olduğu konusunda uyarıda bulundu.
Yargıç, avukatların yapay zekayı araştırmalarında kullanabileceklerini, ancak “mesleki uygulamalarında bu araçların sonuçlarını kullanmadan önce, güvenilir kaynaklara danışarak araştırmaların doğruluğunu teyit etme” yükümlülüklerinin bulunduğunu belirtti.
UYARININ ARKASINDAKİ SAHTE DAVA ÖRNEKLERİ
Bu karar, avukatların mahkeme süreçlerinde yapay zeka aracılığıyla oluşturulmuş sahte davalara ve tebligatlara atıfta bulundukları tespit edilen iki yeni davanın ardından alındı. Bir davada, bir avukatın sunduğu 45 alıntıdan 18’inin gerçekte mevcut olmadığı belirlendi.
Katar Ulusal Bankası ile ilgili 120 milyon dolarlık bir davada da, bir avukatın var olmayan 18 farklı davaya atıfta bulunduğu ortaya çıktı.
Müvekkil, yapay zeka tarafından üretilen hatalı veriler nedeniyle mahkemeyi istemeden yanıltmaktan ötürü özür dilemek zorunda kaldı.
HUKUKİ SONUÇLARI AĞIR OLABİLİR
Yargıç Sharp, sahte bilgileri gerçek gibi sunmanın mahkemeye karşı saygısızlık olarak değerlendirilebileceği ve en kötü senaryoların adaletin seyrini değiştirmesine yol açabileceği konusunda uyardı.
Bu tür durumlar, meslek kurallarına uymayan avukatlar için ağır para cezaları ile hapis cezalarına neden olabilecek sonuçlar doğurabilir.
