Hukuk Ansiklopedisi
Yargıda Yapay Zekanın Kullanımı ve Etik Değerler / Av. Şebnem Kartal
Günümüzün hızla dijitalleşen dünyasında, yapay zeka, hukuk sistemini daha etkili, verimli ve adil hale getirmek için yargı alanında da etkili bir rol oynamaya başlamıştır. YZ, mahkeme kararlarının tahmin edilmesinden hukuki belge incelemelerine kadar bir dizi alanda kullanılmaktadır. Dolayısıyla yapay zekanın yargı alanındaki kullanımı, olumlu ve olumsuz yönleri, hukuk sistemlerinin dijitalleşme sürecinde ortaya çıkan zorluklar ve fırsatlar dikkatlice ele alınmalıdır. Ancak bir yandan da bu teknolojinin yargıdaki kullanımı, bazı önemli etik sorunları gündeme getirdiğinden, etik sorunlar ve yargı etiği üzerine odaklanmak da bu konuda büyük önem taşımaktadır.
Dünyanın dört bir yanında, yargı sisteminde yapay zeka teknolojilerinin kullanılmaya başlanması, hukuki süreçleri hızlandırmak, maliyetleri azaltmak ve daha iyi kararlar almak amacını taşımaktadır. Belgelerin incelenmesi, dijital araştırmanın yapılması, hukuki analiz, problem tespiti ve çözümü, hukuki danışmanlık, sözleşme ve dilekçelerin analizi ve hazırlanması, akıllı sözleşmelerin üretilmesi ve kullanımı, yabancı dildeki karar ve kaynakların çevirileri ve analizi, Suç Önleme ve Soruşturma, Mahkeme Kararları Tahmini, Adil Ceza Hesaplamaları gibi alanlar bunlara verilebilecek örneklerdendir.
Bu kullanımlar ile hukuk büroları ve avukatlar hem zamandan kazanır, hem de dikkatlerini daha stratejik görevlere ayırabilirler. Binlerce belgeyi tarama, sınıflandırma, analiz gibi işlemler pek çok büroda ciddi zaman almakta ve iş yükü yaratmaktadır. Son günlü işlerin kaçması ihtimali dahi kimi zaman meslek mensuplarında anksiyeteye sebep olmaktadır. Yapay zekalı yazılımlar sayesinde kendilerinin ve ekiplerinin görevlerini planlayabilir, tek veya birden fazla kişi birlikte çalıştığında dahi son günlü işleri rahatlıkla takip edebilir, binlerce belgeden oluşan bir dava dosyası veya içtihatlardan oluşan bir veritabanı rahatlıkla bir insanın yapabileceğinden çok daha hızlı bir şekilde ve daha sağlıklı sonuçlara varabilecek şekilde incelenebilir, analiz edilerek hukuki argümanlar geliştirilebilir. Ayrıca bu süreçte bir insanın yoğunluktan veya çeşitli biyolojik veya psikolojik sebeplerle dikkatinden kaçabilecek hususlar hiç var olmadan, hak kayıpları yaşanması da önlenebilir.
Yine yapay zeka destekli chatbot yazılımları ve sanal asistanlarla, hukuk büroları müşteri hizmetleri yönetimini ve cevaplanması gereken soruların tespitini daha hızlı ve rahat yapabilirler. Müvekkil veya müvekkil adayları, onlar uyurken dahi 7/24 onlara ulaşabilir hale gelir. Ayrıca hukukçu ve avukatlar, hukuki belgeleri veya sözleşmeleri hazırlama konusunda, sıfırdan uğraşmak yerine yapay zekadan faydalanarak yazım işlerinde de zamandan kazanabilir.
Elbette bu yazılımlar, avukat ile çalışmadan kendi hukuki sorunlarını çözmeye çalışan kişilere de kimi zaman açıktır, ancak böyle zamanlarda genellikle yazılımlar, avukatlardan destek alınması gerektiği ve bilgilerin tam ve güvenilir olamayabileceği, yardım alanın ülkesinin hukukuna uymayabileceği gibi uyarılar da vermektedir. Zira bu tür bir kullanımın hizmet almaya çalışanlar için hak kaybı yaşatması da kaçınılmaz olacaktır.
Diğer yandan yapay zekanın doğruluğundan hiç şüphe etmeden ondan faydalanan avukatın da kimi zaman yanlış ve uyumsuz sonuçlara varması olasıdır, bu yüzden kendi dikkat, bilgi ve tecrübesini işin içine katması gerekir, yani amaç aslında tümüyle kontrolü ona vermek değil ondan faydalanmak olmalıdır.
Bunun yanında sadece avukatlar ve hukuk büroları değil, kolluk kuvvetleri ve mahkemeler tarafından da bu teknolojinin aktif olarak kullanıldığından bahsetmek mümkün. Polis departmanları ve güvenlik kuruluşları, suç öncesi belirtileri tespit etmek ve suçları çözmek için yapay zeka tabanlı analizler kullanabilirler. Örneğin, güvenlik kameraları ve sosyal medya verileri üzerinden suçlarla ilgili ipuçlarını tespit edebilirler. Yapay zeka, benzer olayların yaşandığı veya kararların verildiği davalara dayalı olarak mahkeme kararlarını da önceden tahmin edebilir. Yapay zeka, bir suçlu için uygun cezanın hesaplanmasına yardımcı olabilir. Ceza hesaplamalarında tarafsızlığı ve adilliği artırabilir.
Hakimler de karar verirken bu tür yazılımlardan faydalanabilir veya yazılımlar robothakim olarak görev yapabilir. Zira geliştirilen algoritmalar, artık davaları hem yasal hem ahlaki boyutlarıyla inceleyebilir hale gelmiştir. Yapay zekalı hakimler veya hukuki kararları otomatikleştirmek amacıyla kullanılan yapay zeka sistemleri dünya genelinde geliştirilmekte olsa da, şu an için tamamen yapay zeka tarafından yönetilen bir hakim veya mahkeme sistemi henüz uygulanmamaktadır. Ancak bazı ülkelerde yapay zeka ve otomasyon teknolojileri, hukuki süreçleri ve mahkeme kararlarını desteklemek, insan hatasıyla atlanabilecek hukuki aşamaları mevcut kılmamak, yerel ve üst mahkemenin yargı yükünü hafifletmek, yargı sürecini hızlandırmak ve insan olmanın davaya muhtemel olumsuz etkilerinden ari, daha adil kararlara ulaşabilmek amacıyla kullanılmaktadır. Bu kullanımlar, hukukun daha hızlı ve verimli bir şekilde uygulanmasına yardımcı olmayı amaçlamaktadır.
Örneğin, İsrail’de, trafik cezalarının otomatik olarak verildiği ve ödenmeyen cezaların yapay zeka tarafından işlendiği bir sistem bulunmaktadır. Hindistan’da, hukuk mahkemelerinde yapay zeka tabanlı sistemler, büyük veri analizi yaparak mahkeme kararları ve yargılama süreçlerini optimize etmek için kullanılmaktadır. Amerika Birleşik Devletleri’nde bazı eyaletlerde, özellikle trafik cezaları ve park ihlalleri gibi basit davalarda otomatik karar verme sistemleri kullanılmaktadır. Çin’de, bazı mahkemelerde yapay zeka, dava belgelerini incelemek ve mahkeme kararlarını tahmin etmek için kullanılmakta ve robot hakimler ile fikri mülkiyet ve bilişim hukuku gibi alanlarda, bazı idari davalarda mahkeme hakimi olarak karar vermekte ayrıca arabuluculuk, icra gibi işlemleri gerçekleştirmektedir.
Görüldüğü üzere bu sistemlerin genellikle daha basit ve rutin davalarda kullanıldığını da ortadadır. Daha karmaşık hukuki meseleler genellikle insan hukukçuların müdahalesini gerektirir. Ayrıca, yapay zekanın yargı sistemindeki kullanımı etik ve yasal sorunları da beraberinde getirebilir ve bu nedenle dünya genelinde dikkatle incelenmektedir. Yapay zeka sistemlerinin eğitimindeki veri setlerinin ve algoritmaların adalet ve eşitlik ilkelerine uygun olması çok önemlidir.
Yapay zekanın yargı alanında kullanılması örneklerinde, nasıl etik sorunlar doğurabileceği konusuna eğilirsek, bu kullanımın potansiyel etik sorunlarından bazılarını sıralamak faydalı olacaktır. Veriye dayalı önyargılar, şeffaflık ve ifade özgürlüğü, gizlilik ve kişisel verilere dair sorunlar, kararların denetimi, insan hakları, cezanın adaletli olması, işsizlik kaygısı, Bağımsızlık ve Tarafsızlık gibi konular potansiyel sorunlara örnek verilebilir.
Yapay zeka sistemleri, eğitildikleri veri setlerindeki önyargıları öğrenebilirler. Eğer eğitim verilerinde ırk, cinsiyet, cinsel yönelim veya diğer hassas faktörlere dayalı önyargılar varsa, yapay zeka sistemleri bu önyargıları yargılamalara yansıtabilir. Bu, adaleti ve eşitliği tehlikeye atabilir. Diğer yandan bazı yapay zeka algoritmaları sonuçlarını açıklamakta veya neden bir karar aldıklarını açıklamakta zorlanabilirler. Bu, mahkeme kararlarının şeffaflığını tehlikeye atabilir ve vatandaşların haklarını ve özgürlüklerini sorgulayabileceği bir duruma yol açabilir.
Ayrıca yapay zeka sistemleri, büyük miktarda kişisel veriye ihtiyaç duyarlar ve bu verilerin korunması ve gizliliği önemlidir. Ancak bu verilerin kötü niyetli kişiler tarafından kullanılma veya sızdırılma riski vardır. Suç tahmini ve ceza önerileri gibi alanlarda kullanıldığında, insan hakları ile ilgili sorunlar gündeme gelebilir. Hatalı tahminler veya öneriler, masum insanların haksız yere cezalandırılmasına yol açabilir. Programlandıkları veya eğitildikleri şekilde kararlar alabilirler. Bu, bu sistemlerin siyasi veya ideolojik etkilere maruz kalma riskini taşıyabilir. Kaldı ki yapay zeka tarafından alınan kararların itiraz edilmesi ve denetlenmesi zor olabilir. Bu, hukuki süreçlerin adaletini sorgulayabilir ve ayrıca doğrudan o ülkenin hukukuna uygun sonuçlar vermesi, yeni yasal düzenlemeleri sıkı sıkıya takip edebilir olması da tartışmalı olacaktır.
Avrupa Birliği, Ekonomik Kalkınma ve İşbirliği Örgütü OECD’nin yapay zekaya ilişkin olarak 2019’ da kabul ettiği beş ilkeden biri, Yapay zekâ sistemlerinin hukukun üstünlüğüne, insan haklarına, demokratik değerlere ve farklılıklara saygı duyacak şekilde tasarlanması, adil ve dürüst bir topluma erişmek için gerektiğinde insan müdahalesini mümkün kılan uygun önlemleri içermesi yönündedir.
Adaletin İşleyişini Geliştirici Hukuk Yargılama Usulü İlkeleri
Avrupa Konseyi Avrupa Adaletin Etkinliği Komisyonu (CEPEJ) ise 2018’de yayınladığı, “Yargılama Sisteminde Yapay Zeka Kullanımına Dair Etik Şart’ ile yargı sisteminde yapay zeka kullanılırken, kullanılan araçların ve sunulan hizmetlerin temel haklara saygılı ve uyumlu olması, ayrımcı kararlar verilmesine sebep olacak şekilde programlama ve önyargı içeren verilerin algoritmaya yerleştirilmemesi, veri güvenliğine önem verir şekilde sertifikalı kaynakların kullanılması, veri işleme yöntemlerinin erişilebilir ve anlaşılabilir olması, verilen kararda hangi algoritmaların kullanıldığının denetlenebilir ve açıklanabilir olması, her halükarda kullanıcı kontrolünde olma gibi ilkeler belirlemiştir.
Bu doğrultuda bir yazılım tüm etik şartları yerine getirse dahi, hakimin vicdani kanaati, insan iç görüsü, duyguları algılayabilme gibi konulardaki eksiklikler, toplum tarafından kabulünde engel teşkil edecek nitelikte görülmektedir. Diğer yandan insan hakim kararlarına olan güvenin azalması, hakimin tarafsızlığı ve bağımsızlığının zedelenmesi , adil yargılanma hakkının ihlali gibi sonuçlar doğurması da muhtemel sonuçlardandır.
Sonuçta, yapay zeka, yargı alanında belirttiğimiz gibi bir dizi avantaj sunmaktadır. Büyük veri analizi sayesinde benzer davalardan alınan öğrenmeler, hukukçulara kararlarını destekleme konusunda rehberlik gibi yönleriyle yapay zeka kullanımı, daha tutarlı ve adil kararlar alınmasına yardımcı olabilir. Ayrıca, yapay zeka, hukuki belgeleri hızla tarama ve sınıflandırma yeteneği sayesinde avukatların iş yükünü hafifletebilir. Hukuk sistemi daha hızlı çalışabilir ve daha fazla vakit, karmaşık davaların incelenmesine ayrılabilir. Ayrıca insan vücudunun ve psikolojisinin etkilenebildiği açlık, yorgunluk, dikkat dağınıklığı, duygusallık gibi unsurlar da bu süreçte yer almayacak ve sonuçları bunlardan etkilenmemiş şekilde ortaya çıkaracaktır.
Ancak yapay zekanın yargıdaki kullanımı, çeşitli etik soru ve sorunları da beraberinde getirir. Yapay zeka, eğitildiği veri setlerindeki önyargıları öğrenebilir. Eğer bu veri setlerinde toplumsal önyargılar mevcutsa, yapay zeka sistemleri de bu önyargıları tekrarlayabilir ve adaleti tehlikeye atabilir. Neticede, adil olmayan, ırkçı, cinsiyetçi, ayrımcı, eşitlikten uzak verilerin algoritmada yer alması, bunlardan etkilenmiş sonuçların doğmasına sebebiyet verecektir. Ayrıca, yapay zeka tarafından alınan kararların açıklanması zor olabilir, bu da adaletin şeffaflığını azaltabilir. Gizlilik meseleleri de büyük bir öneme sahiptir. Yapay zeka, büyük miktarda kişisel veriye ihtiyaç duyar ve bu verilerin güvenliği sağlanmalıdır ki bu verilerin kullanımı kişisel hakları ve mahremiyeti ihlal etmesin. Yargı sisteminde yapay zeka kullanılırken, temel hakları ve özgürlükleri koruma amacı güdülürken aynı zamanda bu teknolojinin kötüye kullanılmasını ve manipülasyona açık olmasını önlemek de gerekmektedir.
Yapay zekanın, hukuk alanında büyük potansiyel taşıdığı doğrudur, ancak bu potansiyelin açığa çıkması için de etik sorunların aşılması bir ihtiyaçtır. Dolayısıyla gelecekte, YZ ve hukukun uyumlu bir şekilde çalışabilmesi için güçlü bir etik ve yasal çerçeve geliştirilmesi gerekecektir.
Hukuk alanındaki kullanımı günden güne artarken, büyümekte olan etik sorunlar için, hukukçular, teknoloji uzmanları ve düzenleyiciler, YZ’nin yargıda kullanımını düzenlemek ve denetlemek için çözümler aramalıdır. Adaletin sağlanması, adil bir yargılama süreci ve hukukun üstünlüğü gibi temel ilkelerin, yapay zeka kullanımıyla nasıl daha uyumlu hale getirilebileceği, yargı etiğinin yapay zeka destekli bir hukuk sisteminin işleyişine nasıl entegre edileceği ve adaletin korunmasının nasıl sağlanacağı düşünülmeli ve YZ’nin insan haklarına ve adalet ilkelerine uygun olarak geliştirilmesi gerekir.
Yapay zeka kullanılarak yargılama süreçlerinin adil, bağımsız ve güvenilir olmasını sağlamak için, yapay zekanın kötüye kullanımını ve olumsuz sonuçlarını önlemek, temel insan haklarına saygı göstermek, ayrımcılığı engellemek, veri işleme yöntemlerini şeffaf, tarafsız ve anlaşılır hale getirmek ve denetlenebilir kılmak gereklidir. Bu önlemler alındığında, yargı sistemi içinde güvenilir bir yapay zeka geliştirilebilir. Aksi halde etik sorunlar yapay zekanın yargı sistemlerinde daha yaygın bir şekilde kullanılmasını engelleyebilir.
Yapay zekanın yargı alanında etik bir şekilde kullanılabilmesi için gözetilmesi gereken önlemleri düşünmenin yanında; günün sonunda, insanların da yapay zeka kullanımına yönelik ön yargılarının aşılması, geliştirme ve kullanımın sürdürülebilirliği açısından önemlidir. Mahkeme ve kolluktaki iş yükünün artması, davaların çok uzun süre sonuca ulaşmaması, avukatların iş yükü ve zaman yönetimi ile başa çıkmasının zorlaşması gibi nedenlerle, bu teknolojiyi kullanmamak artık pratikte neredeyse mümkün değildir. Bu doğrultuda sağlayacağı faydalar ve muhtemel zararlar gözetilmeli ve hukuki ve etik değerlendirmeler yapılarak, risk temelli bir yaklaşımda bulunulmalıdır. Diğer yandan bu kullanımın her zaman mutlak bir teslimiyet olarak değil, yukarıda belirtilen çerçeve içinde yapay zeka ve insan işbirliği olarak düşünülmesi gerekmektedir. Aksi takdirde yapay zekanın varlığı, hukuk alanında çeşitli konumlardaki insan çalışanların işsizlik endişelerinin artmasına, toplumsal faydaları gözetmeye çalışırken kullanımın yargıdaki etik ilkeler ile bireylerin temel hak ve özgürlüklerinin ihlaline sebebiyet vermesi kaçınılmaz olacaktır.
Mahkemelerin Aşırı İş Yükünü Önleyici ve Azaltıcı Tedbirler Hakkında 1986 Tarihli Tavsiye Kararı
Kaynaklar
OECD AI Principles overview, https://oecd.ai/en/ai-principles
EPRS | European Parliamentary Research Service, Panel for the Future of Science and Technology,The ethics of artificial intelligence: Issues and initiatives https://www.europarl.europa.eu/RegData/etudes/STUD/2020/634452/EPRS_STU(2020)634452_EN.pdf
Joshua A. Gerlick & Stephan M. Liozu, Ethical and legal considerations of artificial intelligence and algorithmic decision-making in personalized pricing, https://link.springer.com/article/10.1057/s41272-019-00225-2
European Ethical Charter on the Use of AI in Judicial Systems and Their Environment: https://rm.coe.int/ethical-charter-en-for-publication-4-december-2018/16808f699c, (E.T:07.05.2021).
Oğuz Gökhan YILMAZ, Using Aİ in Judicial Proceedings – Will Aİ Be Able to Wear the Judge Robe, https://dergipark.org.tr/tr/download/article-file/1779680
Gizem Yılmaz, Yapay Zekânın Yargı Sistemlerinde Kullanılmasına İlişkin Avrupa Etik Şartı, https://dergipark.org.tr/tr/download/article-file/1388614
Türkiye Bilişim Derneği, İnsan Ve Teknoloji Etkinlikleri Dijitalleşen Dünyada İnsan Odağında Sosyo-Kültürel Dönüşüm Çalıştayları Ve Paneli Sonuç Raporu, https://www.tbd.org.tr/pdf/TBD-insan-ve-teknoloji-etkinlikleri-sosyo-kulturel-donusum-calistaylar.pdf
Feridun Yenisey Hukuk İhtisas Seminerleri, Şebnem Ahi – Feridun Yenisey – Yapay Zeka ve Etik (29.04.2020), https://www.youtube.com/watch?v=bdzamJ8sMQs
İstanbul Barosu Bilişim Hukuku Komisyonu Yargıda Yapay Zekâ Kullanımı Hakkında Bildiri, https://www.istanbulbarosu.org.tr/HaberDetay.aspx?ID=17446&Desc=Yarg%C4%B1da-Yapay-Zek%C3%A2-Kullan%C4%B1m%C4%B1-Hakk%C4%B1nda-Bildiri
İstanbul, Ankara ve İzmir Baroları Çalıştay Raporu 2019, https://www.istanbulbarosu.org.tr/files/docs/Yapay_Zeka_Caginda_Hukuk2019.pdf
Avrupa Birliği. (2019). Yapay Zeka ve Etik İlkeleri. AB Yapay Zeka Komisyonu Raporu. https://digital-strategy.ec.europa.eu/en/library/ethics-guidelines-trustworthy-ai?stream=future
CEPEJ “Avrupa Yargı Sistemlerinde ve Çevrelerinde Yapay Zeka Kullanımına İlişkin Etik Şartnamesi” https://rm.coe.int/ethical-charter-en-for-publication-4-december-2018/16808f699c
Dr. Seda Kara Kılıçarslan, Yapay Zekanın Hukuki Statüsü Ve Hukuki Kişiliği Üzerine Tartışmalar, https://dergipark.org.tr/tr/download/article-file/775111
