Yapay zekâ, günümüzde ChatGPT ve Gemini gibi Büyük Dil Modelleri (LLM) aracılığıyla geniş kitlelerce popülerlik kazanmış olsa da esasen modern yaşamdaki konumu yeni değildir. Bireylerin kararlarına ve imkanlarına doğrudan etki eden çeşitli algoritmik sistemler, dil modellerinden çok daha uzun süredir dijital ekosistemin bir parçasıdır. Bu sistemlerin bir kısmı içerik önerme algoritmaları gibi düşük riskli görevler üstlenirken, bir kısmı da kredi notu tespiti, yeniden suç işleme riski ölçülmesi ve iş başvurusu ön elemesi gibi bireyin hem sosyo-ekonomik durumunu hem de hukuki güvenliğini etkileyen kritik görevleri icra etmektedir. Hatta yakın gelecekte; avukatlık ve yargıçlık gibi adaletin tecellisine yönelik temel görevlerin de kısmen veya tamamen yapay zekâya devredilmesi tartışılmaktadır.
Bu teknolojik dönüşüm, beraberinde ciddi bir “denetlenebilirlik” krizini de getirmektedir; zira kararların teknik karmaşıklığı, hukukun temel direkleriyle çatışma içerisindedir. Bu makalede, yapay zekânın olasılıksal karar alma mekanizmaları ile hukukun deterministik yapısı arasındaki ontolojik çatışma ele alınacak; açıklanabilirlik ilkesinin hukuki güvenlik açısından taşıdığı kritik önem, mevcut regülasyonlar ve çözüm önerileri çerçevesinde analiz edilecektir.
1. Algoritmik Kararın Anatomisi: Performansın Bedeli
Yapay zekâlar, karar verirken selefleri olan sembolik algoritmaların aksine deterministik ve mantıksal süreçler yerine olasılıksal süreçler üzerinden ilerlemektedir. Sembolik algoritmalar, önceden tanımlanmış katı kuralları takip ederken yapay zekâ modelleri veri setleri içerisindeki karmaşık örüntüleri öğrenir. Bu yöntem, eğitilen yapay zekânın daha önce karşılaşmadığı özgün sorunlarda yüksek performans göstermesini sağlarken söz konusu olasılıksal yapı, belirli ölümcül ve çoğu durumda önlenemez sorunlara sebep olmaktadır.
1.1 Teknik Çıkmaz: Sistemik Opaklık ve Denetçinin Bulunamazlığı
Mevcut yapay zekâlar tarafından üretilen çıktıların neden ve nasıl üretildiği; parametre yoğunluğu ve algoritmik karmaşıklık nedeniyle insan tarafından doğrudan gözlemlenememekte, anlamlandırılamamakta ve dolayısıyla denetlenememektedir. Bu duruma literatürde “Kara Kutu” problemi denmektedir. Kara kutu kavramına en uzak olduğu düşünülen düşünme süreci göstergesine sahip Büyük Dil Modelleri bile verdikleri çıktıyı nasıl verdiklerini teknik bir nedensellikle açıklamak yerine yine bir çıktı ile açıklamaya çalışmaktadır. Bu durum; düşen bir uçağın kara kutu verilerinin bağımsız otoritelerce incelenip şeffafça kamuoyuna sunulması yerine, ilgili uçağın pilotu tarafından denetlenerek sansürlü bir biçimde paylaşılmasına benzetilebilir.
1.2 Halüsinasyonlar: Yitirilmiş Kesinlik
Yapay zekâ, mevcut olasılıksal yapısı nedeniyle gerçeğe aykırı ancak son derece ikna edici hatalı çıktılar üretebilmektedir. Literatürde bu olgu “halüsinasyon” olarak adlandırılmaktadır. Sistemin hangi konularda ve durumlarda bu hatalara daha yatkın olduğu gözlemlenebilse de halüsinasyonların tam olarak ne zaman ortaya çıkacağı öngörülememekte ve bu çıktıların üretilmesinin tam anlamıyla önüne geçilememektedir.
2. Hukuki Kararların Yapısı
Yapay zekânın karar alma süreçlerindeki problemlerini daha iyi anlayabilmek için mevcut hukuk dünyasında alınan kararların yapısını belirli ölçüde anlamak gereklidir. Bunun için bazı temel ilkelere ve unsurlara bakmak yeterli olacaktır.
2.1 Sebep ve Amaç Unsuru
Alınan tüm hukuki kararlar makul bir gerekçeyle üstün kamu yararı amacıyla alınmalıdır. Yani bütün kararlar bünyesinde hukuka, mantığa ve nedenselliğe uygun bir sebep unsuru ve kamu çıkarlarına uygun bir amaç unsuru bulundurmalıdır.
2.2 Öngörülebilirlik ve Tutarlılık
Hukuki kararlar tamamen öngörülebilir olmalıdır; herhangi bir sürpriz sonuç veya yaptırım içermemelidir. Birey, gerçekleştirdiği eylemin hukuki sonuçlarını öngörebilmeli ve bu süreci anlamlandırabilmelidir. Öngörülemeyen bir karar hukuki olamaz.
2.3 Denetlenebilirlik, Şeffaflık, Açıklanabilirlik
Hukuki kararların meşruiyeti denetlenebilir olmasına bağlıdır. Denetlenebilirlik kararın ancak şeffaflık ve açıklanabilirlik ilkelerine riayet etmesiyle mümkündür. Açıklanamayan ve şeffaf olmayan bir karar doğal olarak denetlenemez.
3. Yapay Zeka ve Hakkaniyetin Çatışması: Kara Kutudan Çıkan Kesinlikçi Tahminler
Anlaşıldığı üzere yapay zekâ ve hukukun karar alma süreçlerinde göz ardı edilemez farklılıklar vardır.
3.1 Kesinlik ve Olasılık/Şeffaflık ve Opaklık
Hukuki kararlar öngörülebilirlik ve tutarlılık isterken yapay zekânın ürettiği çıktılar, olasılık temelli olmasından dolayı çoğu durumda öngörülemezdir ve doğal olarak tutarlılıktan yoksundur. Bu durum hukuki güvenilirliği zedelemektedir.
Hukuki kararlar, özellikle denetim noktasında şeffaflığa ve açıklanabilirliğe muhtaçken yapay zekâ bu durumda tam anlamıyla bir “kara kutu” olarak konumlanmaktadır. Bu da mevcut yapay zekâ sistemlerinin tam anlamıyla denetlenmesinin önüne büyük bir engel koymaktadır.
4. Mevcut Çözümler
Yapay zekâ; bu problemlerine ve bu problemlerinin doğurabileceği sorunlara rağmen, sunmuş olduğu avantajlardan dolayı hayatımıza gittikçe entegre edilmektedir. Bu noktada kimi otoriteler sürecin kendi mecrasında ilerlemesine izin verirken, diğerleri olası geri alınamaz ve telafi edilemez sonuçları önlemek adına proaktif çalışmalar yürütmektedir.
Bu çalışmaların başında Avrupa Birliği’nin hazırlamış olduğu ve şu anda yürürlükte olan Yapay Zeka Yasası (AI Act) gelmektedir.
4.1 Yasaklamalar
İşbu yasa; sosyal puanlama, manipülasyon ve istismar gibi kötücül amaçlar içeren birçok yapay zekâ uygulamasını yasaklamaktadır.
4.2 Yüksek Risk, Yüksek Denetim
İşbu yasa, yasaklı kategoride olmayan yapay zekâları üstlendikleri rolleri ve güçlerini temel alarak “risk bazlı” olarak değerlendirmektedir. Yüksek riskli olarak değerlendirilen modellere şeffaflık, insan gözetimi ve kayıt tutma gibi zorunluluklar getirilirken; düşük riskli modeller daha esnek bırakılarak risk ve denetim yoğunluğu arasında bir denge sağlanmaktadır.
4.3 Sağlayıcı ve Yaygınlaştırıcı Yükümlülükleri
Yapay zekâ sistemleri birer gerçek kişi olmadığı için, eylemlerinin hukuki sonuçlarına ve külfetlerine bizzat katlanmaları mümkün değildir; bu sebeple sorumluluk rejimi sağlayıcılar (OpenAI, Google vb.) ve yaygınlaştırıcılar (kullanıcılar) üzerinden kurgulanmaktadır.
5. Ek Çözüm Önerileri
Avrupa Birliği tarafından hazırlanan Yapay Zeka Yasası, algoritmik kararların hukuki güvenilirliğinin sağlanması ve denetlenmesi noktasında önemli bir adım olsa da yeterli değildir. Özellikle yüksek riskli modeller için daha sert regülasyonlar gerekmektedir.
5.1 Yüksek Riskli Modellerde Açık Veri Seti Zorunluluğu
Öncelikle, başta yüksek riskli modeller olmak üzere bütün yapay zekâ modellerinin eğitiminde kullanılan verinin direkt olarak halka ya da en azından tarafsız kurumların denetimine açık olması gerekmektedir. Bu sayede algoritmik kararın muhatabı, hakkında verilen karar konusunda daha tutarlı bir bilgi edinebilir. Ayrıca açık kaynak mimarisinin getirisi olarak veri seti içerisindeki olası hatalar daha hızlı tespit edilebilir.
5.2 Ortak Veri Setleri ve Kamusal Yapay Zekâ
Şeffaf veri setleri oluşturulduktan sonra kademeli olarak, işe alım gibi yüksek riskli süreçlerde görev alan yapay zekâ modellerinde kullanılmak üzere, ihtisas kurumlarınca özelleştirilmiş veri setleri hazırlanmalı ve kamusal yapay zekâlar üretilmeli; yüksek riskli süreçlerde bu veri setleri ya da yapay zekâların kullanımı zorunlu hale getirilmelidir.
Sonuç
Yapay zekâ hayatımız üzerinde önü alınamaz bir hızla nüfuz kazanmaktadır. Bununla beraber yapay zekâya yönelik düzenlemeler çok daha yavaş ilerlemekte ve bu da birey açısından göz ardı edilmemesi gereken birçok zafiyet meydana getirmektedir.
İçinde bulunduğumuz dijital çağda yapay zekâ kullanımı artık hayatın olağan akışının ayrılmaz bir parçasıdır. Bu sebeple yapay zekâ sistemleri, yasa koyucular tarafından en az temel hak ve hürriyetler kadar önemle ele alınmalı; hukuki boşluklar, telafi edilemez kayıplara yol açmadan yasal düzenlemelerle kapatılmalıdır.
İlgili Yazılarımız
- Hukukta “Arama” Problemi Gerçekten Nedir?
- Avukatlar İçin Yapay Zekâ Asistan mı, Ortak mı?
- Deepfake’in Kişilik Haklarına Müdahalesi ve Cezai Sorumluluk
Kaynakça
- EU Artificial Intelligence Act. “The Act Texts.” Future of Life Institute. Erişim tarihi 19 Mayıs 2026. https://artificialintelligenceact.eu/the-act/.
- Ji, Ziwei, Nayeon Lee, Rita Frieske, Tiezheng Yu, Dan Su, Bo Xu, Ishani Choudhury, Rashmi Agarwal, Yejin Choi, Madian Khabsa ve Pascale Fung. “Survey of Hallucination in Natural Language Generation.” ACM Computing Surveys 55, no. 12 (Mart 2023): 1-38. https://doi.org/10.1145/3571730.
- PASQUALE, FRANK. The Black Box Society: The Secret Algorithms That Control Money and Information. Harvard University Press, 2015. http://www.jstor.org/stable/j.ctt13x0hch.
- Ulu, Güher. “İdari İşlemin Unsurlarının İşlevi.” İstanbul Ticaret Üniversitesi Sosyal Bilimler Dergisi 19, no. 38 (2020): 74-102. https://dergipark.org.tr/en/pub/iticusbe/article/794556.
- Yong, Ed. “A Popular Algorithm Is No Better at Predicting Crimes Than Random People.” The Atlantic, 17 Ocak 2018. https://www.theatlantic.com/technology/archive/2018/01/equivant-compas-algorithm/550646/.