ABD'nin New York eyaletinde görülen Mata v. Avianca Havayolları davası, hukuk tarihinde yapay zekâ kullanımının yarattığı en büyük krizlerden biri olarak kayıtlara geçti. Davacı avukatı Steven Schwartz'ın, mahkemeye sunduğu dilekçede emsal karar olarak gösterdiği "Varghese v. China Southern Airlines" ve "Martinez v. Delta Air Lines" gibi davaların aslında hiç var olmadığı ortaya çıktı.
Yapılan incelemede, 30 yıllık tecrübeli avukat Schwartz'ın içtihat araştırmasını yapmak için genel amaçlı bir üretken yapay zekâ aracı olan ChatGPT'yi kullandığı anlaşıldı. ChatGPT, "halüsinasyon" (hallucination) adı verilen bir yanılma durumuyla tamamen sahte mahkeme kararları, dosya numaraları ve yargıç isimleri uydurmuş, avukat ise bu metinleri doğrulamadan mahkemeye sunmuştu.
Yargıç P. Kevin Castel, avukatlara ve hukuk bürosuna toplamda 5.000 dolar para cezası verirken, karar metninde “Güvenilir teknolojik araçlar kullanmak avukatların işini kolaylaştırabilir, ancak sunulan hukuki metinlerin doğruluğunu teyit etme sorumluluğu tamamen avukata aittir” ifadelerine yer verdi. Bu olay, dünya çapındaki baroların "hukuka özel eğitilmemiş genel yapay zekâ araçlarının" kullanımına dair acil kısıtlamalar ve rehberler yayınlamasına neden oldu.