eparrphepavacuum.com – Kecerdasan buatan generatif (Generative AI) kembali menimbulkan masalah besar di dunia hukum Amerika Serikat. Kali ini, “halusinasi” AI – yaitu kemampuan alat tersebut untuk menciptakan informasi palsu seperti kasus hukum fiktif atau kutipan yang tidak ada – muncul dalam ratusan pengajuan pengadilan federal. Menurut peneliti data Prancis Damien Charlotin, setidaknya 490 dokumen pengadilan dalam enam bulan terakhir mengandung elemen halusinasi ini, yang sebagian besar berasal dari AS. Kasus-kasus ini tidak hanya merusak kredibilitas pengacara, tetapi juga mengancam keadilan, memicu tuntutan sanksi, denda, dan bahkan tuntutan etika. Di tengah euforia adopsi AI, insiden ini menjadi pengingat keras bahwa teknologi ajaib ini masih jauh dari sempurna.
Apa Itu Halusinasi AI dan Mengapa Berbahaya di Pengadilan?
Halusinasi AI terjadi ketika model seperti ChatGPT atau Perplexity menghasilkan teks berdasarkan pola statistik dari data pelatihan, bukan verifikasi fakta. Hasilnya? Kasus pengadilan yang tidak pernah ada, kutipan hakim fiktif, atau argumen hukum yang salah total. Di pengadilan, di mana setiap kata harus akurat dan dapat dipertanggungjawabkan, kesalahan ini bisa membahayakan nasib klien, membuang waktu hakim, dan merusak kepercayaan publik terhadap sistem peradilan.
Damien Charlotin, seorang pengacara dan ilmuwan data dari HEC Paris, telah membangun database khusus yang melacak 508 kasus global di mana pengadilan secara eksplisit menemukan penggunaan konten halusinasi AI. Database ini, yang dimulai sejak musim semi 2025, menunjukkan tren naik: dari tuduhan palsu hingga sanksi nyata. “AI bisa menjadi berkah, tapi ada jebakan-jebakan ini,” kata Charlotin, seperti dikutip dalam laporan Digital Trends. Di AS, hakim-hakim federal semakin vokal, dengan beberapa bahkan meminta pengacara untuk mengakui penggunaan AI atau menghadapi hukuman.
Kasus-Kasus Terkini: Dari Denda Ribuan Dolar hingga Penarikan Putusan Hakim
Insiden terbaru menunjukkan betapa pervasif masalah ini. Pada 18 Agustus 2025, studi Thomson Reuters Westlaw menganalisis kasus antara 30 Juni hingga 1 Agustus, menemukan halusinasi dan sitasi kasus non-eksisten yang masih merajalela di berbagai pengadilan. Dalam satu kasus di Distrik Utara New York, Kaur v. Desso, pengacara penggugat mengakui menggunakan AI meski tahu risikonya, tapi merasa tertekan oleh tenggat waktu deportasi. Hakim membebankan denda $1.000 dan mewajibkan pelatihan CLE (Continuing Legal Education) tentang AI.
Kasus lain yang mencolok melibatkan CEO MyPillow, Mike Lindell, di pengadilan Colorado. Pada Februari 2025, dua pengacaranya, Christopher Kachouroff dan Jennifer DeMaster, mengajukan dokumen dengan lebih dari dua dusin kesalahan, termasuk kasus fiktif dari AI. Hakim Nina Y. Wang memerintahkan mereka membayar $3.000 masing-masing karena melanggar aturan pengadilan dan tidak jujur saat ditanya tentang penggunaan AI. Kachouroff membela diri dengan mengatakan itu versi draft yang salah diunggah, tapi hakim menolak alasan tersebut.
Bahkan hakim sendiri tidak kebal. Pada 24 Oktober 2025, dua hakim federal – Julien Xavier Neals di New Jersey dan Henry T. Wingate di Mississippi Selatan – meminta maaf atas putusan yang ditarik karena halusinasi AI dari intern atau staf hukum mereka. Dalam kasus Wingate, staf menggunakan Perplexity sebagai asisten drafting, tapi diterbitkan sebelum diverifikasi, menghasilkan sitasi palsu. Administrative Office of the U.S. Courts (AO) kini membentuk task force khusus untuk mengatasi ini, meski belum ada statistik nasional resmi.
Di Wyoming, pengacara dari firma yang menggugat Walmart hampir disanksi karena sitasi fiktif dari AI; salah satu pengacara mengaku “kesalahan tidak disengaja” dan meminta maaf. Sementara di Texas, hakim federal memerintahkan denda $2.000 dan kursus AI untuk pengacara yang mengutip kasus palsu dalam gugatan pemecatan kerja. Di Arizona saja, sejak September 2024, ada setidaknya enam pengajuan federal dengan materi palsu dari ChatGPT, menurut database Charlotin.
Kasus ikonik awal adalah pada 2023, ketika pengacara Steven Schwartz menggunakan ChatGPT untuk gugatan cedera pribadi melawan Avianca Airlines di Manhattan. AI menghasilkan enam kasus fiktif, yang diajukan tanpa verifikasi. Hakim P. Kevin Castel mendenda dua pengacara $5.000 dan memperingatkan komunitas hukum. Schwartz mengaku “terkejut” karena mengira ChatGPT adalah mesin pencari, bukan generator teks.
Dampak Hukum dan Etika: Dari Sanksi hingga Reformasi Aturan
Aturan etika pengacara AS, seperti Rule 11 Federal Rules of Civil Procedure, mewajibkan verifikasi dokumen sebelum diajukan. Pelanggaran bisa berujung pada sanksi, rujukan ke bar negara, atau larangan praktik sementara. Sebuah analisis Stanford University pada Mei 2024 menemukan bahwa tiga dari empat pengacara berencana menggunakan Generative AI, tapi satu dari tiga query bisa menghasilkan halusinasi – terutama saat argumen hukum sulit, di mana AI “berusaha menyenangkan” pengguna.
Di California, Dewan Yudisial negara bagian menerbitkan pedoman pada September 2025, mewajibkan hakim melarang atau mengadopsi kebijakan penggunaan AI generatif hingga Desember 2025. Sebuah opini dari Pengadilan Banding Distrik 2 California memperingatkan: “Tidak ada brief, pleading, atau dokumen apa pun yang boleh mengandung sitasi – baik dari AI atau sumber lain – yang belum dibaca dan diverifikasi secara pribadi oleh pengacara.” Di Florida Selatan, seorang pengacara harus melampirkan salinan sanksi ke setiap pengaduan selama dua tahun karena delapan kasus terkait.
Para ahli seperti profesor hukum UCLA, Eugene Volokh, menyebut ini sebagai “masalah yang berkembang” di seluruh dunia, dengan database Charlotin yang dikutip dalam keputusan pengadilan dan media seperti LA Times. Ironisnya, dalam kasus tantangan Amandemen Pertama terhadap undang-undang anti-deepfake Minnesota, pengacara menggunakan AI untuk mendiskusikan bahaya AI – dan menghasilkan halusinasi lagi, memaksa hakim untuk menekankan kewajiban pengungkapan penggunaan AI.
Solusi ke Depan: Verifikasi Manusia dan Regulasi yang Lebih Ketat
Para pakar menekankan bahwa solusi bukan melarang AI, tapi meningkatkan literasi dan proses verifikasi. Thomson Reuters menyarankan pengacara memahami cara kerja AI dan selalu memeriksa output sebelum diajukan, seperti yang dilakukan dengan riset tradisional. ChatGPT sendiri, dalam responsnya, menyarankan: “Periksa pekerjaan saya.” Di tingkat federal, AO merekomendasikan tinjauan independen untuk semua konten AI-generated.
Studi menunjukkan halusinasi lebih sering terjadi pada query kompleks, di mana bias konfirmasi membuat pengguna mengabaikan kesalahan. Bagi pengacara yang terbebani atau pro se (mewakili diri sendiri), risiko lebih tinggi – sering di pengadilan keluarga atau imigrasi. Di tingkat negara bagian, kurangnya sistem filing standar menyulitkan pelacakan, tapi kasus federal seperti ini menjadi peringatan nasional.
Generative AI menjanjikan efisiensi, tapi halusinasi di pengadilan federal mengingatkan bahwa kecepatan tanpa akurasi adalah resep bencana. Dengan 206 kasus baru sejak musim semi 2025, komunitas hukum AS harus bertindak cepat: dari pelatihan wajib hingga aturan pengungkapan AI. Seperti kata hakim di California, ini “menakutkan” – karena halusinasi bisa memengaruhi putusan nyata bagi pihak yang terlibat. Saat AI berevolusi, pengacara harus ingat: teknologi adalah alat, bukan pengganti penilaian manusia. Hanya dengan verifikasi ketat, kita bisa memastikan pengadilan tetap menjadi benteng kebenaran, bukan galangan fiksi digital.
