Penggunaan kecerdasan buatan (AI) di sektor hukum kini menimbulkan berbagai permasalahan serius, mengikis prosedur utama, catatan dokumenter, dan bukti yang selama ini diandalkan untuk menetapkan kebenaran dasar dalam sistem peradilan. Demikian peringatan yang disampaikan oleh American Bar Association (ABA), sebuah organisasi yang menetapkan standar etika bagi profesi hukum dan mengawasi akreditasi sekitar 400.000 pengacara di Amerika Serikat, dalam sebuah laporan yang dirilis bulan ini. Laporan tersebut merinci bagaimana AI telah meresap ke seluruh sistem hukum, di mana para pengacara semakin sering menggunakannya untuk menghemat waktu, melakukan penelitian, meringkas, dan menulis berkas pengadilan penting, sementara para hakim juga memanfaatkannya untuk fungsi serupa.

Namun, seiring dengan integrasi kecerdasan buatan, khususnya alat AI generatif, ke dalam sistem hukum, muncul pertanyaan besar bagi sebuah profesi yang sangat bergantung pada akurasi dan representasi yang jujur di pengadilan. Salah satu tantangan paling mendesak yang dihadapi sistem peradilan adalah bagaimana menangani kemunculan media deepfake yang sangat realistis. Gambar, audio, dan video palsu kini dapat meniru dengan meyakinkan jenis bukti yang telah diandalkan pengadilan selama beberapa dekade untuk menentukan apa yang sebenarnya terjadi dalam suatu kasus. “Dihadapkan pada deepfake yang diajukan sebagai bukti di pengadilan atau klaim bahwa bukti sah adalah deepfake, para hakim bergulat dengan pertanyaan seputar keaslian, validitas, dan keandalan bukti yang dihasilkan AI,” demikian pernyataan ABA.

Dengan alat kloning suara dan deepfake, aktor jahat juga dapat menciptakan media yang meyakinkan yang menggambarkan hakim, pengacara, saksi, atau pihak lain yang terlibat dalam kasus pengadilan dalam cahaya yang salah, mengatakan atau melakukan hal-hal yang tidak pernah mereka lakukan. Laporan ABA mengutip laporan selama setahun terakhir dari lembaga-lembaga seperti FBI, Cybersecurity and Infrastructure Security Agency (CISA), dan organisasi seperti World Economic Forum yang memperingatkan bahwa deepfake menimbulkan ancaman keamanan nasional yang signifikan dan jangka panjang. “Kemudahan konten dapat dibuat dan dibagikan, serta penggunaan algoritma yang dioptimalkan untuk keterlibatan, berarti misinformasi dapat menyebar luas dan cepat,” tambah laporan ABA.

Meskipun demikian, laporan ABA juga mencakup banyak sentimen positif dari anggota dan pengacara mengenai teknologi ini. Banyak yang secara konsisten menekankan peran AI dalam mengotomatisasi fungsi hukum inti seperti penyusunan dokumen, penelitian hukum, dan peninjauan volume besar materi, dokumentasi, atau bukti. AI generatif, khususnya model bahasa besar (LLM), disorot sebagai “pengubah permainan” untuk mempercepat tugas-tugas rutin seperti analisis kontrak dan persiapan litigasi, serta membantu firma menghasilkan draf pertama, meringkas kumpulan data besar, dan menyesuaikan komunikasi dalam skala besar.

Peningkatan penggunaan AI dalam profesi hukum ini terjadi di tengah laporan dari beberapa anggota komunitas tentang beban kerja yang lebih tinggi, yang menyebabkan peningkatan stres, kelelahan, dan tingkat pengunduran diri. Sebuah laporan dari Association of Corporate Counsel (ACC) pekan lalu menyebut stres terkait pekerjaan dan jam kerja yang panjang sebagai “krisis yang meluas” bagi para profesional hukum internal, dengan kepemimpinan hukum dan mereka yang beroperasi di sektor dengan permintaan tinggi menghadapi beban terberat. Situasi ini diperparah dengan peringatan dari pejabat tertinggi peradilan, termasuk Ketua Mahkamah Agung John Roberts, yang dalam laporan akhir tahunnya tahun lalu, memperingatkan bahwa aktor jahat, termasuk pemerintah asing, berupaya merusak kepercayaan terhadap sistem hukum di ruang digital, termasuk melalui peretasan atau kampanye disinformasi berbasis bot yang telah sangat diperkuat oleh skala, kecepatan, dan otomatisasi model bahasa besar.

Tujuan dari banyak pihak ini adalah untuk “mengkompromikan kepercayaan publik terhadap proses dan hasil kami” atau berdampak negatif pada persepsi publik. Roberts berpendapat bahwa cabang yudikatif “sangat tidak cocok” untuk melawan kampanye-kampanye ini karena para hakim sebagian besar berbicara melalui opini hukum mereka dan umumnya tidak mengadakan konferensi pers atau mengeluarkan sanggahan seperti yang dilakukan pejabat publik lainnya. Menanggapi kompleksitas ini, sebuah gugus tugas AI di ABA, yang terdiri dari “hakim yang melek teknologi,” saat ini sedang berupaya mengembangkan panduan publik tentang bagaimana profesi mereka harus menggunakan AI generatif dan bagaimana mengatasi “masalah deepfake yang sulit dipecahkan sebagai bukti di pengadilan.” Badan ini juga sedang meninjau bagaimana AI memengaruhi pertanyaan seputar risiko dan kewajiban hukum.

Sumber: Cyberscoop.com