Kecerdasan Buatan (AI) Tak Bisa Dipercaya Sepenuhnya, Butuh Evaluasi Kritis

Peringatan utamanya adalah bahwa AI tidak bisa dipercaya sepenuhnya dan terlalu bergantung padanya tanpa pengawasan manusia dapat merusak tujuan jangka panjang seperti pengembangan tenaga kerja dan pertumbuhan ekonomi yang inklusif. Penting untuk selalu melakukan evaluasi kritis terhadap hasil AI.

Peringatan ini disampaikan oleh Stella Christie, Wakil Menteri Pendidikan Tinggi, Ilmu Pengetahuan, dan Teknologi. Ia menceritakan pengalamannya di mana AI memberikan hasil yang menyesatkan saat memprediksi peluang Indonesia dalam kualifikasi Piala Dunia.

Pemikiran kritis dan evaluasi manusia sangat penting karena:

• AI tidak selalu akurat dan bisa memberikan informasi yang menyesatkan atau salah, seperti contoh prediksi sepak bola atau artikel berita yang penuh kesalahan.
• Ketergantungan berlebihan pada AI tanpa pengawasan dapat menghambat tujuan jangka panjang seperti pengembangan tenaga kerja dan pertumbuhan ekonomi yang inklusif.
• Meskipun AI dapat menghemat waktu dan meningkatkan efisiensi, seperti dalam penelitian hukum, verifikasi manusia tetap diperlukan untuk memastikan keakuratan dan menghindari kesalahan fatal seperti kutipan hukum palsu.

Ini memastikan bahwa potensi transformatif AI dapat dimanfaatkan secara bijaksana dan risikonya diminimalisir.

\"Siklus hype\" teknologi, yang didefinisikan oleh Gartner, menggambarkan bagaimana teknologi baru muncul dengan janji berlebihan, kemudian jatuh ke dalam kekecewaan ketika ekspektasi tidak terpenuhi, dan akhirnya menemukan aplikasi yang lebih realistis dan berkelanjutan.

Kaitannya dengan AI adalah bahwa AI saat ini dikhawatirkan sedang mengalami siklus hype serupa dengan teknologi lain sebelumnya, seperti blockchain pada tahun 2017. Ada kekhawatiran bahwa investasi besar dan ekspektasi yang terlalu tinggi terhadap AI dapat menyebabkan kekecewaan jika tidak diimplementasikan dengan bijaksana dan tujuan yang jelas.

Tentu, beberapa contoh kasus di mana AI memberikan hasil yang menyesatkan atau bermasalah meliputi:

• Prediksi Olahraga: Wakil Menteri Stella Christie mengalami sendiri bagaimana AI memberikan hasil yang menyesatkan saat memprediksi peluang Indonesia dalam kualifikasi Piala Dunia.
• Artikel Berita: CNET menerbitkan artikel yang dibuat oleh AI yang penuh dengan kesalahan, merusak kredibilitas media tersebut.
• Penggantian Pekerja: Klarna mengganti 700 pekerjanya dengan chatbot AI, namun hal ini justru menyebabkan penurunan kepuasan pelanggan.
• Kutipan Hukum Palsu: Dalam bidang hukum, Kecerdasan Buatan Generatif (GenAI) memiliki potensi untuk memberikan kutipan hukum palsu dan kasus yang tidak masuk akal, bahkan menyebabkan dua firma hukum didenda oleh hakim di Los Angeles karena petisi cacat yang disusun dengan bantuan GenAI.

Penggunaan GenAI di pengadilan semakin meningkat.

• Hakim: Menggunakannya untuk penelitian.
• Pengacara: Menggunakannya untuk membantu menyusun banding atau meneliti kasus hukum, seperti yang dilakukan oleh pengacara Stephen Schwartz yang menggunakan ChatGPT dan asisten hukum GenAI seperti LexisNexis Protege.
• Pihak Terlibat: Menggunakannya untuk membantu menyampaikan pendapat mereka.

Meskipun GenAI dapat bermanfaat dan menghemat waktu, para ahli dan praktisi menekankan pentingnya verifikasi manusia karena potensi kesalahan.

Potensi risiko dan masalah utama saat menggunakan GenAI, khususnya di bidang hukum, adalah:

• Pemberian Kutipan Hukum Palsu: GenAI dapat menghasilkan kutipan hukum yang tidak ada atau tidak relevan, yang dapat merusak kredibilitas dan menyebabkan masalah hukum serius.
• Kasus yang Tidak Masuk Akal: GenAI berpotensi menyusun argumen atau petisi yang cacat atau tidak masuk akal.
• Denda dan Sanksi: Seperti yang terjadi di Los Angeles, hakim mendenda dua firma hukum karena petisi cacat yang disusun dengan bantuan GenAI, menunjukkan konsekuensi nyata dari ketergantungan tanpa verifikasi.

Oleh karena itu, pengawasan manusia dan pemeriksaan keakuratan selalu diperlukan.

Keberhasilan jangka panjang AI berasal dari:

• Eksperimen yang Bijaksana: Melakukan percobaan dengan hati-hati dan terencana.
• Implementasi yang Terukur: Menerapkan AI secara bertahap dan terkontrol.
• Tujuan yang Jelas: Memiliki sasaran yang spesifik dan realistis untuk penggunaan AI.
• Pengawasan Manusia: Memastikan adanya intervensi dan verifikasi oleh manusia.
• Evaluasi Kritis: Selalu menilai dan memeriksa hasil yang diberikan oleh AI.

Ini berarti menghindari pengejaran tren atau keuntungan jangka pendek semata, dan fokus pada penggunaan AI yang bertanggung jawab untuk menghindari risiko dan kesalahan.

Untuk membangun masa depan yang kompetitif dan tangguh, evaluasi hasil AI harus menjadi keterampilan inti dalam kurikulum pendidikan. Ini mencakup kemampuan untuk berpikir kritis, memverifikasi informasi, dan tidak sepenuhnya bergantung pada output AI tanpa pengawasan manusia.