Perhatikan! Model AI Bisa Berhalusinasi, Begini Mitigasinya

Produk yang dihasilkan oleh teknologi kecerdasan buatan (AI), baik teks maupun visual, perlu mendapat perhatian karena meski hasilnya tampak meyakinkan, produk tersebut berpotensi tidak akurat. Halusinasi adalah salah satu isu yang kerap terjadi pada model AI, dan memicu keluaran yang tidak akurat, menyesatkan, atau tidak koheren, karena algoritmanya menemukan pola dalam data yang tidak ada atau menafsirkan pola tersebut secara tidak tepat.

Dikutip dari Kaspersky, ada beberapa alasan AI berhalusinasi. Dalam banyak kasus, kondisi ini terjadi akibat kombinasi beberapa alasan sekaligus. Salah satu pemicu halusinasi adalah model AI tidak memiliki cukup data pelatihan untuk memberi hasil yang komprehensif dan akurat. Di sisi lain, terlalu banyak data pelatihan juga dapat memicu halusinasi, karena terlalu banyak gangguan data yang tidak relevan tertukar dengan informasi penting yang diperlukan.

Bias dalam data juga bisa menjadi pemicu kesalahan dalam data yang diberikan. AI juga bisa membuat asumsi dan kesimpulan yang salah dari informasi yang telah diberikan pengguna. Penyebab lain dari halusinasi AI adalah kurangnya konteks dunia nyata dalam model AI, seperti sifat fisik objek atau informasi yang lebih luas.

Risiko halusinasi membuat pentingnya manusia untuk melakukan evaluasi sebelum produk buatan AI digunakan atau dirilis ke publik. Kesalahan akurasi berpotensi menyesatkan jika produk akhir yang dikembangkan dengan bantuan AI dirilis oleh individu atau instansi terpercaya.

Dilansir MIT Sloan, ada beberapa cara yang dapat dilakukan untuk membantu memitigasi isu halusinasi dan bias dari AI. Salah satunya adalah evaluasi keluaran AI secara kritis. Tidak seperti manusia, sistem AI tidak memiliki kemampuan untuk berpikir atau membentuk keyakinan. Sistem ini beroperasi secara algoritmik berdasarkan data yang dilatih, tanpa kemampuan bawaan untuk bernalar atau merenung.

Mengingat hal ini, pengguna harus menanggapi hasil produk AI dengan pandangan kritis dan mengevaluasinya menggunakan penilaian manusia. Oleh karena itu, perlu dilakukan evaluasi sebelum produk buatan AI dirilis ke publik untuk mencegah halusinasi dan bias dalam data.

Dengan memperhatikan beberapa cara di atas, kita dapat membantu memitigasi isu halusinasi dan bias dari AI. Dengan demikian, produk buatan AI yang akurat dan terpercaya dapat digunakan dengan lebih baik.