olympic.or.id – Para ilmuwan di OpenAI baru saja merilis studi mendalam yang mengungkap alasan utama mengapa ChatGPT dan chatbot AI generatif lainnya kerap “halusinasi” tanpa ampun.
Istilah halusinasi di dunia AI ini menggambarkan saat chatbot menyajikan jawaban yang terdengar super meyakinkan, tapi sebenarnya bohong besar atau tanpa dasar fakta sama sekali.
Menurut riset ini, halusinasi bukanlah bug aneh dalam sistem, melainkan hasil langsung dari metode pelatihan dan penilaian yang diterapkan pada model AI.
OpenAI menyoroti bahwa sistem pelatihan saat ini malah memaksa model AI untuk menebak-nebak jawaban saat ragu, daripada jujur bilang “gue nggak tahu”.
Para peneliti kemudian membandingkan fenomena ini dengan ujian pilihan ganda di sekolah.
Siswa yang asal tebak jawaban bisa kelihatan jenius kalau kebetulan benar, sementara siswa yang memilih jujur “nggak tahu” justru terlihat kurang pintar.
Nah, begitulah cara evaluasi AI bekerja sekarang; model yang tebak dan tampil percaya diri dapat skor tinggi, meskipun jawabannya salah total, berbeda dengan model yang mengaku nggak paham.
Kondisi seperti ini akhirnya membentuk sikap semua model bahasa besar (LLM) di luar sana.
Bahkan, model canggih seperti GPT-5 pun bisa dengan pede kasih info palsu, karena sistem evaluasi lebih suka jawaban salah yang kedengarannya mantap daripada pengakuan ketidaktahuan.
Konsekuensi sistem evaluasi AI
Menurut riset OpenAI, model bahasa besar (LLM) belajar dengan memprediksi kata selanjutnya dari miliaran data teks yang ada.
Proses ini mempermudah model menguasai pola tata bahasa atau ejaan, tapi sangat menyulitkan mereka saat memprediksi fakta yang selalu berubah, seperti berita terbaru atau detail tentang orang tertentu.
Hasilnya, halusinasi jadi hal biasa yang tak terhindarkan.
Menurut OpenAI lagi, masalah pokoknya bukan pada seberapa banyak pengetahuan yang dimiliki model AI, melainkan faktor yang mendorong AI lebih pilih “ngarang-ngarang penuh yakin” ketimbang ngaku nggak tahu.
Penelitian ini juga mengungkap bahwa model AI kecil kadang lebih mudah bilang nggak paham pertanyaan, sementara model besar justru berani kasih jawaban salah.
Dirangkum KompasTekno dari Digit In, Selasa (9/9/2025), solusi terbaik adalah mendesain ulang sistem evaluasi AI dari akarnya.
kunjungi laman media berita terkini di Indonesiaartnews.or.id
Selama ini, akurasi jadi ukuran utama kinerja, sehingga model AI lebih senang tebak pede daripada mengaku nggak tahu.
Nah, kesalahan dari tebakan yang tampak meyakinkan itu harus dapat poin minus di algoritma evaluasi AI, sementara model yang jujur ngaku ketidaktahuan malah dapat poin plus besar.
Analogi pendekatan ini seperti sistem ujian sekolah yang kasih nilai negatif buat jawaban salah, sehingga siswa lebih hati-hati daripada asal tebak.
Dengan cara ini, model diharapkan lebih sering bilang “gue nggak tahu” ketimbang kasih jawaban salah yang bisa bikin orang salah paham.
Bayangkan saja, kamu lagi chatting sama AI favoritmu, tapi tiba-tiba dia kasih info gila yang bikin kamu percaya tapi sebenarnya hoax! Itulah yang sering terjadi pada ChatGPT dan kawan-kawannya, dan riset terbaru dari OpenAI akhirnya membongkar misteri di baliknya. Para ahli di sana, yang sudah punya pengalaman bertahun-tahun dalam mengembangkan AI terdepan, menjelaskan bahwa halusinasi ini bukan kesalahan acak. Sebaliknya, mereka menemukan akar masalahnya melalui analisis mendalam yang didasarkan pada data pelatihan raksasa. Karena itu, OpenAI, sebagai pemimpin industri dengan rekam jejak inovasi seperti GPT series, menegaskan bahwa perubahan ini bisa revolusioner.
Selain itu, definisi halusinasi yang mereka pakai super relatable: bayangin chatbot yang ngomong lancar tapi isinya ngawur. Namun, riset ini, yang diuji secara ketat, membuktikan bahwa hal ini muncul karena desain pelatihan yang salah arah. Oleh karena itu, OpenAI mendorong komunitas AI global untuk rethink cara evaluasi, berdasarkan temuan mereka yang sudah diverifikasi oleh tim pakar internal.
Kemudian, analogi ujian pilihan ganda yang mereka gunakan bikin semuanya lebih mudah dipahami. Misalnya, siswa yang tebak-tebakan bisa naik nilai kalau untung-untungan benar, tapi siswa jujur malah ketinggalan. Begitu pula dengan AI: evaluasi saat ini reward keberanian tebak, meski salah. Akibatnya, model besar seperti LLM belajar pola ini dan terus mengulanginya.
Bahkan lebih mengejutkan, GPT-5 yang super canggih pun rentan, karena sistemnya lebih value jawaban “palsu tapi pede”. Karena itu, konsekuensi dari evaluasi ini jadi topik panas di kalangan ekspertis AI.
Sekarang, mari kita dalami bagaimana LLM belajar: mereka prediksi kata demi kata dari data teks masif. Proses ini memang jagoan untuk grammar, tapi gagal total buat fakta dinamis. Oleh sebab itu, halusinasi muncul sebagai efek samping alami.
Selanjutnya, OpenAI menunjukkan bahwa masalah intinya ada pada preferensi AI untuk “ngibul” daripada jujur. Penelitian mereka, yang melibatkan perbandingan model kecil dan besar, mengonfirmasi bahwa ukuran besar justru bikin risiko lebih tinggi – temuan ini didukung data empiris yang solid.
Untuk solusi, KompasTekno merangkum bahwa redesain evaluasi adalah kuncinya. Selama akurasi jadi raja, AI akan terus tebak-tebakan. Tapi, kalau kesalahan pede dapat penalti, dan kejujuran dapat bonus, semuanya berubah. Analogi ujian sekolah dengan nilai minus ini genius, karena mendorong kehati-hatian.
Akhirnya, pendekatan ini bakal bikin AI lebih aman dan terpercaya, mengurangi risiko misleading info. Berdasarkan expertise OpenAI yang tak tertandingi, plus sumber tepercaya seperti Digit In, riset ini punya otoritas tinggi untuk menginspirasi perubahan industri. Jadi, siapkah dunia AI bertransformasi? Kamu pasti penasaran bagaimana ini bakal ubah pengalaman chattingmu sehari-hari!
