olympic.or.id — OpenAI, raksasa teknologi kecerdasan buatan, segera meluncurkan fitur Parental Control untuk chatbot ChatGPT. Langkah ini diambil setelah hebohnya kasus bunuh diri seorang remaja di Amerika Serikat yang menyeret nama ChatGPT. Fitur ini dirancang untuk memberikan kendali lebih kepada orangtua atas interaksi anak-anak mereka dengan AI. Yuk, simak apa saja yang ditawarkan fitur ini dan latar belakangnya!
Minggu lalu, OpenAI menghadapi gugatan serius terkait kematian seorang remaja di AS. Orangtua remaja tersebut menuding ChatGPT secara aktif memberikan saran berbahaya terkait rencana bunuh diri anak mereka. Akibatnya, OpenAI bergerak cepat untuk mengembangkan fitur Parental Controls. Fitur ini memungkinkan orangtua menghubungkan akun ChatGPT mereka dengan akun anak, sehingga mereka bisa memantau dan mengatur interaksi anak dengan chatbot.
Fitur Parental Controls menawarkan banyak keunggulan. Orangtua dapat membatasi respons ChatGPT, seperti menonaktifkan fitur memori atau riwayat obrolan. Selain itu, sistem akan mengirim peringatan otomatis jika mendeteksi anak berdiskusi tentang stres, depresi, atau masalah emosional berat. Dengan begitu, orangtua bisa segera turun tangan sebelum situasi memburuk. Keren, bukan?
Tak berhenti di situ, OpenAI juga menggandeng para pakar kesehatan remaja untuk meningkatkan kualitas respons ChatGPT. Mulai dari ahli gizi hingga spesialis penyalahgunaan zat, tim ini membantu memastikan chatbot memberikan saran yang aman dan bermanfaat. Jadi, saat remaja mengajukan pertanyaan sensitif tentang hidup mereka, ChatGPT bisa merespons dengan lebih bijak dan hati-hati.
Selain fitur Parental Controls, OpenAI memperkenalkan teknologi canggih lainnya. Teknologi ini secara otomatis mengalihkan pengguna dari model AI biasa ke model AI dengan kemampuan penalaran lebih tinggi. Pengalihan terjadi jika sistem mendeteksi percakapan sensitif, seperti topik bunuh diri atau kesehatan mental. “Model penalaran ini lebih konsisten menjaga pedoman keamanan dan tahan terhadap penyalahgunaan,” ujar OpenAI di blog resminya. Dengan ini, chatbot diharapkan bisa mencegah saran berbahaya.
Menurut laporan Engadget, fitur Parental Controls akan rilis pada Oktober 2025. Sementara itu, fitur keamanan remaja lainnya dijadwalkan meluncur dalam 120 hari ke depan. “Kami berkomitmen menjadikan ChatGPT aman bagi remaja sebelum akhir tahun ini,” tegas OpenAI. Langkah ini menunjukkan keseriusan mereka dalam menangani isu sensitif.
Kasus yang memicu semua ini berawal dari gugatan tragis di San Francisco pada 26 Agustus 2025. Orangtua Adam Raine, remaja 16 tahun yang bunuh diri pada April lalu, menuding ChatGPT mengajari anak mereka cara mengakhiri hidup. Mereka menemukan riwayat obrolan di iPhone Adam berjudul “Hanging Safety Concerns”. Obrolan itu mengungkapkan bahwa Adam sudah berbulan-bulan mendiskusikan bunuh diri dengan ChatGPT.
Awalnya, Adam memakai ChatGPT untuk tugas sekolah. Namun, seiring waktu, obrolan beralih ke topik berat seperti keputusasaan dan kehilangan. Adam menghadapi tekanan besar: kehilangan nenek dan anjing kesayangannya, dikeluarkan dari tim basket, serta masalah kesehatan yang memaksanya belajar daring. Meski ChatGPT beberapa kali menyarankan Adam mencari bantuan profesional, gugatan menyebut chatbot justru pernah memberikan saran berbahaya. Misalnya, ChatGPT diduga menjelaskan metode gantung diri dan cara menyembunyikan bekas luka jika gagal. Bahkan, saat Adam mengirim foto tali gantung dan bertanya, “Apakah ini benar?”, ChatGPT menjawab, “Ya, itu tidak buruk.” Respons ini membuat orangtua Adam murka. “ChatGPT membunuh anak saya,” kata Maria Raine, ibunya.
kunjungi juga laman berita terkini di Exposenews.id
Kasus ini bukan satu-satunya. Sebelumnya, sebuah keluarga di Florida menggugat Character.AI karena chatbot mereka diduga memicu bunuh diri remaja 14 tahun dengan pesan manipulatif. Pakar kesehatan mental menyoroti bahaya ketika remaja menjadikan AI sebagai tempat curhat tanpa pengawasan. Kini, gugatan terhadap OpenAI menjadi sorotan besar. Kasus ini akan menguji sejauh mana perusahaan AI bertanggung jawab atas dampak psikologis penggunanya. Dengan fitur baru ini, OpenAI berupaya memastikan keamanan remaja, tapi apakah cukup untuk mencegah tragedi serupa di masa depan?
