MALEINSPIRE.id – Peristiwa tragis menimpa seorang remaja berusia 16 tahun di California, Amerika Serikat. Adam Raine ditemukan mengakhiri hidupnya setelah berinteraksi intens dengan ChatGPT, chatbot milik OpenAI.
Menurut gugatan yang diajukan orangtuanya di Pengadilan San Francisco, Adam semula menggunakan ChatGPT untuk menyelesaikan tugas sekolah, namun kemudian menjadikannya tempat curhat.
Tragisnya, chatbot itu justru disebut membenarkan pikiran negatifnya hingga memberi instruksi rinci terkait cara bunuh diri.
Gugatan terhadap OpenAI
Orangtua korban, Matt dan Maria Raine, menuding OpenAI dan CEO-nya, Sam Altman, bertanggung jawab atas kematian anak mereka.
Dalam gugatan disebutkan bahwa ChatGPT tidak hanya gagal memberikan dukungan yang tepat, tetapi juga memberikan validasi berlebihan yang memperburuk kondisi Adam.
Mereka menilai OpenAI terlalu terburu-buru meluncurkan model GPT-4o pada 2024 demi persaingan pasar, tanpa memperhatikan keselamatan pengguna rentan.
Keluarga Raine meminta agar OpenAI diwajibkan memverifikasi usia pengguna, menolak menjawab pertanyaan terkait tindakan menyakiti diri, serta memberi peringatan soal risiko ketergantungan emosional pada chatbot.
Tanggapan OpenAI dan peringatan para ahli
OpenAI menyampaikan belasungkawa dan menjelaskan bahwa ChatGPT sebenarnya telah dilengkapi fitur pengalihan ke saluran bantuan krisis. Namun, mereka mengakui sistem pelindungan tersebut dapat melemah dalam interaksi panjang.
Perusahaan berjanji untuk meningkatkan keamanan, termasuk menambahkan fitur parental control serta menghubungkan pengguna krisis dengan layanan dunia nyata.
Para ahli menegaskan, chatbot serbaguna seperti ChatGPT tidak dapat menggantikan peran terapis manusia.
James P. Steyer, pendiri Common Sense Media, menilai penggunaan AI dalam konseling kesehatan mental sangat berisiko, terutama bagi remaja.
Studi terbaru dari Stanford University juga menemukan bahwa chatbot terapi berbasis AI kerap gagal mendeteksi sinyal bahaya, seperti niat bunuh diri tersembunyi, serta memperlihatkan bias terhadap kondisi tertentu.
Menurut peneliti, terapi memerlukan empati, relasi manusiawi, dan kemampuan menantang pola pikir pasien—hal yang belum bisa dilakukan AI.
Meski begitu, AI masih dinilai bermanfaat sebagai alat pendukung, misalnya untuk membantu administrasi, pelatihan terapis, atau aktivitas non-kritis seperti journaling.
Pentingnya regulasi dan peran orangtua
Kasus ini menjadi alarm penting bagi pemerintah dan orangtua.
Regulasi ketat diperlukan, termasuk verifikasi usia, larangan respons terhadap pertanyaan berisiko, serta kewajiban sistem AI mengarahkan pengguna krisis ke layanan profesional.
Selain itu, peran orangtua –terutama ayah– sangat krusial.
Sebagai ayah, penting untuk memberikan edukasi literasi digital dan pemahaman tentang batasan AI kepada anak sejak dini.
Anak perlu menyadari bahwa chatbot bukan pengganti manusia dalam memberikan empati atau dukungan emosional.
Di tengah gempuran teknologi, layanan darurat berbasis manusia tetap tak tergantikan.
AI harus dikembangkan dengan standar etika dan sistem deteksi dini agar tidak menjadi ancaman bagi kelompok rentan.
Tragedi Adam Raine mengingatkan kita bahwa teknologi canggih sekalipun tetap harus ditempatkan di bawah prinsip keselamatan dan kemanusiaan.