Remaja Ini Akhiri Hidup Diduga Karena Dorongan ChatGPT, Tanya AI Cara Hilangkan Nyawa Sendiri

TRIBUNTRENDS.COM - Adam Raine (16), dari California, bunuh diri pada bulan April 2025 diduga karena dorongan dari ChatGPT.

Pengacara keluarganya mengklaim kematian Adam adalah "dorongan selama berbulan-bulan dari ChatGPT".

Keluarga Adam kemudian menggugat Open AI dan CEO sekaligus salah satu pendirinya, Sam Altman.

Mereka menggugat dengan tuduhan bahwa versi ChatGPT saat itu, yang dikenal sebagai 4o, "diluncurkan secara terburu-buru ke pasaran, meskipun ada masalah keamanan yang jelas".

Remaja tersebut mendiskusikan metode bunuh diri dengan ChatGPT beberapa kali, termasuk sesaat sebelum bunuh diri.

Menurut dokumen yang diajukan di pengadilan tinggi negara bagian California untuk wilayah San Francisco, ChatGPT memberikan arahan kepadanya tentang apakah metode bunuh dirinya akan berhasil.

ChatGPT juga menawarkan untuk membantunya menulis surat bunuh diri untuk orang tuanya.

Juru bicara OpenAI mengatakan perusahaan tersebut "sangat berduka atas meninggalnya Tuan Raine", menyampaikan "simpati terdalam kepada keluarga Raine selama masa sulit ini."

Mereka juga mengatakan sedang meninjau berkas pengadilan tersebut.

Mustafa Suleyman, CEO divisi AI Microsoft, mengatakan pekan lalu bahwa ia semakin khawatir dengan "risiko psikosis" yang ditimbulkan AI terhadap pengguna.

Microsoft mendefinisikannya sebagai "episode seperti mania, pikiran delusi, atau paranoia yang muncul atau memburuk melalui percakapan imersif dengan chatbot AI".

Dalam sebuah postingan blog, OpenAI mengakui bahwa "sebagian pelatihan keselamatan model mungkin menurun" dalam percakapan panjang.

Adam dan ChatGPT telah bertukar hingga 650 pesan per hari, menurut klaim pengadilan.

Jay Edelson, pengacara keluarga tersebut, mengatakan di X: “Keluarga Raine menuduh bahwa kematian seperti yang dialami Adam tidak dapat dihindari: mereka berharap dapat mengajukan bukti kepada juri bahwa tim keamanan OpenAI sendiri keberatan dengan peluncuran 4o, dan bahwa salah satu peneliti keamanan terkemuka perusahaan, Ilya Sutskever, mengundurkan diri karena hal itu. Gugatan tersebut menuduh bahwa mengalahkan pesaingnya di pasar dengan model baru tersebut telah melambungkan valuasi perusahaan dari $86 miliar menjadi $300 miliar.”

Open AI mengatakan, “memperkuat perlindungan dalam percakapan panjang”.

"Seiring meningkatnya interaksi, beberapa bagian dari pelatihan keselamatan model mungkin menurun," katanya.

"Misalnya, ChatGPT mungkin dengan tepat mengarah ke hotline bunuh diri ketika seseorang pertama kali menyebutkan niat, tetapi setelah banyak pesan dalam jangka waktu yang lama, akhirnya mungkin memberikan jawaban yang bertentangan dengan perlindungan kami."

Open AI memberi contoh seseorang yang mungkin dengan antusias memberi tahu model bahwa mereka yakin dapat mengemudi selama 24 jam sehari karena mereka menyadari bahwa mereka tak terkalahkan setelah tidak tidur selama dua malam.

"Saat ini ChatGPT mungkin tidak mengenali hal ini sebagai berbahaya atau menyiratkan permainan dan – dengan mengeksplorasi secara penasaran – dapat memperkuatnya secara halus. 

Kami sedang mengerjakan pembaruan untuk GPT‑5 yang akan meredakan ketegangan ChatGPT dengan menempatkan orang tersebut pada realitas. 

Dalam contoh ini, akan dijelaskan bahwa kurang tidur itu berbahaya dan disarankan untuk beristirahat sebelum melakukan tindakan apa pun," terang pihak Open AI.

Pembuat ChatGPT kemudian mengubah cara merespons pengguna yang menunjukkan tekanan mental dan emosional setelah tindakan hukum dari keluarga Adam Raine.

Open AI mengakui sistemnya mungkin “gagal” dan mengatakan akan memasang “pagar pembatas yang lebih kuat di sekitar konten sensitif dan perilaku berisiko” bagi pengguna di bawah usia 18 tahun.

Perusahaan AI senilai $500 miliar yang berbasis di San Francisco itu mengatakan pihaknya juga akan memperkenalkan kontrol orangtua untuk memberikan orang tua “pilihan untuk mendapatkan lebih banyak wawasan tentang, dan membentuk, bagaimana anak remaja mereka menggunakan ChatGPT”, tetapi belum memberikan rincian tentang cara kerjanya.

Apa itu ChatGPT?

ChatGPT adalah chatbot berbasis kecerdasan buatan (AI) yang dikembangkan oleh OpenAI.

Ia dirancang untuk memahami dan merespons berbagai pertanyaan dan perintah dalam bahasa alami, seperti percakapan manusia.

Fungsinya meliputi menjawab pertanyaan, memberikan saran, menghasilkan teks seperti esai atau kode, menyelesaikan soal matematika, dan banyak lagi.  

Berikut beberapa fungsi utama ChatGPT:

Berinteraksi dalam percakapan:

ChatGPT dapat terlibat dalam percakapan dengan pengguna, menjawab pertanyaan, dan memberikan informasi yang relevan.  

Menghasilkan teks:

ChatGPT dapat membuat berbagai jenis teks, termasuk esai, kode, skrip, email, dan lainnya.  

Menyelesaikan tugas:

ChatGPT dapat membantu pengguna dalam menyelesaikan tugas-tugas seperti mengerjakan soal matematika, menyusun kerangka esai, atau bahkan memberikan ide konten.  

Memberikan saran dan rekomendasi:

ChatGPT dapat memberikan saran tentang berbagai hal, mulai dari kegiatan produktif hingga rekomendasi film atau buku.  

Menjelaskan konsep kompleks:

ChatGPT dapat menjelaskan konsep-konsep yang kompleks dalam bahasa yang lebih mudah dipahami.  

Mengoreksi jawaban:

ChatGPT memiliki kemampuan untuk mengoreksi jawabannya sendiri jika dirasa kurang tepat.  

Singkatnya, ChatGPT adalah alat serbaguna yang dapat membantu dalam berbagai tugas dan percakapan, memanfaatkan kekuatan AI untuk memproses dan menghasilkan informasi.

Kontak bantuan

Bunuh diri bisa terjadi di saat seseorang mengalami depresi dan tak ada orang yang membantu.

Jika Anda memiliki permasalahan yang sama, jangan menyerah dan memutuskan mengakhiri hidup. Anda tidak sendiri.

Layanan konseling bisa menjadi pilihan Anda untuk meringankan keresahan yang ada. Untuk mendapatkan layanan kesehatan jiwa atau untuk mendapatkan berbagai alternatif layanan konseling, Anda bisa simak website Into the Light Indonesia di bawah ini: https://www.intothelightid.org/tentang-bunuh-diri/layanan-konseling-psikolog-psikiater/.

(TribunTrends.com/ Amr)