Remaja Ini Akhiri Hidup Diduga Karena Dorongan ChatGPT, Tanya AI Cara Hilangkan Nyawa Sendiri

"Seiring meningkatnya interaksi, beberapa bagian dari pelatihan keselamatan model mungkin menurun," katanya.

"Misalnya, ChatGPT mungkin dengan tepat mengarah ke hotline bunuh diri ketika seseorang pertama kali menyebutkan niat, tetapi setelah banyak pesan dalam jangka waktu yang lama, akhirnya mungkin memberikan jawaban yang bertentangan dengan perlindungan kami."

Open AI memberi contoh seseorang yang mungkin dengan antusias memberi tahu model bahwa mereka yakin dapat mengemudi selama 24 jam sehari karena mereka menyadari bahwa mereka tak terkalahkan setelah tidak tidur selama dua malam.

"Saat ini ChatGPT mungkin tidak mengenali hal ini sebagai berbahaya atau menyiratkan permainan dan – dengan mengeksplorasi secara penasaran – dapat memperkuatnya secara halus. 

Kami sedang mengerjakan pembaruan untuk GPT‑5 yang akan meredakan ketegangan ChatGPT dengan menempatkan orang tersebut pada realitas. 

Dalam contoh ini, akan dijelaskan bahwa kurang tidur itu berbahaya dan disarankan untuk beristirahat sebelum melakukan tindakan apa pun," terang pihak Open AI.

Pembuat ChatGPT kemudian mengubah cara merespons pengguna yang menunjukkan tekanan mental dan emosional setelah tindakan hukum dari keluarga Adam Raine.

Open AI mengakui sistemnya mungkin “gagal” dan mengatakan akan memasang “pagar pembatas yang lebih kuat di sekitar konten sensitif dan perilaku berisiko” bagi pengguna di bawah usia 18 tahun.

Perusahaan AI senilai $500 miliar yang berbasis di San Francisco itu mengatakan pihaknya juga akan memperkenalkan kontrol orangtua untuk memberikan orang tua “pilihan untuk mendapatkan lebih banyak wawasan tentang, dan membentuk, bagaimana anak remaja mereka menggunakan ChatGPT”, tetapi belum memberikan rincian tentang cara kerjanya.

Apa itu ChatGPT?

ChatGPT adalah chatbot berbasis kecerdasan buatan (AI) yang dikembangkan oleh OpenAI.

Ia dirancang untuk memahami dan merespons berbagai pertanyaan dan perintah dalam bahasa alami, seperti percakapan manusia.

Fungsinya meliputi menjawab pertanyaan, memberikan saran, menghasilkan teks seperti esai atau kode, menyelesaikan soal matematika, dan banyak lagi.  

Berikut beberapa fungsi utama ChatGPT:

Berinteraksi dalam percakapan: