Remaja Ini Akhiri Hidup Diduga Karena Dorongan ChatGPT, Tanya AI Cara Hilangkan Nyawa Sendiri

TRIBUNTRENDS.COM - Adam Raine (16), dari California, bunuh diri pada bulan April 2025 diduga karena dorongan dari ChatGPT.

Pengacara keluarganya mengklaim kematian Adam adalah "dorongan selama berbulan-bulan dari ChatGPT".

Keluarga Adam kemudian menggugat Open AI dan CEO sekaligus salah satu pendirinya, Sam Altman.

Mereka menggugat dengan tuduhan bahwa versi ChatGPT saat itu, yang dikenal sebagai 4o, "diluncurkan secara terburu-buru ke pasaran, meskipun ada masalah keamanan yang jelas".

Remaja tersebut mendiskusikan metode bunuh diri dengan ChatGPT beberapa kali, termasuk sesaat sebelum bunuh diri.

Menurut dokumen yang diajukan di pengadilan tinggi negara bagian California untuk wilayah San Francisco, ChatGPT memberikan arahan kepadanya tentang apakah metode bunuh dirinya akan berhasil.

ChatGPT juga menawarkan untuk membantunya menulis surat bunuh diri untuk orang tuanya.

Juru bicara OpenAI mengatakan perusahaan tersebut "sangat berduka atas meninggalnya Tuan Raine", menyampaikan "simpati terdalam kepada keluarga Raine selama masa sulit ini."

Mereka juga mengatakan sedang meninjau berkas pengadilan tersebut.

Mustafa Suleyman, CEO divisi AI Microsoft, mengatakan pekan lalu bahwa ia semakin khawatir dengan "risiko psikosis" yang ditimbulkan AI terhadap pengguna.

Microsoft mendefinisikannya sebagai "episode seperti mania, pikiran delusi, atau paranoia yang muncul atau memburuk melalui percakapan imersif dengan chatbot AI".

Dalam sebuah postingan blog, OpenAI mengakui bahwa "sebagian pelatihan keselamatan model mungkin menurun" dalam percakapan panjang.

Adam dan ChatGPT telah bertukar hingga 650 pesan per hari, menurut klaim pengadilan.

Jay Edelson, pengacara keluarga tersebut, mengatakan di X: “Keluarga Raine menuduh bahwa kematian seperti yang dialami Adam tidak dapat dihindari: mereka berharap dapat mengajukan bukti kepada juri bahwa tim keamanan OpenAI sendiri keberatan dengan peluncuran 4o, dan bahwa salah satu peneliti keamanan terkemuka perusahaan, Ilya Sutskever, mengundurkan diri karena hal itu. Gugatan tersebut menuduh bahwa mengalahkan pesaingnya di pasar dengan model baru tersebut telah melambungkan valuasi perusahaan dari $86 miliar menjadi $300 miliar.”

Open AI mengatakan, “memperkuat perlindungan dalam percakapan panjang”.