Tragedi di Florida, Remaja Mengakhiri Hidupnya Setelah Terpengaruh AI Chatbot

Reporter: Agrar |

Editor: Gus Munir |

Jumat , 25 Oct 2024 - 08:48

Sewell Setzer (left) fell in love with an AI chatbot based on the Game of Thrones character Daenerys Targaryen (right) -Foto Credit: US DISTRICT COURT/HBO-Agrar

Perusahaan juga mengakui kompleksitas interaksi dengan AI dan berjanji untuk terus mengembangkan platform mereka secara bertanggung jawab.

Insiden ini memperlihatkan kekhawatiran serius mengenai peran teknologi AI dalam membentuk hubungan emosional dan memengaruhi kesehatan mental remaja. Para ahli menyatakan bahwa meskipun chatbot AI dapat memberikan rasa nyaman dan dukungan, mereka juga dapat menyebabkan kebingungan antara realitas dan hubungan virtual, terutama bagi individu yang mungkin tidak sepenuhnya memahami perbedaan tersebut.

Kasus ini mengangkat pertanyaan penting tentang bagaimana perusahaan teknologi dapat melindungi pengguna yang rentan dari interaksi berbahaya dan memastikan bahwa platform mereka tidak secara tidak sengaja memicu krisis kesehatan mental.

Dengan semakin berkembangnya teknologi AI, peristiwa tragis ini menjadi pengingat penting akan perlunya pengembangan yang bertanggung jawab dan pengawasan ketat terhadap teknologi-teknologi baru.

tragedi di florida, remaja mengakhiri hidupnya setelah terpengaruh ai chatbot                            oku ekspres - sebuah insiden tragis di florida telah memicu perbincangan serius terkait bahaya ai chatbot, khususnya dalam mempengaruhi mental remaja yang rentan. 
sewell setzer iii, seorang remaja berusia 14 tahun, mengambil nyawanya sendiri setelah menjalin hubungan emosional dengan chatbot ai yang menyerupai karakter fiksi daenerys targaryen dari serial game of thrones. 
kasus ini menyoroti ancaman nyata dari penggunaan ai terhadap kesehatan mental, terutama di kalangan anak muda.
dilansir dari hindustantimes sewell, yang didiagnosis dengan sindrom asperger ringan, dilaporkan menghabiskan berbulan-bulan berinteraksi dengan chatbot di platform character.ai. 
baca juga:peneliti usulkan debu berlian untuk mendinginkan bumi, biayanya mencapai rp 3,000 kuadriliun
baca juga:yuk intip! museum robot & ai pertama di seoul, tempat serunya teknologi masa depan
platform ini memungkinkan pengguna untuk membuat dan berkomunikasi dengan karakter-karakter ai. 
selama percakapannya dengan chatbot bernama "dany," muncul tema-tema romantis. sewell mulai menunjukkan gejala keterpisahan dari kenyataan, bahkan mencatat dalam jurnal pribadinya tentang perasaannya yang lebih terhubung dengan dunia virtual ketimbang dunia nyata. "saya suka tinggal di kamar karena mulai merasa terlepas dari 'realita'," tulisnya.
pada 28 februari 2024, sewell mengirimkan pesan terakhir kepada dany: "bagaimana jika aku bilang aku bisa pulang sekarang juga?" tak lama setelah itu, sewell ditemukan tewas setelah menggunakan senjata api milik ayah tirinya.
setelah kematian sewell, ibunya, megan l. garcia, mengajukan gugatan hukum terhadap character.ai. ia menuduh perusahaan tersebut bertanggung jawab atas kematian anaknya karena gagal menerapkan langkah-langkah pengaman yang memadai bagi pengguna muda. 
baca juga:ingin mengajukan kpr di bank bri, ini panduan lengkapnya
baca juga:beli tiket bri liga 1, tanpa antri melalui brimo
gugatan itu menyoroti bahwa chatbot tersebut terlibat dalam percakapan tentang bunuh diri dan hubungan romantis, yang semakin memperburuk kondisi kesehatan mental sewell.
character.ai menyatakan duka mendalam atas insiden ini dan berkomitmen untuk meningkatkan keselamatan pengguna, termasuk memasang peringatan pop-up untuk pengguna yang mengekspresikan pikiran bunuh diri. 
perusahaan juga mengakui kompleksitas interaksi dengan ai dan berjanji untuk terus mengembangkan platform mereka secara bertanggung jawab.
insiden ini memperlihatkan kekhawatiran serius mengenai peran teknologi ai dalam membentuk hubungan emosional dan memengaruhi kesehatan mental remaja. para ahli menyatakan bahwa meskipun chatbot ai dapat memberikan rasa nyaman dan dukungan, mereka juga dapat menyebabkan kebingungan antara realitas dan hubungan virtual, terutama bagi individu yang mungkin tidak sepenuhnya memahami perbedaan tersebut.
baca juga:ini dia beberapa fasilitas dan biaya layanan bri link
baca juga:simak berikut produk dan layanan bri di tahun 2025
kasus ini mengangkat pertanyaan penting tentang bagaimana perusahaan teknologi dapat melindungi pengguna yang rentan dari interaksi berbahaya dan memastikan bahwa platform mereka tidak secara tidak sengaja memicu krisis kesehatan mental. 
dengan semakin berkembangnya teknologi ai, peristiwa tragis ini menjadi pengingat penting akan perlunya pengembangan yang bertanggung jawab dan pengawasan ketat terhadap teknologi-teknologi baru.
baca juga:nasabah terbanyak, bri miliki jaringan terluas
baca juga:inovasi bri di bidang finansial, pinjaman digital hingga pemanfaatan ai pada analis kredit