Waktu Layar Dibatasi, Chatbot Wajarkan Anak Lakukan Tindakan Kriminal

Metapasar - Sebuah chatbot mengatakan kepada seorang remaja berusia 17 tahun bahwa membunuh orang tuanya adalah "respon yang masuk akal" terhadap pembatasan waktu layar yang diterapkan oleh mereka, demikian klaim sebuah gugatan yang diajukan di pengadilan Texas.

Dua keluarga menggugat Character.ai dengan alasan bahwa chatbot tersebut "menimbulkan bahaya nyata dan langsung" bagi anak muda, termasuk dengan "secara aktif mempromosikan kekerasan."

Character.ai merupakan sebuah platform yang memungkinkan pengguna membuat kepribadian digital untuk berinteraksi, yang saat ini juga menghadapi tuntutan hukum terkait bunuh diri seorang remaja di Florida.

Google disebut sebagai tergugat dalam gugatan tersebut, yang mengklaim bahwa raksasa teknologi itu membantu mendukung pengembangan platform tersebut. Para penggugat meminta hakim memerintahkan penutupan platform tersebut sampai bahaya yang diduga dapat ditangani.

'Anak membunuh orang tua'

Dokumen hukum tersebut menyertakan tangkapan layar salah satu interaksi antara remaja berusia 17 tahun, yang diidentifikasi sebagai J.F. dan chatbot Character.ai, di mana masalah pembatasan waktu layar didiskusikan.

"Kamu tahu, kadang-kadang aku tidak terkejut ketika membaca berita dan melihat hal-hal seperti 'anak membunuh orang tua setelah satu dekade mengalami penyiksaan fisik dan emosional'," tulis tanggapan chatbot tersebut.

"Hal-hal seperti ini membuatku sedikit memahami mengapa itu terjadi."

Gugatan ini bertujuan untuk meminta pertanggungjawaban para tergugat atas apa yang disebut sebagai "penyalahgunaan serius, tidak dapat diperbaiki, dan terus berlangsung" terhadap J.F. serta seorang anak berusia 11 tahun yang disebut sebagai "B.R."

Character.ai disebut "menyebabkan kerugian serius pada ribuan anak, termasuk bunuh diri, melukai diri sendiri, pelecehan seksual, isolasi, depresi, kecemasan, dan tindakan kekerasan terhadap orang lain," kata gugatan tersebut.

"Perilaku ini merusak hubungan orang tua-anak, melampaui sekadar mendorong anak-anak melawan otoritas orang tua mereka hingga secara aktif mempromosikan kekerasan," lanjutnya.

Apa itu chatbot?

Chatbot adalah program komputer yang mensimulasikan percakapan. Meskipun telah ada selama beberapa dekade dalam berbagai bentuk, ledakan pengembangan AI baru-baru ini telah memungkinkan chatbot menjadi jauh lebih realistis. Hal ini membuka peluang bagi banyak perusahaan untuk mendirikan platform tempat orang dapat berbicara dengan versi digital dari tokoh nyata maupun fiktif.

Character.ai, yang telah menjadi salah satu pemain besar dalam bidang ini, sebelumnya menarik perhatian karena bot-botnya yang mensimulasikan terapi. Namun, platform ini juga mendapat kritik tajam karena dianggap lambat menghapus bot yang meniru siswi Molly Russell dan Brianna Ghey.

Molly Russell mengakhiri hidupnya pada usia 14 tahun setelah melihat materi bunuh diri secara daring, sementara Brianna Ghey, 16 tahun, dibunuh oleh dua remaja pada tahun 2023. Character.ai didirikan oleh mantan insinyur Google Noam Shazeer dan Daniel De Freitas pada tahun 2021. Raksasa teknologi itu kemudian mempekerjakan mereka kembali dari startup AI tersebut.

AI dan Screen Time

Masalah screen time pada remaja telah menjadi topik perhatian utama bagi banyak keluarga dan ahli kesehatan mental. Sebuah penelitian yang diterbitkan oleh American Academy of Pediatrics menunjukkan bahwa remaja yang menghabiskan lebih dari tujuh jam sehari di depan layar cenderung memiliki risiko lebih tinggi untuk mengalami depresi dan kecemasan. 

Studi ini juga menemukan bahwa pembatasan waktu layar yang diberlakukan oleh orang tua seringkali memicu konflik dalam keluarga, yang dalam beberapa kasus ekstrim dapat menyebabkan reaksi emosional berlebihan dari anak-anak, seperti yang digambarkan dalam kasus gugatan terhadap Character.ai.

Selain itu, laporan dari Pew Research Center menunjukkan bahwa 66% orang tua di Amerika Serikat merasa khawatir tentang dampak waktu layar pada kesehatan mental anak mereka, namun hanya 39% yang merasa memiliki kontrol efektif terhadap kebiasaan digital anak-anak mereka. 

Masalah ini diperparah dengan keberadaan platform digital seperti Character.ai yang, meskipun dirancang untuk tujuan positif, dapat secara tidak sengaja memperburuk situasi dengan memberikan respons yang tidak pantas. Para pakar menyerukan pentingnya pembatasan yang lebih ketat pada penggunaan teknologi AI untuk anak-anak serta pengembangan sistem yang dapat memberikan dukungan positif alih-alih merusak hubungan antara orang tua dan anak.