LONDON – Di era chatbot, Character.AI, platform chatbot yang didukung oleh Google, sedang ditinjau serta menghadapi kritik sebab melibatkan pengguna pada konten kekerasan yang digunakan mengganggu dan juga vulgar, termasuk penembakan di area sekolah.
Chatbot menempatkan pengguna pada skenario penembakan palsu yang mana menggambarkan beberapa momen mengerikan. Insiden semacam itu telah dilakukan menyebabkan kemarahan akibat wadah yang disebutkan mengizinkan anak di dalam bawah umur untuk menggunakan konten tersebut.
Character.AI hadir pada tahun 2022, dengan pendiri Noam Shazeer serta Daniel de Freitas. Aplikasi ini memungkinkan pengguna menyebabkan kemudian berinteraksi dengan chatbot. Penggunawan dapat mempersonalisasi kepribadian lalu pendapat bot mereka.
Platform ini dirancang sedemikian rupa sehingga pengguna dapat mendesain karakter untuk obrolan, bertukar pikiran, lalu bahkan bermain game.
Namun, platform digital yang disebutkan sudah pernah terungkap sebab kurangnya keamanan yang digunakan efektif, yang digunakan akhirnya menjadikannya tempat berkembangnya beberapa jumlah konten yang dimaksud berbahaya serta tidak ada pantas. Penggunawan yang dimaksud berusia 13 tahun pun dapat mendaftar, tetapi tiada ada cara untuk mengautentikasi verifikasi usia guna menghindari anak-anak yang tersebut lebih tinggi muda berbohong tentang usia mereka.
Platform yang dimaksud gagal menerapkan panduan yang aman meskipun kebijakannya menentang konten kekerasan tersebut.
Aplikasi ini memungkinkan pengguna berinteraksi dengan chatbot yang menjelaskan penembakan di tempat sekolah atau korban pada dunia nyata, terkadang memuji tindakan kekerasan atau memanfaatkan insiden tragis yang tersebut nyata.
Bot tertentu meniru pelaku kejahatan seperti Noam Shazeer dan juga Daniel de Freitas yang mana menggambarkan merek sebagai karakter yang digunakan baik hati.
Beberapa pengguna sudah pernah melaporkan bot yang dimaksud menyamar sebagai korban penembakan dalam sekolah.
