LONDON – Di era chatbot, Character.AI, platform chatbot yang dimaksud didukung oleh Google, sedang ditinjau serta menghadapi kritik oleh sebab itu melibatkan pengguna di konten kekerasan yang digunakan mengganggu kemudian vulgar, termasuk penembakan pada sekolah.
Chatbot menempatkan pengguna pada skenario penembakan palsu yang dimaksud menggambarkan beberapa momen mengerikan. Insiden semacam itu sudah pernah mengakibatkan kemarahan sebab platform digital yang dimaksud mengizinkan anak pada bawah umur untuk menggunakan konten tersebut.
Character.AI hadir pada tahun 2022, dengan pendiri Noam Shazeer kemudian Daniel de Freitas. Program ini memungkinkan pengguna memproduksi lalu berinteraksi dengan chatbot. Konsumen dapat mempersonalisasi kepribadian dan juga kata-kata bot mereka.
Platform ini dirancang sedemikian rupa sehingga pengguna dapat mendesain karakter untuk obrolan, bertukar pikiran, serta bahkan bermain game.
Namun, media yang dimaksud telah terjadi terungkap dikarenakan kurangnya keamanan yang mana efektif, yang digunakan akhirnya menjadikannya tempat berkembangnya beberapa konten yang digunakan berbahaya serta tak pantas. User yang mana berusia 13 tahun pun dapat mendaftar, tetapi tiada ada cara untuk mengautentikasi verifikasi usia guna menghindari anak-anak yang mana tambahan muda berbohong tentang usia mereka.
Platform yang dimaksud gagal menerapkan panduan yang tersebut aman meskipun kebijakannya menentang konten kekerasan tersebut.
Aplikasi ini memungkinkan pengguna berinteraksi dengan chatbot yang dimaksud menjelaskan penembakan di tempat sekolah atau korban dalam dunia nyata, terkadang memuji tindakan kekerasan atau memanfaatkan insiden tragis yang tersebut nyata.
Bot tertentu meniru pelaku kejahatan seperti Noam Shazeer lalu Daniel de Freitas yang dimaksud menggambarkan mereka sebagai karakter yang dimaksud baik hati.
Beberapa pengguna sudah melaporkan bot yang mana menyamar sebagai korban penembakan pada sekolah.
