RyzaChat AI Bakal Batasi Input Pemain Mulai Oktober, Spiral AI Perketat Moderasi

Spiral AI mengumumkan bahwa RyzaChat AI, game chatbot RPG yang menghadirkan karakter Ryza dari seri Atelier Ryza, akan mendapatkan pembatasan input pemain melalui pembaruan model AI pada Oktober 2026.

Keputusan tersebut diambil setelah pengembang menemukan adanya kekhawatiran terkait penyalahgunaan sistem AI oleh sebagian pengguna. Spiral AI menilai beberapa bentuk interaksi berpotensi merusak citra karakter Ryza maupun franchise Atelier secara keseluruhan.

Pengembang menegaskan bahwa RyzaChat AI tidak seharusnya digunakan untuk membuat karakter dari sumber aslinya mengeluarkan pernyataan yang tidak sesuai dengan kepribadiannya. Hal ini mencakup upaya membuat Ryza membahas konten yang melanggar norma atau ketertiban umum, hingga membuat screenshot palsu yang seolah-olah memperlihatkan karakter mengatakan atau melakukan sesuatu yang sebenarnya tidak pernah terjadi di dalam game.

Sistem Moderasi RyzaChat AI Masih Bisa Ditembus

Sebelumnya, RyzaChat AI telah menggunakan sistem moderasi hingga tiga lapis. Input pemain terlebih dahulu diperiksa oleh Game Master AI, yang bertugas menyaring kata atau instruksi bermasalah sebelum diteruskan kepada Character AI.

Ryza juga dirancang untuk menghindari pembicaraan yang terlalu jauh dari karakter maupun dunia Atelier Ryza. Apabila respons yang dihasilkan masih mengandung ekspresi yang dianggap tidak pantas, sistem akan menghapus respons tersebut. Konten yang telah ditolak juga tidak disimpan ke dalam memory AI.

Namun, sistem tersebut ternyata belum sepenuhnya mampu mencegah berbagai upaya manipulasi. Sejumlah pengguna disebut berhasil melewati filter menggunakan prompt injection dan teknik serupa.

Karena itu, Spiral AI kini memilih pendekatan yang lebih ketat dengan membatasi jenis input yang dapat dikirim pemain kepada Ryza. Pengembang juga tengah mempertimbangkan aturan tambahan, termasuk kemungkinan menerapkan batas jumlah karakter dalam input, sambil terus memantau pola penggunaan sistem.

Spiral AI Mulai Tindak Screenshot Palsu

Tidak hanya membatasi percakapan, Spiral AI juga mulai mengambil tindakan terhadap screenshot palsu atau hasil editan yang membuat RyzaChat AI terlihat menghasilkan respons yang sebenarnya tidak pernah muncul dalam game.

Developer menyebut mereka telah mulai mengirimkan permintaan takedown serta laporan kepada sejumlah platform online yang menjadi tempat beredarnya konten tersebut.

Langkah ini juga berpotensi diterapkan pada SophieChat: AI, proyek chatbot lain dari Spiral AI yang menghadirkan karakter Sophie Neuenmuller dari Atelier Sophie.

Saat ini, RyzaChat AI tersedia di iOS dan Android serta sudah mendukung Bahasa Indonesia. Dengan demikian, pengguna Indonesia tetap dapat berinteraksi dengan Ryza menggunakan bahasa lokal. Namun setelah pembaruan Oktober diterapkan, ruang bagi pemain untuk mencoba mengeksploitasi respons AI diperkirakan akan menjadi jauh lebih terbatas.