ToxMod, Moderasi Voice Chat Online Toxic untuk Gamer

GwiGwi.com – Modulate Inc, sebuah perusahaan teknologi yang menggunakan kecerdasan buatan untuk meningkatkan voice chat online, memperkenalkan ToxMod, layanan moderasi suara-asli pertama di dunia. ToxMod melampaui gagasan hanya menyalin apa yang dikatakan dan memanfaatkan suara sebagai media untuk melakukan moderasi lebih efektif daripada yang dapat dilakukan oleh moderasi teks sendiri.

“ToxMod membantu pengembang game mendeteksi ucapan yang toxic, mengganggu, atau bermasalah secara real-time, dan merespons dengan segera dan tepat,” kata Mike Pappas, Co-Founder dan CEO Modulate. “Pengembang sekarang dapat menangani ucapan yang menyinggung tidak hanya dengan menutup seluruh percakapan, tetapi juga mengambil tindakan yang lebih bernuansa seperti memblokir kata-kata tertentu seperti penghinaan rasial atau mengidentifikasi informasi seperti nomor telepon.”

ToxMod menggunakan model pembelajaran mesin yang canggih untuk memahami tidak hanya apa yang dikatakan setiap pemain, tetapi bagaimana mereka mengatakannya – termasuk emosi, volume, prosodi, dan lainnya. Hal ini memungkinkan prediksi yang jauh lebih bernuansa dan akurat tentang apakah pernyataan tertentu dimaksudkan sebagai beracun atau mengganggu. Moderator sekarang dapat mengidentifikasi pelaku jahat dan terlebih dahulu menyelesaikan masalah sebelum berkembang menjadi masalah yang lebih parah. Secara default, ToxMod memproses semua data di perangkat setiap pemain secara real-time, menjaga privasi pemain, dan hanya mengirimkan audio di luar perangkat ke tim moderasi ketika tingkat toxic telah terdeteksi.

“Karena ToxMod dapat membedakan sesuatu seperti frustrasi jujur ​​yang diekspresikan dengan cara yang berbeda dari niat jahat, ToxMod juga dapat menyarankan algoritma pencocokkan atau reputasi untuk meningkatkan pengalaman pemain,” kata Carter Huffman, Co-Founder dan CTO dari Modulate. “Selain itu, setiap instance ToxMod pribadi game belajar dari waktu ke waktu tentang komunitasnya secara spesifik, selain algoritme inti universal ToxMod yang berevolusi dan meningkat secara otomatis di belakang layar.”