Негізгі ұсыныстар
- ToxMod, Бостонда орналасқан Modulate компаниясы, нақты уақыт режимінде бұзушы сөйлеуді автоматты түрде анықтап, оған қарсы әрекет ететінін мәлімдейді.
- Қарапайым тілмен шектелудің орнына, ToxMod эмоция, дыбыс деңгейі және ырғақ сияқты материалдық емес нәрселерді анықтау үшін машиналық оқытуды пайдаланады.
- ToxMod қазіргі уақытта ойын ішіндегі чат бөлмелерімен пайдалануға арналған, бірақ оның Twitch арнаңызға келмеуі үшін ешқандай себеп жоқ.
Бостондық компания айтылған сөз бен оның мағынасын ажырата алатын әлемдегі алғашқы дауыстық модерация қызметі ретінде есеп-шот жасау үшін машиналық оқытуды пайдалануда.
ToxMod - бұл Интернеттегі кез келген ашық кеңістікті модерациялау парадоксын шешу әрекеті; Сұраныстарды қанағаттандыру үшін адамдар жеткіліксіз, бірақ алгоритмдер, сүзгілер және есеп беру жүйесі нюанстарды түсінбейді.
ToxMod дерекқорының көмегімен ол ойыншылардың сөйлеуіндегі эмоция мен дыбыс деңгейі сияқты факторларды бақылай алады, бұл оған бір сәттік сәтсіздік пен мінез-құлық үлгісін ажыратуға көмектеседі. Жақында ол Steam-де ертерек қолжетімділікте 7v7 американдық футбол ойыны Gridiron ойынына қосымша ретінде жарияланды.
"Дауыстық чат пен ойында қудалау, өшпенділік айту және уыттылық үлкен мәселе екенін бәрі біледі. Бұл жалпыға түсінікті", - деді Картер Хаффман, бас технология директоры және Modulate негізін қалаушы Google кездесуінде. Lifewire. «Біз осы алуан түрлі машиналық оқыту жүйелері арқылы алынған мүмкіндіктерді алып, оны қоғамдастықтан үйреніп жатқан барлық сараптамалық білімдерді ескеретін жүйеге біріктіре аламыз."
Жаңа робот модераторларымызды құттықтаймыз
Modulate өткен күзден бері ToxMod-да жұмыс істейді және оны компанияның үш негізгі қызметінің бірі ретінде біріктірді. Сондай-ақ ол машиналық оқыту арқылы жұмыс істейтін дауысты жасырғыш VoiceWear және пайдаланушыларға қауымдастықтардағы адамдар не талқылап жатқанын білуге мүмкіндік беретін VoiceVibe агрегатор қызметін ұсынады.
ToxMod чатта жұмыс істеп тұрғанда, ескертулер беру, ойыншылардың дыбысын өшіру немесе дыбысты жеке реттеу сияқты әртүрлі автоматты әрекеттерді орындау үшін оны Modulate басқару тақтасы арқылы бағдарламалауға болады.
Ол триаж жүйесін пайдаланады, онда оның жергілікті данасы Modulate серверлерінен растау үшін тексермес бұрын бірінші болып әрекет етеді. Содан кейін ол адамның араласуын талап ететін деңгейге дейін көтеріледі. Modulate «триаж қақпалары» деп атайтын әрбір тексеруден кезекпен өту арқылы, идея ToxMod модераторлардың шағын тобына әлдеқайда үлкен қауымдастықты тиімді басқаруға арналған құралдарды береді.
"Өкінішті ақиқат мынада: кез келген платформада дауыстық чатты қолдануға тырысқанда және мұны табу, балам, бұл жаман идея болды", - деді Modulate бас директоры Майк Паппас. Lifewire көмегімен бейне қоңырау. "Кіру және:"Бұл жабайы Батыс емес. Ережелер бар" деп айта алу. Менің ойымша, бұл өте маңызды."
Жүйені бұзу
Әрине, ToxMod туралы қойылатын екінші немесе үшінші сұрақ - оны қалай бұзуға болады.
Твиттерді басқаратын алгоритмдер сияқты көптеген автоматты модерация жүйелерімен оларды ұнатпайтын адамдармен ойнау оңай. Бірнеше шұлық қуыршақ есептік жазбалары арқылы мақсатыңыз туралы жаппай хабарлаңыз, сонда олар тыйымды сенімді түрде жейді.
"Базалық деңгейде ToxMod бұл қосымша ойыншы есептеріне сенудің қажеті жоқ", - деді Паппас. «Ол әлі де бізге қандай құқық бұзушылықтарға назар аудару керек екендігі туралы нақты баға бере алады. Жүйені ойнауға тырысатын ойыншылар туралы алаңдамаудың қажеті жоқ, өйткені ойнайтын ештеңе жоқ.
Дауыстық чат пен ойындағы қудалау, өшпенділік сөздері және уыттылық үлкен мәселе екенін бәрі біледі.
"Ойыншы ретінде тек өз аудиоңызды басқара аласыз", - деп жалғастырды Паппас. "Сіз жасай алатын ең жаман нәрсе - адамға азырақ жамандық, сондықтан біз сізді жаман актер деп көрсетпейміз, мен мұны миссияның сәтті өтуіне жақын нәрсе деп айтамын."
Жалпы, ToxMod идеясы - белсенді қалпына келтіру әрекеті. Осы кезде көптеген ойыншылар кездейсоқ қорлаудан белсенді қауіптерге дейін ашық дауыстық арналардағы кездейсоқ бейтаныс адамдар тарапынан қудалаудың қандай да бір түрін бастан кешірді. Нәтижесінде, ойыншылар жалпы дауыстық чаттан қашқақтап, өз жан тыныштығы үшін оның ыңғайлылығынан бас тартқанды жөн көреді.
"Біз [жаман актерлер] табылып, жойылмас бұрын дауыстық чатта аз уақыт жұмсайды деп күтеміз", - деді Паппас."Бұл жай ғана сызықтық әсерге ие емес. Әркім дауыстық чатты қауіпсіз орын ретінде көргенде, көбірек жақсы актерлар дауыстық чатқа қайта оралуға және оны сынап көруге дайын. Менің ойымша, бәрі оң бағытта бұралуы мүмкін."
