ゲームやスポーツのチャットにおける競争的な言葉の処理

競争的な言葉の課題

“Kill him! Kill him NOW!” “I will kick your a!”* “Touch your chest. Then push the ball harder.”

コンピュータゲームやスポーツ関連のコミュニティでチャットを処理する場合、モデレーションAPIはジレンマに直面します。

通常、ポリシー違反とみなされる発言を無視することはできません。

しかし、悪のカリスマ「ドクター・イーブル」の支持者が言うように、*「ここで本当に殺し合いをしたいわけではない」*のです。それでも、現実にある脅迫は真剣に受け止めなければなりません。

モデレーションAPIには、「重大度レベル」を割り当て、ある閾値以下のメッセージは無視するようユーザーに助言することで、これに対処しようとするものもあります。

ゲームの暴力は重大なものである可能性がありますが、それでも現実世界とは何の関係もありません。つまり、最も厳しい発言であっても無視すべきだということになります。同時に、この重大度ベースのアプローチは、無視すべきではない本物の脅威をフィルタリングしてしまう危険性があります。

Tisaneは、このジレンマに対処する2つの方法を提示します。

方法1：クライアントアプリ側で、 violence and deathといったタグを持つcriminal_activityタイプの発生をすべて無視します。
方法2（推奨）：特別なgame violenceフラグを使用し、ゲームやスポーツの競争的な言葉を無視します。

例：


{"language":"en","content":"Shoot him!!!","settings":{"snippets":true,"memory":{"flags":["game_violence_ok"]}}}

game_violence_okフラグは、スポーツの競争的な言葉やゲームの暴力に関連するすべての警告を止めます。

注：このフラグは、*「どこに住んでいるか知っている」*といった実際の脅迫や、明らかにゲームとは関係のないものは止めません。

game violenceフラグがない場合の例：

game violenceフラグセットがある場合の例：