Обработка соревновательной лексики в игровых и спортивных чатах

“Kill him! Kill him NOW!” “I will kick your a!”* “Touch your chest. Then push the ball harder.”

При обработке чата в компьютерных играх и спортивных сообществах API модерации сталкиваются с дилеммой.

С одной стороны, они не могут просто игнорировать высказывания, которые обычно считаются нарушением политики.

С другой стороны, как могла бы сказать группа поддержки Доктора Зло, «На самом деле мы не хотим здесь убивать друг друга». Однако к реальным угрозам все равно следует относиться серьезно.

Некоторые API модерации пытаются решить эту проблему, назначая «уровни серьезности» и рекомендуя пользователям игнорировать сообщения ниже определенного порога.

Однако насилие в играх может быть жестоким, и оно все равно не имеет ничего общего с реальным миром. Это значит, что даже самые резкие высказывания следует игнорировать. В то же время такой подход, основанный на оценке серьезности, рискует отфильтровать реальные угрозы, которые нельзя игнорировать.

Tisane предлагает два метода решения этой дилеммы:

• Метод 1: Игнорировать все вхождения типа criminal_activity, которые имеют такие теги, как violence и death на стороне клиентского приложения.

• Метод 2 (рекомендуется): Использовать специальный флаг game violence, позволяющий игнорировать игровую и спортивно-соревновательную лексику.

Например:

{"language":"en","content":"Shoot him!!!","settings":{"snippets":true,"memory":{"flags":["game_violence_ok"]}}}

Флаг game_violence_ok гарантирует, что все оповещения, связанные с ненормативной лексикой в спортивных соревнованиях и насилием в играх, будут отключены.

Примечание: Флаг не заглушит реальные угрозы, такие как «Я знаю, где ты живешь» или что-то явно не связанное с играми.

Пример без флага game violence:

Пример с установленным флагом game violence:

См. также: 2-факторная модерация