Tisaneは、グループインスタントメッセージプラットフォームでのユーザー間のライブコミュニケーションをモデレートするために広く使用されています。通常、ライブチャットでは、Tisaneは完全自動モードで動作します。
偽陽性が微妙な問題である場合は、申し立て手続きと(要求に応じて)人による審査を行うことができます。
下図に示すように、単純な統合アーキテクチャでは、問題があると判断された場合や、ポリシーで検出された不正使用のタイプが許可されていない場合に、すべてのメッセージをスキャンし、メッセージをブラックリストに登録するか、特別なチャネルに送信します。
- クライアントアプリケーションが、投稿をスキャンするようTisaneに送信します。
- Tisaneは、重大度レベルと不正使用のタイプに基づいて投稿にフラグを付けます。
- 次に、クライアントアプリケーションは、
abuseセクションに記録されたエントリーのタイプがコミュニティポリシーによって許可されているかどうかをチェックします。 - 制限されたタイプがある場合、その投稿はブラックリストに登録されます。(おそらく、投稿はモデレーター用の特別なチャネルに送られます。保守上の理由から、トレースなしでメッセージを破棄することは推奨しません。)
- 制限されたタイプがない場合、またはTisaneからのレスポンスに
abuseセクションがない場合、その投稿は公開されます。
当社のパートナーであるPubNubは、Tisaneとシームレスに統合されたコンテンツモデレーションデモを構築し、そのソースコードをGitHubで公開しました。この実装により、ユーザーはコミュニティのモデレーションポリシーを動的に設定できます。