Tisane широко используется для модерирования живого общения между пользователями на платформах группового обмена мгновенными сообщениями. Обычно в чатах Tisane работает в полностью автоматическом режиме.
Если ложные срабатывания представляют собой деликатный вопрос, можно установить процедуру апелляции и человеческого контроля (по запросу).
Как показано на схеме ниже: простая архитектура интеграции сканирует каждое сообщение и помещает его в черный список или отправляет на специальный канал, если оно считается проблемным и политики не допускают abuse такого типа, который был обнаружен.
- Клиентское приложение отправляет сообщения в Tisane для сканирования.
- Tisane помечает сообщения в зависимости от уровня серьезности и типа оскорбления.
- Затем клиентское приложение должно проверить, запрещены ли типы записей, зарегистрированных в разделе
abuse, политикой сообщества. - Если есть запрещенные типы, пост заносится в черный список. (Предположительно, сообщение отправлено на специальный канал для модераторов. В целях технического обслуживания не рекомендуется удалять сообщения без следа).
- Если нет запрещенных типов или в ответе Tisane нет раздела
abuse, пост публикуется.
Наш партнер PubNub создал демоверсию модерации контента, беспроблемно интегрированную с Tisane, и опубликовал ее исходный код на GitHub. Реализация позволяет пользователям динамически устанавливать политику модерации сообщества.
Рекомендуем ознакомиться: Интеграции — Tisane Labs