{"templateId":"markdown","sharedDataIds":{"sidebar":"sidebar-@l10n/ru/sidebars.yaml"},"props":{"metadata":{"markdoc":{"tagList":["admonition"]},"type":"markdown"},"seo":{"title":"Обнаружение проблемного контента","projectTitle":"Tisane Developer Documentation","description":"Tisane is an NLP platform, used for content moderation & more.","llmstxt":{"hide":false,"sections":[{"title":"Table of contents","includeFiles":["**/*"],"excludeFiles":[]}],"excludeFiles":[]}},"dynamicMarkdocComponents":[],"compilationErrors":[],"ast":{"$$mdtype":"Tag","name":"article","attributes":{},"children":[{"$$mdtype":"Tag","name":"Heading","attributes":{"level":1,"id":"обнаружение-проблемного-контента","__idx":0},"children":["Обнаружение проблемного контента"]},{"$$mdtype":"Tag","name":"p","attributes":{},"children":["Случаи проблемного контента регистрируются в разделе ",{"$$mdtype":"Tag","name":"code","attributes":{},"children":["abuse"]},"."]},{"$$mdtype":"Tag","name":"p","attributes":{},"children":["Этот раздел появляется, если:"]},{"$$mdtype":"Tag","name":"ol","attributes":{},"children":[{"$$mdtype":"Tag","name":"li","attributes":{},"children":["Обнаружены проблемные типы контента;"]},{"$$mdtype":"Tag","name":"li","attributes":{},"children":["Для настройки ",{"$$mdtype":"Tag","name":"code","attributes":{},"children":["abuse"]}," установлено значение ",{"$$mdtype":"Tag","name":"code","attributes":{},"children":["true"]}," (или она пропущена)."]}]},{"$$mdtype":"Tag","name":"p","attributes":{},"children":["Элемент массива ",{"$$mdtype":"Tag","name":"code","attributes":{},"children":["abuse"]}," содержит:"]},{"$$mdtype":"Tag","name":"ul","attributes":{},"children":[{"$$mdtype":"Tag","name":"li","attributes":{},"children":["данные о местоположении",{"$$mdtype":"Tag","name":"ul","attributes":{},"children":[{"$$mdtype":"Tag","name":"li","attributes":{},"children":[{"$$mdtype":"Tag","name":"code","attributes":{},"children":["offset"]}," — позиция, отсчитываемая от нуля, где начинается фрагмент"]},{"$$mdtype":"Tag","name":"li","attributes":{},"children":[{"$$mdtype":"Tag","name":"code","attributes":{},"children":["length"]}," — длина фрагмента"]},{"$$mdtype":"Tag","name":"li","attributes":{},"children":[{"$$mdtype":"Tag","name":"code","attributes":{},"children":["sentence_index"]}," — предложение, в котором находится фрагмент"]}]}]},{"$$mdtype":"Tag","name":"li","attributes":{},"children":[{"$$mdtype":"Tag","name":"code","attributes":{},"children":["type"]}," — тип проблемного контента"]},{"$$mdtype":"Tag","name":"li","attributes":{},"children":[{"$$mdtype":"Tag","name":"code","attributes":{},"children":["severity"]}," — серьезность проблемы, которую можно использовать для определения приоритетности обнаруженных случаев"]},{"$$mdtype":"Tag","name":"li","attributes":{},"children":[{"$$mdtype":"Tag","name":"code","attributes":{},"children":["explanation"]}," — понятное человеку объяснение, почему система считает контент проблемным. (Если для настройки ",{"$$mdtype":"Tag","name":"code","attributes":{},"children":["explain"]}," установлено значение ",{"$$mdtype":"Tag","name":"code","attributes":{},"children":["true"]},")"]},{"$$mdtype":"Tag","name":"li","attributes":{},"children":[{"$$mdtype":"Tag","name":"code","attributes":{},"children":["text"]}," — проблемный фрагмент. (Если для настройки ",{"$$mdtype":"Tag","name":"code","attributes":{},"children":["snippets"]}," установлено значение ",{"$$mdtype":"Tag","name":"code","attributes":{},"children":["true"]},")"]}]},{"$$mdtype":"Tag","name":"Admonition","attributes":{"type":"warning"},"children":[{"$$mdtype":"Tag","name":"p","attributes":{},"children":["**Не реагируйте на все типы записей ** в разделе ",{"$$mdtype":"Tag","name":"code","attributes":{},"children":["abuse"]}," без разбора."]},{"$$mdtype":"Tag","name":"p","attributes":{},"children":["Модераторы или создатели политики обязаны решить, действительно ли отмеченный контент является проблемным в контексте сообщества. Например: Возможно, нецелесообразно ограничивать сексуальные домогательства в приложении для знакомств или цензурировать ненормативную лексику в сообществах, где она является общепринятой."]},{"$$mdtype":"Tag","name":"p","attributes":{},"children":["Различные типы проблемного контента требуют различных действий. Например, обнаруженное суицидальное поведение, безусловно, не должно приводить к блокировке пользователя."]},{"$$mdtype":"Tag","name":"p","attributes":{},"children":["Для таких приложений, как исследовательские пакеты, это еще один тип извлекаемой информации. Однако в целях удобства использования рекомендуется учитывать реальные потребности и не перегружать пользователей данными, которые им могут не понадобиться."]}]},{"$$mdtype":"Tag","name":"p","attributes":{},"children":["Информацию о типах проблемного контента см. в следующих источниках: ",{"$$mdtype":"Tag","name":"MarkdownLink","attributes":{"href":"/apis/tisane-api-response-guide#supported-types"},"children":["Проблемный контент"]}," ."]},{"$$mdtype":"Tag","name":"Heading","attributes":{"level":2,"id":"если-вы-не-хотите-чтобы-обнаруживался-проблемный-контент","__idx":1},"children":["Если вы не хотите, чтобы обнаруживался проблемный контент"]},{"$$mdtype":"Tag","name":"p","attributes":{},"children":["Если проблемный контент неважен, либо явно укажите для настройки ",{"$$mdtype":"Tag","name":"code","attributes":{},"children":["abuse"]}," значение ",{"$$mdtype":"Tag","name":"code","attributes":{},"children":["false"]}," или просто проигнорируйте этот раздел."]},{"$$mdtype":"Tag","name":"Heading","attributes":{"level":2,"id":"поиск-соответствующего-фрагмента-в-тексте","__idx":2},"children":["Поиск соответствующего фрагмента в тексте"]},{"$$mdtype":"Tag","name":"p","attributes":{},"children":["Чтобы извлечь точный фрагмент текста, содержащий оскорбительный контент, используйте ",{"$$mdtype":"Tag","name":"strong","attributes":{},"children":["данные о местоположении"]},", предоставленные в ответе."]},{"$$mdtype":"Tag","name":"p","attributes":{},"children":["См. подробнее в статье: ",{"$$mdtype":"Tag","name":"MarkdownLink","attributes":{"href":"/ru/guides/how-tos/locateasnippet"},"children":["Как найти фрагмент на основе данных о местоположении"]}]},{"$$mdtype":"Tag","name":"Admonition","attributes":{"type":"info"},"children":[{"$$mdtype":"Tag","name":"p","attributes":{},"children":["Если вам нужен только сам фрагмент текста, просто добавьте",{"$$mdtype":"Tag","name":"code","attributes":{},"children":[" \"snippets\":true"]}," в объект ",{"$$mdtype":"Tag","name":"code","attributes":{},"children":["settings"]}," и используйте атрибут ",{"$$mdtype":"Tag","name":"code","attributes":{},"children":["text"]}," на уровне отдельного объекта ",{"$$mdtype":"Tag","name":"code","attributes":{},"children":["abuse"]},"."]}]},{"$$mdtype":"Tag","name":"Heading","attributes":{"level":2,"id":"является-ли-обнаружение-оскорбительного-контента-тем-же-самым-что-и-анализ-настроений","__idx":3},"children":["Является ли обнаружение оскорбительного контента тем же самым, что и анализ настроений?"]},{"$$mdtype":"Tag","name":"p","attributes":{},"children":["Оскорбительный контент и анализ настроений — это две разные вещи."]},{"$$mdtype":"Tag","name":"p","attributes":{},"children":["Действительно, оскорбительный и проблемный контент часто переплетается с негативными настроениями. Но это не всегда так. Например, когда кто-то рекламирует «высококачественный кокаин», это явно позитивное отношение, но это преступная деятельность, которую необходимо пометить как ",{"$$mdtype":"Tag","name":"code","attributes":{},"children":["abuse"]},"."]},{"$$mdtype":"Tag","name":"p","attributes":{},"children":["Когда кто-то обменивается контактными данными, отношение нейтральное; однако его все равно можно обозначить как ",{"$$mdtype":"Tag","name":"code","attributes":{},"children":["external_contact"]},". Расовые оскорбления также могут легко использоваться в высказываниях с положительным настроем."]},{"$$mdtype":"Tag","name":"p","attributes":{},"children":["С другой стороны, «крайне негативные настроения» не обязательно означают кибербуллинг или разжигание ненависти. Даже высказывания вроде «Я его ненавижу» не являются личными оскорблениями, поскольку они не направлены на кого-то из участников текущего разговора.  Рекомендуем ознакомиться: ",{"$$mdtype":"Tag","name":"MarkdownLink","attributes":{"href":"/ru/guides/abuse/personalattack"},"children":["Личные нападки"]}]}]},"headings":[{"value":"Обнаружение проблемного контента","id":"обнаружение-проблемного-контента","depth":1},{"value":"Если вы не хотите, чтобы обнаруживался проблемный контент","id":"если-вы-не-хотите-чтобы-обнаруживался-проблемный-контент","depth":2},{"value":"Поиск соответствующего фрагмента в тексте","id":"поиск-соответствующего-фрагмента-в-тексте","depth":2},{"value":"Является ли обнаружение оскорбительного контента тем же самым, что и анализ настроений?","id":"является-ли-обнаружение-оскорбительного-контента-тем-же-самым-что-и-анализ-настроений","depth":2}],"frontmatter":{"seo":{"title":"Обнаружение проблемного контента"}},"lastModified":"2025-06-24T03:39:30.000Z","pagePropGetterError":{"message":"","name":""}},"slug":"/ru/guides/how-tos/detectabuse","userData":{"isAuthenticated":false,"teams":["anonymous"]},"isPublic":true}