{"templateId":"markdown","sharedDataIds":{"sidebar":"sidebar-@l10n/ja/sidebars.yaml"},"props":{"metadata":{"markdoc":{"tagList":["admonition"]},"type":"markdown"},"seo":{"title":"問題のあるコンテンツの検出","projectTitle":"Tisane Developer Documentation","description":"Tisane is an NLP platform, used for content moderation & more.","llmstxt":{"hide":false,"sections":[{"title":"Table of contents","includeFiles":["**/*"],"excludeFiles":[]}],"excludeFiles":[]}},"dynamicMarkdocComponents":[],"compilationErrors":[],"ast":{"$$mdtype":"Tag","name":"article","attributes":{},"children":[{"$$mdtype":"Tag","name":"Heading","attributes":{"level":1,"id":"問題のあるコンテンツの検出","__idx":0},"children":["問題のあるコンテンツの検出"]},{"$$mdtype":"Tag","name":"p","attributes":{},"children":["問題のあるコンテンツは、",{"$$mdtype":"Tag","name":"code","attributes":{},"children":["abuse"]},"セクションに記録されます。"]},{"$$mdtype":"Tag","name":"p","attributes":{},"children":["このセクションは、以下の場合に表示されます。"]},{"$$mdtype":"Tag","name":"ol","attributes":{},"children":[{"$$mdtype":"Tag","name":"li","attributes":{},"children":["問題のあるタイプのコンテンツが発見され、かつ"]},{"$$mdtype":"Tag","name":"li","attributes":{},"children":[{"$$mdtype":"Tag","name":"code","attributes":{},"children":["abuse"]},"設定が",{"$$mdtype":"Tag","name":"code","attributes":{},"children":["true"]},"に設定（または省略）されている。"]}]},{"$$mdtype":"Tag","name":"p","attributes":{},"children":[{"$$mdtype":"Tag","name":"code","attributes":{},"children":["abuse"]},"配列のメンバーには以下が含まれます。"]},{"$$mdtype":"Tag","name":"ul","attributes":{},"children":[{"$$mdtype":"Tag","name":"li","attributes":{},"children":["ロケーションデータ",{"$$mdtype":"Tag","name":"ul","attributes":{},"children":[{"$$mdtype":"Tag","name":"li","attributes":{},"children":[{"$$mdtype":"Tag","name":"code","attributes":{},"children":["offset"]}," - フラグメントが始まるゼロベースの位置"]},{"$$mdtype":"Tag","name":"li","attributes":{},"children":[{"$$mdtype":"Tag","name":"code","attributes":{},"children":["length"]}," - フラグメントの長さ"]},{"$$mdtype":"Tag","name":"li","attributes":{},"children":[{"$$mdtype":"Tag","name":"code","attributes":{},"children":["sentence_index"]}," - フラグメントがある文章"]}]}]},{"$$mdtype":"Tag","name":"li","attributes":{},"children":[{"$$mdtype":"Tag","name":"code","attributes":{},"children":["type"]}," - 問題のあるコンテンツのタイプ"]},{"$$mdtype":"Tag","name":"li","attributes":{},"children":[{"$$mdtype":"Tag","name":"code","attributes":{},"children":["severity"]}," - 検出されたインスタンスの優先順位付けに使用できる問題の重大度"]},{"$$mdtype":"Tag","name":"li","attributes":{},"children":[{"$$mdtype":"Tag","name":"code","attributes":{},"children":["explanation"]}," - コンテンツに問題があるとシステムが考える理由を、人間が読める形で説明したもの。（",{"$$mdtype":"Tag","name":"code","attributes":{},"children":["explain"]},"設定が",{"$$mdtype":"Tag","name":"code","attributes":{},"children":["true"]},"に設定されている場合）"]},{"$$mdtype":"Tag","name":"li","attributes":{},"children":[{"$$mdtype":"Tag","name":"code","attributes":{},"children":["text"]}," - 問題のあるフラグメント。",{"$$mdtype":"Tag","name":"code","attributes":{},"children":["snippets"]},"設定が",{"$$mdtype":"Tag","name":"code","attributes":{},"children":["true"]},"に設定されている場合のみ表示される。"]}]},{"$$mdtype":"Tag","name":"Admonition","attributes":{"type":"warning"},"children":[{"$$mdtype":"Tag","name":"p","attributes":{},"children":[{"$$mdtype":"Tag","name":"strong","attributes":{},"children":["abuse"]},"セクションに",{"$$mdtype":"Tag","name":"code","attributes":{},"children":["記載されたすべての種類の項目を"]},"区別なく扱わない。"]},{"$$mdtype":"Tag","name":"p","attributes":{},"children":["フラグが付けられたコンテンツがコミュニティのコンテキストにおいて本当に問題があるかどうかを判断するのは、モデレーターやポリシー作成者の責任です。例：出会い系アプリで性的な誘いを制限すること、広く受け入れられるコミュニティで暴言を検閲すること、または外部との接触が許されている場合にそれを制限することは適切ではないかもしれません。"]},{"$$mdtype":"Tag","name":"p","attributes":{},"children":["問題のあるコンテンツの種類によって、必要な措置は異なります。例えば、自殺行為を検出した場合、そのユーザーを利用停止にするべきではありません。"]},{"$$mdtype":"Tag","name":"p","attributes":{},"children":["調査スイートのようなアプリケーションの場合、これは別のタイプの抽出された情報です。それでも、ユーザビリティのためには、実際のニーズを考慮し、ユーザーが必要としないデータだらけにならないようにすることが推奨されます。"]}]},{"$$mdtype":"Tag","name":"p","attributes":{},"children":["問題のあるコンテンツの種類については、",{"$$mdtype":"Tag","name":"MarkdownLink","attributes":{"href":"/apis/tisane-api-response-guide#supported-types"},"children":["問題のあるコンテンツ"]},"を参照してください。"]},{"$$mdtype":"Tag","name":"Heading","attributes":{"level":2,"id":"問題のあるコンテンツを検出したくない場合","__idx":1},"children":["問題のあるコンテンツを検出したくない場合"]},{"$$mdtype":"Tag","name":"p","attributes":{},"children":["問題のあるコンテンツに関連がない場合、明示的に",{"$$mdtype":"Tag","name":"code","attributes":{},"children":["不正使用"]},"設定を",{"$$mdtype":"Tag","name":"code","attributes":{},"children":["false"]},"に設定するか、単にそのセクションを無視します。"]},{"$$mdtype":"Tag","name":"Heading","attributes":{"level":2,"id":"テキストから適切なフラグメントを探し出す","__idx":2},"children":["テキストから適切なフラグメントを探し出す"]},{"$$mdtype":"Tag","name":"p","attributes":{},"children":["悪用されたコンテンツを含む正確なテキストフラグメントを抽出するには、レスポンスで提供された",{"$$mdtype":"Tag","name":"strong","attributes":{},"children":["ロケーションデータ"]},"を使用します。"]},{"$$mdtype":"Tag","name":"p","attributes":{},"children":["詳しくは、",{"$$mdtype":"Tag","name":"MarkdownLink","attributes":{"href":"/ja/guides/how-tos/locateasnippet"},"children":["ロケーションデータに基づいてスニペットの場所を特定するには"]},"を参照してください。"]},{"$$mdtype":"Tag","name":"Admonition","attributes":{"type":"info"},"children":[{"$$mdtype":"Tag","name":"p","attributes":{},"children":["テキストフラグメント自体が必要な場合は、",{"$$mdtype":"Tag","name":"code","attributes":{},"children":["設定"]},"オブジェクトに ",{"$$mdtype":"Tag","name":"code","attributes":{},"children":["\"snippets\":true"]},"を追加し、個々の",{"$$mdtype":"Tag","name":"code","attributes":{},"children":["不正使用"]},"オブジェクトのレベルで",{"$$mdtype":"Tag","name":"code","attributes":{},"children":["text"]},"属性を使用します。"]}]},{"$$mdtype":"Tag","name":"Heading","attributes":{"level":2,"id":"不正なコンテンツの検出はセンチメント分析と同じか","__idx":3},"children":["不正なコンテンツの検出はセンチメント分析と同じか？"]},{"$$mdtype":"Tag","name":"p","attributes":{},"children":["不正なコンテンツとセンチメント分析は異なるものです。"]},{"$$mdtype":"Tag","name":"p","attributes":{},"children":["実際、不正かつ問題のあるコンテンツは、否定的な感情と重なることが多くあります。しかし、必ずしもそうとは限りません。例えば、誰かが「高品質のコカイン」を宣伝しているとき、センチメントは明らかに肯定的ですが、これは犯罪行為であり、",{"$$mdtype":"Tag","name":"code","attributes":{},"children":["不正使用"]},"としてタグ付けされなければなりません。"]},{"$$mdtype":"Tag","name":"p","attributes":{},"children":["誰かが連絡先の詳細を交換している場合、そのセンチメントは中立ではありますが、",{"$$mdtype":"Tag","name":"code","attributes":{},"children":["外部的な_接触"]},"としてマークされます。人種差別的な中傷は、肯定的なセンチメントを込めた発言でも簡単に使われることがあります。"]},{"$$mdtype":"Tag","name":"p","attributes":{},"children":["逆に言うと、「非常に否定的なセンチメント」は必ずしもネットいじめやヘイトスピーチを意味するものではありません。「私は彼が嫌いだ」というような発言も、現在の会話に参加している誰かに向けられたものではなければ、個人攻撃にはなりません。  参考：",{"$$mdtype":"Tag","name":"MarkdownLink","attributes":{"href":"/ja/guides/abuse/personalattack"},"children":["個人攻撃"]}]}]},"headings":[{"value":"問題のあるコンテンツの検出","id":"問題のあるコンテンツの検出","depth":1},{"value":"問題のあるコンテンツを検出したくない場合","id":"問題のあるコンテンツを検出したくない場合","depth":2},{"value":"テキストから適切なフラグメントを探し出す","id":"テキストから適切なフラグメントを探し出す","depth":2},{"value":"不正なコンテンツの検出はセンチメント分析と同じか？","id":"不正なコンテンツの検出はセンチメント分析と同じか","depth":2}],"frontmatter":{"seo":{"title":"問題のあるコンテンツの検出"}},"lastModified":"2025-06-30T05:16:22.000Z","pagePropGetterError":{"message":"","name":""}},"slug":"/ja/guides/how-tos/detectabuse","userData":{"isAuthenticated":false,"teams":["anonymous"]},"isPublic":true}