コンテンツへスキップ
最終更新

信頼値は存在しますか?

Tisaneは、以下の2つの理由から信頼値を使用しません。

  1. Tisaneは、信頼値が悪用される場面を複数回目撃しました。信頼値は、害の方が大きいと言っても過言ではありません。

業界のリーダーであるGrindrのアリス・ゴーゲン・ハンスバーガー氏(Grindrの元トラスト&セーフティ部門長)は、「機械学習モデルが高い信頼性を有している一方で、実際は誤っていることは珍しくなく、人間のモデレーターはそれに惑わされてはなりません」と述べています。

Tisaneは信頼値をセキュリティーシアターであると捉え、自動化バイアスのような危険を招く要因として認識しています。理想の世界では、倫理学の博士号を持つ人間のモデレーターが重大な哲学的問題を議論していますが、現実の世界では、彼らは低賃金で働く学生で、できるだけ早くタスクを完了することを迫られていることが多いです。「コンピュータがノーと言う」現象では、ほとんどの場合、人間のモデレーターもノーと言うことになります。

  1. 信頼値は、TisaneのヘッドレスNLPアーキテクチャには単純に適用できません。