С момента запуска Tisane API мы видели широкий спектр реакций. Многие проявили любопытство, большинство были полны энтузиазма, но небольшая, но активная группа была возмущена.
Вот некоторые их комментарии:
- «Цензура!»
- «Диктатура!»
- «Сталин был бы горд!»
- «Вы уничтожаете свободу слова!»
- «Теперь мы во власти машинного обучения!»
Мы не будем тратить время на дебаты с теми, кто считает, что Интернет существует исключительно для того, чтобы преследовать других. Но мы хотим прояснить намерение и цель Tisane и развеять распространённые заблуждения.
Если не принимать во внимание интерес Сталина к анализу настроений, модерирование интернет-сообществ не является чем-то новым. Даже в самых нерегулируемых пространствах (вроде форумов даркнета) есть модераторы. Это происходит потому, что полностью немодерируемые среды быстро становятся непригодными для использования. Они тонут в спаме, мошенничестве, распрях и низкопробных обсуждениях.
Модерация — это не диктатура. Свобода слова подразумевает ответственность. Если вы считаете иначе, попробуйте провести мысленный эксперимент: Представьте себе, что вы на 50 лет старше, что вы инвалид, что вы принадлежите к нежелательному меньшинству или подвергаетесь издевательствам по любой причине.
Быть модератором невесело. Независимо от того, насколько модераторы справедливы или беспристрастны, они всегда будут сталкиваться с жалобами и обвинениями в предвзятости. Более крупные сообщества порождают больше конфликтов, в то время как более мелкие рискуют стать токсичными и оттолкнуть ценных членов, что иногда приводит к их полному краху (см. примеры здесь).
На коммерческих платформах плохая модерация приводит к финансовым трудностям, проблемам с управлением и выгоранию сотрудников (источник). Неудивительно, что за прошедшие годы появились инструменты, помогающие в модерации. Мы не первые, но мы считаем, что наши инструменты более совершенны, в большей степени настраиваемы и адаптируемы к более широкому спектру сценариев.
Давайте проясним:
Tisane не предназначен для замены модераторов-людей. Это инструмент, который помогает им, предоставляя ценную информацию, выявляя «проблемные точки» и облегчая рабочую нагрузку модераторов-людей. Он не диктует политику и не делает модераторов умнее или справедливее.
Во многих отраслях уже используются интеллектуальные вспомогательные инструменты:
- У переводчиков есть вспомогательные средства перевода.
- Колл-центры используют анализ тональности.
- Писатели используют программы проверки грамматики.
Tisane следует той же логике. Он представляет собой API-инструмент. Кухонный нож можно использовать для приготовления пищи или в качестве оружия. Полицейская дубинка может использоваться для защиты или злоупотреблений властью. Эффективность Tisane, как и любого средства, зависит от того, как его использовать.
Мы не утверждаем, что обнаруживаем все личные нападки, все случаи нетерпимости или все преступления в Интернете. Программа — это не Шерлок Холмс, это скорее патрульный полицейский. Патрульный полицейский не сможет поймать всех приступников, но его присутствие отпугивает многих мошенников.
Преследование заставляет людей молчать. Цензура заключается не только в том, что правительства сажают в тюрьму диссидентов, но и в том, что оскорбления в Интернете отталкивают людей.
Рассмотрите следующие случаи:
- У газет и интернет-сообществ есть разделы комментариев, которые были закрыты из-за токсичности.
- IMDb отключил свои форумы.
- Публичные деятели, такие как Кэти Сьерра, покинули интернет из-за онлайн-преследований.
Более совершенные инструменты модерации защищают свободу слова, создавая более безопасную среду, в которой можно услышать больше голосов.
Мы знаем, что Tisane не идеален. Но нам нужно с чего-то начать.