困惑度与突发度的误传:Turnitin 实际用的是什么

Turnitin 在官方 FAQ 里明确否认把 perplexity(困惑度)和 burstiness(突发度)当作指标来算。这篇把原话摆出来,说明它否认的到底是什么,以及这个区别会怎么改变你的改稿方向。

HumanPen 团队

· 11 分钟

这个说法是从哪儿传开的

如果你搜索"how does Turnitin detect AI writing",会找到几十篇文章重复同一个说法:Turnitin 使用 perplexity 和 burstiness 来检测 AI 生成的文本。这个说法出现在 aihumaniser.pro、blog.aibusted.com、humanizethisai.com 以及 sohu.com 上的多篇中文文章中。它们定义这两个指标,将其归因于 Turnitin,然后提供如何"降低 perplexity 分数"以通过检测的建议。

问题在于这个说法在事实上是错误的。Turnitin 自己的文档说的是相反的内容。我们阅读了官方 FAQ,它直接否定了竞争对手网站围绕 perplexity-burstiness 叙事构建的那套建议。这个误解传播得如此广泛,以至于许多学生和写作者现在相信他们需要优化一个 Turnitin 根本不计算的指标。

这很重要,因为基于错误前提制定策略会导致糟糕的决策。如果你认为 Turnitin 在计算 perplexity 分数,你可能会专注于注入随机词汇来应对一个不存在的指标。真正的机制是不同的。

Turnitin 官方文档的原话

Turnitin 的官方 FAQ 直接回应了 perplexity 和 burstiness 的问题。文档指出:"Our model is not explicitly programmed to evaluate specific signals such as 'burstiness,' 'perplexity,' or other individual metrics sometimes referenced in public discussions." 下一句继续说:"Instead, it learns statistical patterns from our training data."

这是一个明确的否定。Turnitin 不会对你的文本运行 perplexity 计算。模型不会查看 burstiness 分数来检查你的句子长度是否有足够变化。系统不是通过计算一小组命名指标并将它们输入公式来运作的。

文档进一步解释了原因。Turnitin 指出:"As a result, its outputs are generated by many learned patterns working together rather than by a small set of transparent, human-readable rules. For that reason, individual predictions may not always be explainable in simple feature-by-feature terms." 模型的决策过程不能简化为一份指标清单。分类器从训练数据中学习模式,这些模式以不可逐特征解释的方式协同工作。

否认这两个指标,不等于「不看词概率」

这里有一个过度解读官方声明的风险。如果 Turnitin 说它不使用 perplexity,而 perplexity 是 word probability 的一种度量,那是否意味着 Turnitin 完全忽略 word probability?不是。同一 FAQ 页面提供了关键的反面信息:"Our classifiers are trained to detect these differences in word probability and are adept at the particular word probability sequences of human writers."

这句话防止了简化的解读。Turnitin 否认将 burstiness 和 perplexity 作为命名指标进行显式编程。它不否认 word probability 是分类器关注的核心。官方文档同时确认 word probability 正是分类器训练的内容。区别在于计算一个叫做"perplexity"的命名指标,与通过训练数据学习 word probability 模式。

Perplexity 是 word probability 的度量。低 perplexity 意味着在给定上下文中词汇是可预测的。高 perplexity 意味着词汇不那么可预测。Turnitin 的分类器学习 word probability 模式,所以 perplexity 所度量的概念与模型的工作是相关的。Turnitin 否认的是将单一 perplexity 分数作为命名特征进行显式计算。基于 transformer 的模型从训练数据中学习复杂的统计模式,这些模式包含 word probability 信息,但不能简化为单一命名指标。

GPTZero 则公开表示它使用 perplexity 和 burstiness 作为命名指标。这是两个检测器之间的真正区别。混淆它们会导致错误的建议。对 GPTZero 有效的技巧不一定适用于 Turnitin,因为两个工具使用不同的方法。

真实机制是怎么跑的

如果 Turnitin 不计算 perplexity 和 burstiness,它实际上在做什么?文档描述了一个与竞争对手文章所述的基于指标的方法截然不同的流程。Turnitin 指出:"When a paper is submitted to Turnitin, sentences from the submission are extracted and segmented into overlapping sections for prediction analysis. Each segment is classified by the AI detection model and given a value between 0 and 1, denoting the probability of the text being likely human or AI-generated. Each qualifying sentence within these segments inherits the segment's score. Since segments overlap, some sentences may have multiple scores, which are then pooled into a single score. These sentence scores are further aggregated and used to compute the overall document AI writing score."

你的论文不是作为一个整体来评估的。句子被提取并分割成重叠的 segments。每个 segment 获得一个 0 到 1 之间的分数。因为 segments 重叠,单个句子可能出现在多个 segments 中并继承多个分数。这些分数被 pooled,然后聚合为最终的文档级百分比。

这个机制与计算 perplexity 分数和 burstiness 分数然后组合它们根本不同。分类器在 segment 层面评估文本,学习区分人类写作和 AI 生成写作的统计模式。这些模式包含 word probability 信息,是从训练数据中学习的,而不是作为命名指标编程的。

搞错这一点,你会白改一遍稿

理解真正的机制改变了你应该遵循的建议。如果你认为 Turnitin 计算 perplexity,你可能引入不可预测的词。如果你认为它计算 burstiness,你可能改变句子长度。这些策略都没有瞄准正确的目标。

Turnitin 的分类器从训练数据中学习统计模式。它不为你的文本计算 perplexity 分数。它学到的模式是复杂的,不总能用简单的逐特征术语解释,文档指出了这一点。没有简单的公式可以通过优化单一指标来"击败"检测器。

你能做的是以一种反映真正人类创作的方式写作。人类写作倾向于包含与 AI 模型产生的统计模式不同的词选择和表达。分类器被训练来识别人类写作特有的 word probability sequences。反映你自己声音的写作,带有自然的变化,正是分类器设计来识别为人类的内容。

perplexity-burstiness 神话导致了错位的努力。写作者花时间优化 Turnitin 不计算的指标。GPTZero(确实使用 perplexity 和 burstiness)和 Turnitin(不使用)之间的区别意味着,为一个工具校准的建议可能对另一个工具无关。

我们提供 free re-runs,你可以测试你的写作看看得分如何。Try it here.

继续阅读