Turnitin の AI スコアが高いとき、次にすべきこと

AI スコアが高く出たからといって、それで話が終わるわけではありません。Turnitin 自身の FAQ には、このスコアを対応を判断する唯一の根拠にしてはならないとあり、誤判定を招きやすい文章の特徴も挙げられています。このスコアが意味することと、意味しないこと。それを押さえることが、対応を考える第一歩です。

HumanPen チーム

· 4 分

まず結論から

AI スコアが高いというのは、検出モデルの判定で、文章のかなりの部分が「AI が書いた可能性が高い」と分類されたということです。AI を使ったと断定されたわけではありませんし、担当教員がこのスコアだけで何らかの対応をとるべきだという意味でもありません。Turnitin の FAQ は、この割合について「should not be used as the sole basis for action or a definitive grading measure by instructors.」(対応や成績評価を判断する唯一の根拠として用いるべきではない)と述べています。さらに FAQ は、誤判定を招きやすい文章の特徴として、構造的な変化に乏しい文章、同じ内容を繰り返す文章、そして新しい考えを加えずに言い換えただけの文章を挙げています。まずすべきことは、このスコアが何を示すものかを理解すること。次に、具体的にどの箇所が指摘されたのかを確認すること。三つ目は、その箇所を書き直すか、教員とスコアについて話し合うか、あるいはその両方かを決めることです。

このスコアは何を示しているのか

スコアは、セグメント単位で行われた確率判定を集計したものです。

"When a paper is submitted to Turnitin, sentences from the submission are extracted and segmented into overlapping sections for prediction analysis. Each segment is classified by the AI detection model and given a value between 0 and 1, denoting the probability of the text being likely human or AI-generated. Each qualifying sentence within these segments inherits the segment's score. Since segments overlap, some sentences may have multiple scores, which are then pooled into a single score. These sentence scores are further aggregated and used to compute the overall document AI writing score."(論文が Turnitin に提出されると、提出文から文が抽出され、予測分析のために重なり合うセクションに分割されます。各セグメントは AI 検出モデルによって分類され、0 から 1 の値が与えられます。この値は、その文章が人間によって書かれた可能性が高いか、AI によって生成された可能性が高いかを示す確率です。これらのセグメントに含まれる対象となる各文は、セグメントのスコアを引き継ぎます。セグメントは重なり合っているため、複数のスコアを持つ文もあり、その場合は一つのスコアにまとめられます。さらにこれらの文のスコアが集計され、文書全体の AI 執筆スコアの算出に用いられます。)

この割合は、対象となった文章のうち、モデルが「AI が書いた可能性が高い」と判定した部分がどれだけあるかを示しています。あくまで統計的な集計であって、断定ではありません。モデルが常に正確とは限りませんし、スコアは判断材料の一つであって最終的な判定ではありません。となると、次に当然浮かぶ疑問が一つあります。Turnitin では AI の割合はどこまでなら許容されるのか

誤判定を招きやすい文章のタイプがある

FAQ が挙げている、誤判定につながりやすい特徴は次のとおりです。

"Sometimes false positives (incorrectly flagging human-written text as AI-generated), can include content without a lot of structural variation, text that literally repeats itself, or text that has been paraphrased without developing new ideas."(誤判定、つまり人間が書いた文章を誤って AI 生成と判定してしまうことが起きやすいのは、構造的な変化に乏しい文章、同じ表現を文字どおり繰り返す文章、あるいは新しい考えを展開せずに言い換えただけの文章です。)

続く一文です。「If our indicator shows a higher amount of AI writing in such text, we advise you to take that into consideration when looking at the percentage indicated.」(この種の文章で AI 執筆の割合が高めに示された場合は、表示された割合を判断する際にその点を考慮されるようお勧めします。)

自分の文章に思い当たる点があるなら、高いスコアの一部は誤判定かもしれません。文献レビュー、方法のセクション、既存の研究を要約したり言い換えたりした文章は、AI を一切使っていなくてもこのパターンに当てはまり得ます。Turnitin に方法のセクション全体を指摘されたでは、その実例を扱っています。

自分のスコアは自分では見られない

AI インジケーターを見られるのは、教員と管理者だけです。FAQ には「only instructors and administrators are able to see the indicator.」(このインジケーターを見られるのは教員と管理者のみです)とあります。ただし、「with the PDF download feature, instructors can download and share the AI report with students.」(PDF ダウンロード機能を使えば、教員は AI レポートをダウンロードして学生と共有できます)。教員から AI スコアが高いと伝えられたら、PDF レポートを共有してもらうよう頼んでみてください。どの箇所が指摘されたのかはレポートに示されており、次に何をすべきかを判断するうえで欠かせない情報です。手に入れたレポートの読み方は、Turnitin の AI 執筆レポートの読み方で解説しています。

スコアは唯一の判断材料ではない

FAQ の記述は明確です。

"Hence, we must emphasize that the percentage on the AI writing indicator should not be used as the sole basis for action or a definitive grading measure by instructors."(したがって、AI 執筆インジケーターの割合は、教員が対応や成績評価を判断する唯一の根拠として用いるべきではないことを、改めて強調しておきます。)

つまり、スコアが高いというだけでは、不利益な対応をとる十分な根拠にはなりません。教員からこのスコアについて指摘された場合、この公式な見解は、建設的な話し合いのよりどころになります。自分の執筆の進め方を説明し、当てはまるなら誤判定を招きやすい特徴について触れ、具体的にどの箇所が指摘されたのかを尋ねてみてください。

順を追ってやるべきこと

ここまで見てきたことをまとめると、次のようになります。

  • 高い AI スコアはセグメント単位の判定を集計したものであり、断定ではない。
  • 誤判定を招きやすい文章のタイプがある。構造的な変化が乏しいもの、繰り返しの多いもの、新しい考えを加えずに言い換えただけのもの。
  • スコアを見られるのは教員だけだが、PDF レポートは共有してもらえる。
  • FAQ は、スコアを対応を判断する唯一の根拠にしてはならないとしている。
  • 次にやること:PDF レポートを手に入れ、指摘された箇所を特定し、書き直すか教員と話し合うかを決める。

レポートが手元にあるなら、取り込んで、指摘された箇所だけを重点的に手直ししましょう。対象となる箇所に限り、無料で再実行できます。

続きを読む