Turnitin の誤検知はどう報告し、どう対処すべきか
Turnitin の AI 判定は、誤検知率を 1% 未満に抑えることを目標としています。それでも誤検知は実際に起こります。本記事では、どのような文章が誤って指摘されやすいのか、Turnitin にどうフィードバックを送ればよいのか、そしてそのパーセンテージをなぜ確定した答えではなく一つの材料として扱うべきなのかを解説します。
HumanPen チーム
· 5 分
まず結論から
誤検知とは、人間が書いた文章を Turnitin が AI 生成だと判定してしまうことを指します。Turnitin のドキュメントも、そうしたことが起こり得ると認めたうえで、利用者に報告を求めています。"If you find AI written documents that we've missed, or notice authentic student work that we've predicted as AI-generated, please let us know! Your feedback is crucial in enabling us to improve our technology further."(見逃した AI 生成文書や、AI 生成と判定されてしまった真正な学生の作品に気づいた場合は、ぜひお知らせください。皆様からのフィードバックは、私たちの技術をさらに改善していくうえで極めて重要です。)
誤検知を受けたら、Turnitin のフィードバック窓口から報告しましょう。同時に、そのスコアは確定した判定ではなく、人が判断を下すためのシグナルだと捉えてください。
誤検知率の目標値
Turnitin は誤検知について明確な基準を設けています。ドキュメントには次のように書かれています。"We strive to maximize the effectiveness of our detector while keeping our false positive rate - incorrectly identifying fully human-written text as AI-generated - under 1% for documents with over 20% of AI writing."(AI 生成の割合が 20% を超える文書について、完全に人間が書いた文章を AI 生成と誤って判定する割合(誤検知率)を 1% 未満に保ちながら、検出の精度を最大化するよう努めている、という趣旨です。)
1% 未満という目標は低い水準ですが、ゼロではありません。何千件もの提出物を扱う教育機関にとっては、1% に満たない割合であっても、自分で書いた課題について説明を求められる学生が実際に出てきます。1% の誤検知率が何を意味するか では、実際の提出件数に当てはめてこの計算を行っています。だからこそ Turnitin はフィードバックを求めており、スコアも自動的に処理されるのではなく教員が確認することを前提に設計されているのです。
誤検知されやすい文章の特徴
Turnitin は、誤検知を招きやすい特定のパターンを挙げています。ドキュメントには次のように書かれています。"Sometimes false positives (incorrectly flagging human-written text as AI-generated), can include content without a lot of structural variation, text that literally repeats itself, or text that has been paraphrased without developing new ideas."(誤検知、つまり人間が書いた文章を AI 生成と誤って判定してしまうケースには、構造的な変化に乏しい文章、同じ内容を文字どおり繰り返す文章、新しい考えを展開せずに言い換えただけの文章などが含まれることがあります。)
その次の一文も同じくらい重要です。"If our indicator shows a higher amount of AI writing in such text, we advise you to take that into consideration when looking at the percentage indicated."(この種の文章に対して AI 生成の割合が高く示された場合は、そのことを踏まえたうえで表示されたパーセンテージを解釈することをお勧めします。)
言い換えれば、構造が均一だったり、意図的に反復的だったり、自分なりの分析を加えずに参考文献の言い換えに大きく依存していたりする文章は、指摘を受けやすくなります。それは文章が AI によって書かれたという意味ではありません。AI の出力と表面上のパターンが共通しているということであり、その前提を置いたうえでパーセンテージを読む必要があります。AI 判定ツールが完成度の高い文章を誤検知する理由 では、同じ現象を逆の角度から扱っています。
スコアだけを根拠にしてはいけない理由
Turnitin は、自社の判定機能が懲戒のためのツールではないことをはっきり述べています。ドキュメントには次のように書かれています。"Our AI writing detection model may not always be accurate (it may misidentify human-written, AI-generated, and AI-paraphrased text), so it should not be used as the sole basis for adverse actions against a student."(当社の AI 生成判定モデルは必ずしも正確ではなく、人間が書いた文章、AI が生成した文章、AI が言い換えた文章を取り違える可能性があります。したがって、学生に対する不利益な処分の唯一の根拠として用いるべきではありません。)
次の一文は、その点をさらに強めています。"It takes further scrutiny and human judgment in conjunction with an organization's application of its specific academic policies to determine whether academic misconduct has occurred."(不正行為が行われたかどうかを判断するには、組織が定める固有の学術ポリシーを適用したうえで、さらに詳しい検討と人による判断が必要です。)
これは、スコアだけでは不正行為と結論づけられないという Turnitin 側からの直接的な指示です。人間のレビュアーが実際の成果物を確認し、所属機関のポリシーを当てはめたうえで、最終的な判断を下す必要があります。
一つの材料としてのスコア
ドキュメントは、スコアをどう位置づけるべきかについてさらに踏み込んでいます。"It is not meant to provide definitive answers in isolation. More important than any tool is the educator who sees the score and makes decisions balancing this information with their personal knowledge of their students, their work, and institutional policy."(スコア単体で決定的な答えを出すことを目的としたものではありません。どんなツールよりも重要なのは、そのスコアを目にし、学生やその成果物についての自身の理解、そして所属機関のポリシーとこの情報を突き合わせながら判断する教員の存在です。)
次の一文には、想定されている使い方が端的に示されています。"When educators look at the AI writing score and utilize it as a single data point rather than a definitive response, then it is being used as intended."(教員が AI 生成スコアを決定的な回答ではなく一つの材料として用いるなら、それはこのツールが本来の用途どおりに使われている状態です。)
私たちも、この捉え方を採用することをお勧めします。パーセンテージは数ある判断材料の一つであって、確定した判定ではありません。教員であれば、その学生がこれまでに書いてきたもの、課題の文脈、所属機関のポリシーとスコアを組み合わせて判断してください。誤検知を受けた学生であれば、この捉え方が最も強い論拠になります。ツール自身が、決定的な答えとして扱うべきではないと述べているのです。AI 判定の誤検知に対する申し立て方法 では、大学が実際にどのような証拠を受け付けているのかを解説しています。
誤検知を報告する手順
Turnitin は、判定を誤った場合のフィードバックを積極的に求めています。ドキュメントには次のように書かれています。"If you find AI written documents that we've missed, or notice authentic student work that we've predicted as AI-generated, please let us know! Your feedback is crucial in enabling us to improve our technology further."(見逃した AI 生成文書や、AI 生成と判定されてしまった真正な学生の作品に気づいた場合は、ぜひお知らせください。皆様からのフィードバックは、私たちの技術をさらに改善していくうえで極めて重要です。)
誤検知を報告するには、Turnitin のフィードバック窓口を利用します。対象の文書、報告された AI 生成のパーセンテージ、そして指摘された箇所が人間によって書かれたと考える理由を簡潔に添えてください。フィードバックは具体的であればあるほど、モデルの改善に役立ちます。ただし、提供元への報告は、自分の所属機関に対する説明とは別問題です。自分の成果物がオリジナルであることを示す方法 は、そのための独立した手順としてまとめています。
回答や再審査を待つ間は、指摘された箇所に集中しましょう。特定のセクションが判定に引っかかったのであれば、その箇所に構造的な変化、自分自身の分析、そして反復の少ない表現を加えて書き直すことが、再提出の際に役立ちます。Turnitin レポートで指摘された段落だけを書き直す方法 では、この絞り込んだ対応を解説しています。
いますぐ取るべき行動
自分で書いた箇所が Turnitin レポートで指摘された場合は、次の手順を踏んでください。
- Turnitin のフィードバック窓口から、誤検知を報告する。
- 指摘された箇所を、Turnitin が挙げているパターン(構造が均一、反復的、新しい考えを加えずに言い換えている)に照らして見直す。
- 指摘されたセクションに変化と自分自身の分析を加えて書き直す。
- Turnitin 自身のドキュメントが述べているとおり、スコアは確定した判定ではなく一つの材料として扱う。
対象となる箇所は、無料で再実行できます。