公式の窓口:Turnitin に誤検出を報告する方法

多くの記事は、担当教員に異議を申し立てる方法ばかりを扱っています。Turnitin 自身が直接フィードバックを求めているのに、それに触れる記事はほとんどありません。

HumanPen チーム

· 5 分

ほとんどの人が見落としているフィードバック窓口

Turnitin の誤検出に関するアドバイスは、たいてい一つの道筋しか示しません。担当教員に異議を申し立て、それでもだめなら学科や学術倫理の担当部署に持ち込む、というものです。この道筋が扱うのは自分の成績です。しかし、ほかの記事ではほとんど触れられないもう一つの道筋があります。Turnitin 本体へ直接つながる道です。

Turnitin 自身のドキュメントには、フィードバックの窓口が用意されています。そこにははっきりとこう書かれています。「If you find AI written documents that we've missed, or notice authentic student work that we've predicted as AI-generated, please let us know! Your feedback is crucial in enabling us to improve our technology further.」(もし私たちが見逃した AI 生成文書や、AI 生成と判定してしまった本物の学生の答案を見つけたら、ぜひ知らせてください。皆さんからのフィードバックは、私たちの技術をさらに改善していくうえで欠かせないものです。)

これは検出器を作っているチームからの直接の呼びかけです。彼らは二種類のフィードバックを求めています。見逃した AI 文書、つまり偽陰性と、AI と判定してしまった人間の文章、つまり偽陽性です。どちらの方向もモデルを改善する材料になるため、どちらも重要です。

実践的なアドバイスはたいてい大学側の対応で終わってしまうため、私たちはこの点を強調しています。教員に異議を申し立て、証拠を集め、自分の主張を組み立てる。しかし、そのスコアを出したシステムもまた、あなたの声を聞きたがっています。一方の窓口は自分の成績につながり、もう一方はシステムそのものの改善につながります。

どんなときに使うか

このフィードバック窓口が対象とする場面は二つあり、Turnitin は同じ文のなかで両方に触れています。一つ目は、本物の学生の答案が AI 生成と判定される場合です。自分の書いた文章に、明らかに誤りだと思われる AI 文章スコアが付いたなら、それは誤検出であり、Turnitin はそれを知りたがっています。

二つ目はその逆で、検出器が見逃した AI 生成文書です。指導する立場で、Turnitin が指摘しなかった AI 生成文書を見つけた場合も、そのフィードバックはこの窓口に送るべきものです。

自分のケースが誤検出の可能性が高いかどうかを、どう判断すればよいでしょうか。Turnitin は誤検出を招きやすい文章の種類について、次のように説明しています。「Sometimes false positives... can include content without a lot of structural variation, text that literally repeats itself, or text that has been paraphrased without developing new ideas.」(誤検出には……構造的な変化に乏しい内容、文字どおり同じことを繰り返す文章、あるいは新しい考えを展開せずに言い換えた文章などが含まれることがあります。)指摘された文章がこのいずれかに当てはまるなら、そのことはフィードバックに書き添える価値があります。

Turnitin はさらにこう勧めています。「If our indicator shows a higher amount of AI writing in such text, we advise you to take that into consideration when looking at the percentage indicated.」(そのような文章で AI 文章の割合が高く示された場合、表示されたパーセンテージを見る際にはその点を考慮に入れるようお勧めします。)つまり、文章の構造が単調だったり、言い換えに大きく依存していたりする場合、スコアは実際より高く出る可能性があり、それはまさに Turnitin に報告するのがふさわしいケースだということです。

何を書くか

Turnitin に誤検出を報告する際、具体的な情報があると状況の判断に役立ちます。次の項目を盛り込むことをおすすめします。

まず、対象の文章とそのスコアを特定します。Turnitin が示した全体のパーセンテージと、可能であればどの部分が指摘されたかを書き留めておきましょう。

次に、文章の特徴を説明します。自分の文章が Turnitin 自身の挙げている誤検出のパターンのいずれかに当てはまるなら、その旨を書きましょう。たとえば、指摘された箇所が複数の文献を独自の分析なしに言い換えた文献レビューであれば、それが Turnitin 自身の説明に当てはると指摘します。「content without a lot of structural variation」(構造的な変化に乏しい内容)、あるいは「text that has been paraphrased without developing new ideas.」(新しい考えを展開せずに言い換えた文章)です。

三つ目は、課題と自分の執筆過程に関する背景です。文章を何度も書き直したでしょうか。表現を均一にしてしまうような文法チェックのツールを使ったでしょうか。こうした背景は、分類器がなぜ文章を読み誤ったのかを Turnitin が理解する助けになります。

四つ目は、誤検出率の目標値に触れることです。Turnitin はこう述べています。「We strive to maximize the effectiveness of our detector while keeping our false positive rate... under 1% for documents with over 20% of AI writing.」(私たちは検出器の精度を最大化するよう努める一方で、誤検出率は…… AI 文章が 20% を超える文書について 1% 未満に保つよう努めています。)ここで皆さんがしているのは、完璧をうたうシステムへの苦情ではありません。小さいながら実際に存在する誤り率を明確に認めているシステムに対して、改善の材料を提供しているのです。

1% という目標値とその限界

Turnitin の誤検出に関する目標値は明確です。AI 文章が 20% を超える文書について 1% 未満を目指すとしており、それを平易な言葉に置き換えています。「In other words, we might flag a human-written document as AI-written for one out of every 100 fully-human written documents.」(言い換えれば、完全に人が書いた文書 100 件のうち 1 件を、AI が書いたものとして誤って指摘する可能性があるということです。)

つまり、100 人の学生が全員自分の文章を提出するクラスでは、そのうち 1 人が誤検出を受ける可能性があるということです。目標値は低いですが、ゼロではありません。Turnitin はこのトレードオフについて明確に述べています。誤検出率を 1% に保つため、AI 文章の一部を見逃す可能性を受け入れているのです。「In order to maintain this low rate of 1% for false positives, there is a chance that we might miss some AI written text in a document.」(誤検出率を 1% という低い水準に維持するため、文書内の AI 文章の一部を見逃す可能性があります。)

さらに具体的な例も示しています。「If we identify that 50% of a document is likely written by an AI tool, it could contain as much as 65% AI writing.」(文書の 50% が AI ツールによって書かれた可能性が高いと判定した場合、実際には最大 65% の AI 文章が含まれている可能性があります。)表示されるスコアは実際の AI 比率を過小評価することがあり、その差は意図されたものです。

だからこそ、フィードバック窓口に意味があります。1% という目標値は、誤検出が起こることを前提にしています。この仕組みは、人の文章を指摘しない側に倒れるよう調整されているため、実際に起こる誤検出は想定内のものです。それを報告することで、その調整がうまく機能しているのか、それとも特定の文章パターンが体系的に誤分類されているのかを、Turnitin が検証する助けになります。

大きな構図:それだけを根拠にはできない

このフィードバック窓口は、Turnitin が強調する大きな枠組みのなかに位置づけられます。同社のドキュメントにはこうあります。「Our AI writing detection model may not always be accurate (it may misidentify human-written, AI-generated, and AI-paraphrased text), so it should not be used as the sole basis for adverse actions against a student.」(当社の AI 文章検出モデルは常に正確とは限りません。人が書いた文章、AI が生成した文章、AI が言い換えた文章を取り違える可能性があります。そのため、学生に対する不利益な措置の唯一の根拠として使用すべきではありません。)

さらに続きます。「It takes further scrutiny and human judgment in conjunction with an organization's application of its specific academic policies to determine whether academic misconduct has occurred.」(学術上の不正が起きたかどうかを判断するには、より詳しい検討と人による判断、そして各機関が自らの学術ポリシーを適用することが組み合わさって初めて可能になります。)

これは検出器を作っている企業による直接的な表明です。スコアは判決ではありません。Turnitin はスコアを、学生と状況を知る教員が解釈すべきシグナルとして位置づけています。「It is not meant to provide definitive answers in isolation. More important than any tool is the educator who sees the score and makes decisions balancing this information with their personal knowledge of their students, their work, and institutional policy.」(それは単独で決定的な答えを出すためのものではありません。どんなツールよりも大切なのは、スコアを目にし、その情報を学生やその取り組み、そして機関の方針についての自分の理解と照らし合わせながら判断を下す教員です。)

想定されている使い方は明確です。「When educators look at the AI writing score and utilize it as a single data point rather than a definitive response, then it is being used as intended.」(教員が AI 文章スコアを、決定的な答えではなく一つのデータとして扱うなら、それは想定どおりに使われているということです。)

私たちは、このフィードバック窓口も同じ考え方の一部だと捉えています。スコアが一つのデータであるなら、誤検出の疑いを報告することは、そのデータに文脈を与え、時間をかけて改善していくことにつながります。教員に異議を申し立てれば、目の前の状況に対応できます。Turnitin に報告すれば、すべての人のためのシステムの調整に貢献できます。どちらも大切であり、役割は異なります。あなたの Turnitin レポートを確認する

続きを読む