AIフラグがついた?遅れて提出する前に確かめたいこと
AI の割合を見て、遅れて提出しようかと考えている方へ。行動する前に、このスコアについてドキュメントが実際にどう書いているのかをまとめました。
HumanPen チーム
· 5 分
スコアは最終的な判定ではありません
AI フラグがつくと、すぐに不安になります。提出をいったん止めて、すべてを書き直すべきかと迷うかもしれません。その判断を下す前に、ドキュメントがスコアについて何と書いているかを知っておくと助けになります。
Turnitin は次のように述べています。「Hence, we must emphasize that the percentage on the AI writing indicator should not be used as the sole basis for action or a definitive grading measure by instructors.」(したがって、AI ライティング指標の割合は、対応を決める唯一の根拠として、あるいは教員による決定的な評価基準として用いるべきではない、という点を強調しておく必要があります。)
この点について、ドキュメントの記述は明確です。割合は決定的な指標ではありません。対応を決める唯一の根拠でもありません。教員が AI の割合を目にしたとしても、それを最終的な成績を左右するものとして扱わないよう、ドキュメントは求めています。
ドキュメントはさらに続けます。「It is not meant to provide definitive answers in isolation. More important than any tool is the educator who sees the score and makes decisions balancing this information with their personal knowledge of their students, their work, and institutional policy.」(これは、単独で決定的な答えを出すことを意図したものではありません。どんなツールよりも大切なのは、スコアを見て、学生のこと、その課題、そして所属機関の方針について自分が持っている知識とこの情報を照らし合わせながら判断する教員の存在です。)
つまり、スコアは文脈の中に置かれています。教員には、あなたのこと、あなたの課題、そして所属機関の方針についての知識と照らし合わせて、このスコアを検討することが期待されています。
想定されているのは、一つの判断材料としての使い方です
ドキュメントは、スコアをどのように使うべきかを明記しています。
「When educators look at the AI writing score and utilize it as a single data point rather than a definitive response, then it is being used as intended.」(教員が AI ライティングのスコアを、決定的な答えではなく一つのデータポイントとして利用しているなら、それは想定どおりの使い方です。)
一つのデータポイント。これは Turnitin が自社の指標を説明するために使っている表現です。割合を見てパニックになっているなら、思い出してください。ドキュメント自身が、これを結論ではなく数ある情報の一つとして位置づけています。
これは、遅れて提出するかどうかを決める場面で効いてきます。スコアは、あなたの課題が AI で生成されたことの証明ではありません。示しているのは、テキストの一部が AI による文章に似ているということです。教員には、それを他の要素と合わせて検討することが期待されています。数字が高いと決めつける前に、Turnitin で許容される AI の割合はどの程度かもご覧ください。
誤判定を受けやすい文章の特徴
自分で書いたのに指摘を受けた場合、ドキュメントはそれが起こりうることを認めています。
「Sometimes false positives (incorrectly flagging human-written text as AI-generated), can include content without a lot of structural variation, text that literally repeats itself, or text that has been paraphrased without developing new ideas.」(擬陽性、つまり人が書いた文章を誤って AI 生成と判定してしまうことは、構造の変化に乏しい内容、文字どおり同じことを繰り返す文章、あるいは新しい考えを展開せずに言い換えただけの文章に起こることがあります。)
ご自身の文章が、これらの説明に当てはまるかを考えてみてください。構造が単調である、決まった表現を繰り返している、あるいは独自の分析を加えずに出典を言い換えている場合、ドキュメントはそうしたケースで擬陽性が起こりやすいとしています。
ドキュメントは続けます。「If our indicator shows a higher amount of AI writing in such text, we advise you to take that into consideration when looking at the percentage indicated.」(そのような文章で AI ライティングの割合が高く示された場合は、表示された割合を見る際にその点を考慮に入れることをお勧めします。)
これはあなたの判断に関わる点です。指摘された文章にこれらの特徴があるなら、割合は実際より高く出ている可能性があります。そのような内容のスコアを解釈する際、ドキュメント自身が慎重な扱いを求めています。
短い文書は「全部かゼロか」の問題を抱えます
文書の長さは判定の働き方に影響します。短い文書については、ドキュメントが特定の限界を説明しています。
「In shorter documents where there are only a few hundred words, the prediction will be mostly 'all or nothing' because we're predicting on a single segment without the opportunity to overlap.」(数百語程度の短い文書では、重ね合わせの機会がないまま単一のセグメントについて判定を行うため、予測はほぼ全部かゼロかになります。)
さらに、次のようにも書かれています。「This means that some text that is a mix of AI-generated and original content could be flagged as entirely AI-generated.」(つまり、AI 生成の内容と自分で書いた内容が混ざっている文章の一部が、全体が AI 生成であると判定される可能性があるということです。)
提出物が数百語程度であれば、細かな判定結果を出すのに十分なセグメントがないかもしれません。一部は自分で書いたもの、一部は AI 生成の文書が、全体として AI 生成と判定されることがあります。これはツールの限界としてドキュメントに記載されているものであり、あなたの文章の性質ではありません。
短い文書を遅れて提出しようか考えているなら、この点は覚えておく価値があります。短い文書の割合は、長い文書ほど正確ではない可能性があります。極端な場合には、Turnitin に「この課題は 100% AI」と判定されることになります。
擬陽性の目標値は 1% 未満、ただし条件付きです
Turnitin は擬陽性の目標値を文書で示しており、それに付された条件が重要です。
「We strive to maximize the effectiveness of our detector while keeping our false positive rate - incorrectly identifying fully human-written text as AI-generated - under 1% for documents with over 20% of AI writing.」(私たちは、検出の精度を最大化する一方で、AI の文章が 20% を超える文書については、擬陽性率、つまり完全に人が書いた文章を誤って AI 生成と判定する割合を 1% 未満に保つよう努めています。)
さらに、次のようにも書かれています。「In other words, we might flag a human-written document as AI-written for one out of every 100 fully-human written documents.」(言い換えると、完全に人が書いた文書 100 件のうち 1 件は、AI が書いたものとして判定してしまう可能性があるということです。)
目標値は、AI の文章が 20% を超える文書について 1% 未満です。つまり、この目標値が対象としているのは、かなりの部分が AI 生成である文書です。AI の文章が少ない文書では、擬陽性の傾向は異なる可能性があります。
ドキュメントはまた、完全に人が書いた文書およそ 100 件に 1 件の割合で擬陽性が実際に起きることも認めています。これはゼロではありません。あなたの文章が完全に自分の手で書かれたものであっても、誤判定の可能性はドキュメントに記載されています。大学が 75,000 件のレポートを提出するとき、擬陽性率 1% が何を意味するかでは、それが誰かに降りかかる頻度を数字で示しています。
遅れて提出するか決める前に考えたいこと
ドキュメントが検討するよう勧めているのは、次の点です。
一つ目。スコアは対応を決める唯一の根拠ではありません。ドキュメントにそう明記されています。AI の割合だけで、成績や結果が決まるわけではありません。
二つ目。スコアは一つのデータポイントです。教員が他の知識と照らし合わせて検討することが期待されている、一つの情報です。
三つ目。文章に擬陽性の特徴がないかを確認しましょう。構造の変化に乏しい、同じことを繰り返している、新しい考えを加えずに言い換えている場合、ドキュメントは擬陽性の可能性が高いと認めています。
四つ目。文書の長さを考えましょう。数百語程度の短い文書は全部かゼロかの判定を受けやすく、混在した内容が全体として AI 生成と判定されることがあります。
五つ目。擬陽性の目標値は、AI の文章が 20% を超える文書について 1% 未満です。完全に人が書いた文章については、ドキュメントに記載された擬陽性率はおよそ 100 件に 1 件です。
遅れて提出すると決める前に、教員に相談してください。AI レポートの PDF を共有してもらえるか、尋ねてみましょう。教員がそれをダウンロードして共有できることは、ドキュメントで確認されています。どの箇所が指摘されているかを見れば、その割合が実際に何を反映しているのかがつかめます。
目的は、慌ててすべてを書き直すことではありません。スコアの意味と限界を理解したうえで、納得のいく判断を下すことです。書き直すなら、Turnitin のレポートが指摘した段落だけを書き直す方法が、時間の負担はいちばん小さくなります。
続きを読む