序論と結論が AI と判定されやすい理由(とその対処法)

論文を書く学生なら、序論と結論が AI 判定を受けやすいことに気づいているだろう。これは偶然ではない。Turnitin は 2023 年 5 月のリリースノートで、文書の最初と最後の数文で誤検出が増える傾向があったと認めている。その後検出ロジックが改善されたが、序論・結論特有の「決まりきった文章」という性質自体は残ったままだ。

HumanPen チーム

· 4 分

結論から

序論と結論は本文よりも AI 判定を受けやすい。Turnitin の 2023 年 5 月リリースノートにはこうある。"Since launch, we have observed a higher incidence of false positive detection in the first few or last few sentences of a document. Many times these sentences consist of introduction or conclusion content written in a generic way."(機能ローンチ以来、文書の最初と最後の数文で誤検出が多く見られた。これらの文はたいてい、ありきたりな表現で書かれた序論または結論の内容であった。)検出ロジックはこの問題を抑えるために更新されたが、序論・結論にみられる画一的な文章パターン自体は残っている。導入部で広い一般論から始め、結論で決まり文句の結論を繰り返す――そうした文章は、2023 年の改善の後も、AI 生成テキストと語彙の確率分布が重なることがある。

リリースノートに書かれていること

2023 年 5 月のリリースノートでは、この傾向とそれへの対応が説明されている。

"Since launch, we have observed a higher incidence of false positive detection in the first few or last few sentences of a document. Many times these sentences consist of introduction or conclusion content written in a generic way. As a result, we have changed our detection logic to help reduce these false positives."(機能ローンチ以来、文書の最初と最後の数文で誤検出が多く見られた。これらの文はたいてい、ありきたりな表現で書かれた序論または結論の内容であった。このため、誤検出を減らすべく検出ロジックを変更した。)

その直後にはこう続く。"We also worked on making our segment boundaries detection more precise which could lead in some rare cases to change of boundaries compared with a previous version."(また、セグメント境界の検出精度も向上させた。これにより、以前のバージョンと比べて境界が変化する場合が稀にある。)

これは 2023 年時点の改善報告であり、現在の不具合についての記述ではない。あの時点で誤検出を抑えるようロジックが変えられた。だがこのノートが教えてくれる重要な点はこうだ:文書の最初と最後の文はもともと誤検出されやすかった、ということだ。改善で問題は減った。だがゼロにはなっていない。

なぜ序論と結論は似た AI パターンを示すのか

リリースノートが指摘するのは"introduction or conclusion content written in a generic way"(ありきたりな表現で書かれた序論または結論の内容)だ。ここで鍵になるのは「ありきたり」という性質である。序論はたいてい広い背景から始める。例えば「近年、X は重要な課題となっている」。結論は thesis を言い換える。「本稿は X が Y につながると示した」。こうした構成は予測可能で画一的だ。Turnitin の FAQ は「構造のバリエーションに乏しい内容」を誤検出されやすい特徴として挙げている。ありきたりな序論・結論はまさにこれに当てはまる。これらの箇所の語彙パターンは、議論が具体的で表現も多様な本文と比べ、ずっと予測しやすい。この点についての詳しい説明は なぜ整った文章ほど AI 判定されるのか で扱っている。

検出器は文書の境界をどう処理するか

検出のパイプラインはテキストをセグメントに分割して処理する。

"When a paper is submitted to Turnitin, sentences from the submission are extracted and segmented into overlapping sections for prediction analysis. Each segment is classified by the AI detection model and given a value between 0 and 1, denoting the probability of the text being likely human or AI-generated. Each qualifying sentence within these segments inherits the segment's score. Since segments overlap, some sentences may have multiple scores, which are then pooled into a single score."(論文が Turnitin に提出されると、提出文から文が抽出され、予測分析のために重複するセクションに分割される。各セグメントは AI 検出モデルによって分類され、0 から 1 の値が与えられる。これはそのテキストが人間らしいか AI 生成らしいかの確率を表す。これらのセグメント内の該当する文は、セグメントのスコアを引き継ぐ。セグメントは重複するため、一部の文は複数のスコアを持つことがあり、それらは統合されて単一のスコアとなる。)

リリースノートは"segment boundaries detection"(セグメント境界検出)についても触れている。文書の最初と最後の文はセグメント構造の端に位置する。2023 年の改善以前は、これらの位置で誤検出率が高かった。改善によりセグメント境界の検出精度が上がり、状況は良くなった。しかし、ありきたりな文章であれば、やはり AI らしいパターンとして検出されることはある。そのパターンの正体については Turnitin は perplexity と burstiness を使っているか で詳述している。

短い文書では問題が拡大する

Turnitin の FAQ にはこうも書かれている。

"In shorter documents where there are only a few hundred words, the prediction will be mostly 'all or nothing' because we're predicting on a single segment without the opportunity to overlap."(数百語しかない短い文書では、予測はほぼ「オールオアナッシング」になる。重複の余地がない単一セグメントで予測を行うためである。)

その続き。"This means that some text that is a mix of AI-generated and original content could be flagged as entirely AI-generated."(つまり、AI 生成部分と独自の部分が混在するテキストでも、全体が AI 生成としてフラグされる場合がある。)

短いレポートでは、序論と結論が全文に占める割合が大きくなる。両方が判定されれば、短い文書の「オールオアナッシング」特性により、文書全体が AI 生成と分類されることもありうる。極端なケースではあるが、だからこそありきたりな序論・結論を持つ短い論文が、驚くほど高いスコアを出してしまう理由がわかる。なぜ Turnitin は 100% AI と言うのか でこの極端なケースを端から端まで解説している。

どう対処すればよいか

ここまでの内容をまとめよう。

  • Turnitin の 2023 年 5 月リリースノートは、文書の最初と最後の文で誤検出が増える傾向があると述べている。
  • 検出ロジックは 2023 年に更新され、この傾向は抑えられたが、ありきたりな序論・結論の文章パターン自体は残っている。
  • ありきたりな序論・結論は、FAQ が誤検出されやすい特徴として挙げる「構造のバリエーションが少ない」という性質を共有している。
  • 短い文書では序論と結論が全文に占める割合が大きいため、問題が増幅される。
  • 序論と結論をより具体的にし、決まり文句を避け、構造にバリエーションを持たせることで、このパターンに対処できる。

どの箇所が判定されたかがわかる Turnitin レポートを持っているなら、レポートを読み込んで、その箇所を集中して書き直そう。eligible な箇所は追加料金なしで再実行できる。