留学生と AI 判定:第二言語で書くときに知っておきたいこと

第二言語で学術英語を書くのはそれだけで大変なのに、AI 検知まで気にしなければならない。Turnitin の FAQ によると、バイアスを減らすために第二言語学習者のデータも学習に含めたという。しかし検知器は単語の確率パターンを読み取っており、特定の文章の特徴が誤検知を招きやすい。これが留学生にとって何を意味するのか、以下で説明する。

HumanPen チーム

· 4 分

結論から

Turnitin の FAQ にはこうある:"took into account statistically under-represented groups like second-language learners, English users from non-English speaking countries, students at colleges and universities with diverse enrollments, and less common subject areas such as anthropology, geology, sociology, and others to minimize bias when training our model."(学習時にバイアスを最小化するため、第二言語学習者、非英語圏の英語使用者、多様な学生構成の大学、人類学・地質学・社会学などの比較的マイナーな分野など、統計的に過小評価されがちなグループを考慮した)これは Turnitin 自らの主張であり、独立して検証された結論ではない。学習データに第二言語の文章が含まれていたことは確かだが、検知器は依然として散文テキストの単語確率パターンで分類している。自分の文章が AI 生成英語の統計パターンと重なれば、英語が母語でなくても判定されてしまう。この「学習の主張」と「検知の仕組み」の間に生じる乖離を理解することが、判定への対処において重要だ。

Turnitin が主張するバイアス対策

FAQ ではバイアスについてこう説明している:

"While creating our sample dataset, we also took into account statistically under-represented groups like second-language learners, English users from non-English speaking countries, students at colleges and universities with diverse enrollments, and less common subject areas such as anthropology, geology, sociology, and others to minimize bias when training our model."(「サンプルデータセットを作成するにあたり、第二言語学習者、非英語圏の英語ユーザー、多様な学生を抱える大学、人類学・地質学・社会学などの分野など、統計的によく見られがちなグループに配慮しました。モデル学習時のバイアスを最小限に抑えるためです。」)

これは同社が自社の学習方法について述べた公式見解だ。学習データが多様な文章サンプルを含むよう設計されたと言っている。しかし数値やテスト結果、第三者によるバイアス検証は示されていない。第二言語の文章が学習に含まれたことは主張されているが、それが誤検知を免れることを意味するわけではない。多様なデータで学習されていても、分類は単語の確率パターンで行われる。この乖離については なぜ非英語圏のライターは AI 検出ツールにより頻繁にフラグを立てられるのか で研究結果を解説している。

検知器はあなたの文章をどう読んでいるか

検知パイプラインは、誰が書いた文章でも同じように処理される:

"When a paper is submitted to Turnitin, sentences from the submission are extracted and segmented into overlapping sections for prediction analysis. Each segment is classified by the AI detection model and given a value between 0 and 1, denoting the probability of the text being likely human or AI-generated. Each qualifying sentence within these segments inherits the segment's score. Since segments overlap, some sentences may have multiple scores, which are then pooled into a single score. These sentence scores are further aggregated and used to compute the overall document AI writing score."(「論文が Turnitin に提出されると、提出文から文章が抽出され、重複するセクションに分割されて予測分析にかけられます。各セグメントは AI 検出モデルによって分類され、0 から 1 の数値が割り当てられます。これはその文章が人間によるものか AI 生成によるものかの確率を示すものです。対象となる各文章は、その属するセグメントのスコアを継承します。セグメントは重複するため、一部の文章は複数のスコアを持つことがあり、それらは単一のスコアに統合されます。この文章スコアをさらに集約して、文書全体の AI 執筆スコアが算出されます。」)

検知器はあなたの言語的背景を知らない。あなたが母語話者か非母語話者かで分類を変えることもない。単語の並びの統計的特徴を読み取って分類するだけだ。もしあなたの英語が、特定の学術フレーズや構成を重視する教育の影響で、AI 生成テキストのモデルと重なるパターンを持っていれば、予想より高いスコアが出ることもある。

誤検知と第二言語の文章

FAQ では誤検知が起こりやすい文章の特徴を挙げている:

"Sometimes false positives (incorrectly flagging human-written text as AI-generated), can include content without a lot of structural variation, text that literally repeats itself, or text that has been paraphrased without developing new ideas."(「誤検知(人間の文章を AI 生成と誤って判定してしまうこと)には、構造的な変化に乏しい文章、同じ内容を文字通り繰り返している文章、新しい展開を加えずに言い換えただけの文章などが含まれる場合があります。」)

その直後にはこう続く:"If our indicator shows a higher amount of AI writing in such text, we advise you to take that into consideration when looking at the percentage indicated."(こうした文章で AI 率が高めに出た場合は、表示されたパーセンテージを解釈する際に考慮するよう推奨する)

これらの特徴の一部は、第二言語の学術文章でより多く見られることがある。非母語話者は構造化されたテンプレートや決まった学術フレーズを通じて英語を学ぶことが多く、それが構造のバリエーションに乏しい文章につながりやすい。"moreover"、"furthermore"、"in addition" といった接続詞は標準的と教えられるため、繰り返し使われることで FAQ が言うところの均一な構造を生みがちだ。だからといって第二言語の文章が常に判定されるわけではない。誤検知されやすい特徴と、教育を受けた第二言語文章に共通するパターンが重なることがある、というのが実情だ。では flagged を避けるために書き方を変えるべきかという点は別問題で、フラグを立てられないように書き方を変えるべきか で扱っている。

自分のスコアは確認できない

留学生がもう一つ知っておくべき点がある。FAQ によると "only instructors and administrators are able to see the indicator."(スコア表示は教員と管理者のみ)となっている。学生は自分の AI スコアを確認できない。続けて "However, with the PDF download feature, instructors can download and share the AI report with students."(ただし PDF ダウンロード機能により、教員は AI レポートをダウンロードして学生と共有できる)とある。スコアが気になる場合は、教員に PDF レポートの共有を依頼するしかない。学生アカウントでは同じチェックを自分で実行することはできない。PDF を入手したら、次は Turnitin の AI 作成レポートの読み方 を参照しよう。

判定されてしまったら

ここまで解説したことをまとめると:

  • Turnitin はバイアス最小化のために第二言語学習者のデータを学習に含めたと主張しているが、それを裏付ける数値は示されていない。
  • 検知器は単語の確率パターンを読み取って判定するため、誰が書いたか、どの言語が母語かは関係ない。
  • 構造のバリエーションが少ないなど、誤検知されやすい特徴は第二言語の学術文章に共通するパターンと重なることがある。
  • 学生は自分の AI スコアを確認できない。確認できるのは教員のみだが、PDF を共有してもらうことは可能。
  • AI スコアと類似性スコアは別々の指標である。

Turnitin レポートでどの箇所が判定されたか分かれば、レポートをインポート してその箇所だけを書き直そう。対象となる箇所は無料で再実行できる。

続きを読む