偽の著者名を持つ論文が口頭発表に採択された — AI時代のピアレビューにおけるシステム的失敗の分析

• はじめに — 22本中15本、そして口頭発表二本
• 実際に何が発見されたか — 実在する論文に実在しない著者
• 確認されたことと一人の証言であること
• 数字で見る汚染の規模
• レビューパイプラインはなぜこれを濾過できないのか
• レビュアー側のLLM — ICMLの電子透かしが捕まえたものと見逃したもの
• 提案されている健全性維持の仕組みとそれぞれの限界
• おわりに — 検知はすでに自動化され、決定だけが自動化されていない

はじめに — 22本中15本、そして口頭発表二本

2026年7月30日、Caleb RobinsonとIsaac CorleyがQ&A from the slop trenchesという記事を公開しました。二人が今夏担当した学会投稿は合わせて22本で、そのうち15本(68%)に捏造された引用、実在する論文に付けられた偽の著者リスト、または明白なLLM生成の痕跡がありました。割り当ての内訳はNeurIPS(Datasets and Benchmarksトラック、Position Paperトラック)、WACV、そしてECCVワークショップのTerraBytesに分かれます。個人別ではCalebが11本中6本、Isaacが11本中9本でした。

Hacker Newsにはこの記事が「I flagged two research papers for fake authors and both were accepted as orals」というタイトルで投稿され、248ポイントを獲得しました。タイトルが指し示す部分はIsaacの回答の一段落です。彼は個人的に知っている研究者たちの論文が引用されているのに著者名だけ架空の人物に差し替えられた投稿を二本見つけ、リジェクトを勧告した上で組織委員会に直接通報しました。両方とも「幻覚の参考文献だけ直せばよい」という条件で口頭発表に採択されました。

この事件を個人の不正行為の話として読んでも得るものはあまりありません。興味深いのはシステムの側です — 検知は成功し、通報経路は機能したのに、結果は覆りませんでした。この記事はその経路のどこでシグナルが失われるのかを追います。

実際に何が発見されたか — 実在する論文に実在しない著者

最も見つけにくい種類は、まるごと捏造された参考文献ではありません。タイトルも学会も他の共著者も全て実在するのに、著者一人か二人だけがもっともらしい偽名に差し替えられている項目です。Calebが挙げた例が正確にこの形です。あるWACVの投稿がSatMAE論文の著者を「Yuyang Cong, Saurabh Khanna, Chen Meng」と記していましたが、実際の著者リストはYezhen Cong, Samar Khanna, Chenlin Mengで始まります(arXiv:2207.08051)。

# 参考文献一項目を検証するとき実際に比較すべきフィールド
投稿版に印字された値:
  Cong, Yuyang; Khanna, Saurabh; Meng, Chen; et al.
  "SatMAE: Pre-training Transformers for Temporal and Multi-Spectral Satellite Imagery"

登録機関(arXiv:2207.08051)のレコード:
  Cong, Yezhen; Khanna, Samar; Meng, Chenlin; et al.
  同じタイトル、同じ年、同じ識別子

# タイトルやDOIの存在有無だけを確認する検査はこの項目を通してしまう。
# 著者リスト全体をフィールド単位でdiffして初めて捕まえられる。

この違いが重要なのは、自動検証ツールの設計要件がここで分かれるからです。「この参考文献は実在するか」を問う検査は通過させ、「印字された値と登録機関のレコードが一致するか」を問う検査だけが捕まえます。二人の著者が共同で公開したbib-auditが後者を自動化します — すべての項目をCrossref、arXiv、DataCite、Semantic Scholarに照会した上で、著者リスト全体を含めてフィールド単位でdiffし、存在しない引用から順に報告します。DOIやarXiv IDがなくタイトルだけでしか照合できない項目は断定せず、「手で確認せよ」という助言的な警告として返します。

もう一つ注目すべき点は、二人がレビューに勧める表現です。動機を断定せず観察だけを報告すること — 「arXivレコードの第一著者はYuyang CongではなくYezhen Congです」と書き、判断は編集者に委ねるという助言です。実務的に正しい態度です。レビュアーは不正を証明できる立場になく、証明しようとするとレビューが論争に変わってしまいます。

確認されたことと一人の証言であること

ここで明確にしておくべきことがあります。上記の記事はレビュアー二人の一人称の記録であり、私は学会側の確認を見つけられませんでした。具体的にはこうです。

検証可能なこと: 22本という割り当て規模と15本という発見件数は記事に表として公開されています。SatMAEの著者リストの不一致はarXivレコードと照合すれば誰でも確認できます。bib-auditは公開リポジトリにMITライセンスで上がっています。記事が引用する外部の研究(後述)もそれぞれ原典があります。

確認されていないこと: 「偽の著者を通報したのに両方とも口頭発表に採択された」という部分は完全にIsaacの証言です。どの学会だったかは記事に書かれていません。彼の割り当て内訳はNeurIPS Position 2本、TerraBytes 5本、WACV 4本なので、口頭発表枠のあるワークショップかWACVの可能性が高いですが、これは私の推測であって事実ではありません。組織委員会がどんな手続きで決定したのか、通報が倫理担当者に伝わったのか、最終決定者が何を見たのかは公開されていません。論文が特定されていないため、反論も存在しません。

この区別をする理由は慎重さのためだけではありません。システム分析においてまさにこの地点が失敗地点の候補だからです — レビュアーの通報が最終決定に反映されたかどうかを、外部からもレビュアー本人からも確認できないということ自体が、パイプラインの観測可能性の問題です。

数字で見る汚染の規模

一人の経験に代表性があるかを確認するには、他の観測が必要です。上記の記事がまとめた直近1年分の測定を原典基準で訳すとこうなります。

上記の表の出典は全て元記事が引用しているものをたどったもので、リンクが付いていない項目は私が原文を直接開けなかったものです。引用関係は元記事の参考文献リストで確認できます。

Ansariの分類体系は特に実務に役立ちます。100件を種類別に分けると、完全捏造66%、部分属性汚染27%、識別子ハイジャック4%、プレースホルダー2%、意味論的幻覚1%で、100件全てが複合的な失敗でした。つまり「存在しない論文」が単独で現れることはなく、大抵は意味論的幻覚(63%)や識別子ハイジャック(29%)が付随してもっともらしさを作り出しています。論文単位の分布も二峰性です — 92%が1〜2件、8%が4〜13件。前者は不注意、後者は丸ごと生成と読むのが自然です。

レビューパイプラインはなぜこれを濾過できないのか

三つの圧力が重なっています。

第一は投稿数です。AAAI 2027が抄録投稿48,000件を受けたという事実が上記の記事で言及されています。採択論文の1%が汚染されているというAnsariの数値は、絶対件数で見れば学会一つあたり数十本です。この規模でデスクリジェクトを人手でやるのは不可能で、実際には今、レビュアーたちがデスクリジェクトをクラウドソーシングのように代行しています。Isaacはまさにそう表現しています — 善意で残っているレビュアーたちにとって公正な時間の使い方ではないと。

第二は相互レビューの義務です。投稿するには4〜5本をレビューしなければならない制度は、レビュアーの供給を投稿数に自動的に連動させます。その代わりレビューの動機が「この分野を読みたい」から「自分の論文を審査してもらうための通行料」へと変わります。ICML 2026のレビューFAQを見ると、目標負荷はレビュアー一人あたり5〜6本で、2026年には負荷軽減は認められませんでした。代わりにリバッタル開始時点で投稿の99%以上が最低3件のレビューを受けていました。カバレッジは確保されますが、カバレッジと注意力は別物です。

第三は決定段階での情報損失です。レビュアーが「参考文献が捏造されている」と書いても、エリアチェアはそれを複数の軸の一つとして受け取ります。新規性、実験、明瞭さ、そして健全性のフラグが同じ平面に置かれると、他のスコアが高いとき健全性のフラグは「直せる欠陥」として吸収されます。「幻覚の参考文献だけ直せばよい」という条件付き採択が生まれる構造がこれです。健全性はスコアの軸ではなくゲートであるべきなのに、ほとんどのレビューフォームにはゲートがありません。

レビュアー側のLLM — ICMLの電子透かしが捕まえたものと見逃したもの

汚染されるのは投稿だけではありません。PangramのICLR 2026レビュー分析はレビューの21%が全面AI生成だと報告し、Gartenberg et al.(2026)はOrganization Science誌で、ChatGPT以降投稿が42%増え、レビューの30%以上が何らかの形でAIを使っていると測定しました。

ICML 2026がここに対応した方法は技術的に見応えがあります。提出されたすべてのPDFに、人間の目には見えずLLMにだけ読める指示を埋め込みました。指示は約170,000語句の辞書からランダムに選んだ二つの語句をレビューに入れるよう指定します。二つの語句が偶然一緒に現れる確率は100億分の1未満で、フラグが立った全事例を人間が直接検査し、「レビュアーが電子透かしの存在に言及しただけ」というケースを除外した結果、family-wise error rateは0.0001です。締め切り前の実験では、ほとんどのモデルで検知率が80%を超えました。

結果はレビュー795件、レビュアー506人、そして相互レビューの義務に違反した398人による497本のデスクリジェクトでした。検知された違反者のうち10%にあたる51人は、自分のレビューの半数以上が削除されました。

限界についても組織委員会自ら書き記しています。この手法はPDF全体をLLMにまるごと入れて出力をそのままコピー&ペーストした人だけを捕まえます。テキストを抜粋して入れたり、出力に手を加えたり、ローカルモデルを使えば捕まりません。つまり795件は下限であり、正直な間違いと巧妙な違反を区別できません。

さらに悪いニュースがあります。Li et al.(2026)は、論文の科学的内容や伝え方を変えずに要約だけを敵対的に書き換えても、AIレビューの結果が改善することを示しました。レビューモデルが何かを知らない状態でも、最も強い攻撃は約38%の確率で成功し、10点満点でGemini 3 Flashレビュアーのスコアを1.31点、GPT 5.4 Miniレビュアーのスコアを0.88点押し上げました。レビュー側が自動化されるほどゲーム可能になるということです。

提案されている健全性維持の仕組みとそれぞれの限界

今実際に動いている仕組みは四種類です。

投稿時点の自動引用検証。 Ansariが推奨しbib-auditが実装している方向です。登録機関との照合は機械的で自動化可能であり、著者は投稿前にCIゲートとして回せます。捕まえるのは引用の事実性だけで、実験や本文の捏造には手が届きません。

カメラレディ段階のデスクリジェクト。 ACL 2026が実際に実行しました。ACLの声明によれば、存在しない文献を引用した採択論文100本以上をデスクリジェクトし、自動システムがカメラレディ版で疑わしい項目を表示した後、プログラムチェアとシニアエリアチェアが人間の目で「参考文献が実在しない」ことを確認する二段階でした。声明は引用を「著作物間の関係についての正式な主張」と定義し、その関係が捏造されれば文書全体と学術記録の健全性が損なわれると明記しています。ただし同じ声明に更新事項が付いています — ACL執行部の会議で、該当論文は通常の再投稿手続きを踏むことに決まったというものです。処罰ではなく差し戻しです。

レビュアーのLLM使用の検知と制裁。 ICMLの電子透かしが代表例で、方針の文言は学会ごとに異なります。元記事が引用するECCV 2026のレビュー方針は、ローカルであれAPIであれLLMでレビューやメタレビューを作成することを禁じ、投稿物の相当部分をLLMに共有することも別途禁じています。WACVのレビュアーガイドラインはLLM生成レビューを「非常に無責任な行為」と規定し、レビュアー本人の論文のデスクリジェクトで制裁できるとしています。ここで実務的に困った点が一つ生まれます — bib-auditのような検証ツールですら投稿物の一部をホスト型LLMに送るため、レビュアーは使う前に該当学会の方針を確認しなければなりません。健全性維持ツールと機密保持規定が正面からぶつかります。

AI補助レビューの統制された実験。 NeurIPS 2026は禁止ではなく測定を選びました。参加レビュアーを論文ごとに三条件のうち一つへランダムに割り当てます — LLMなし、自由なLLM補助、構造化されたLLM補助。インターフェースはOpenReviewに統合され、著者が実験参加に同意した論文にのみ適用されます。レビューが終わると、条件を知らないエリアチェアがレビュー品質を評価します。この実験を除く全てのLLM使用は健全性方針違反としてデスクリジェクトの対象です。個人的にはこれが最も正直なアプローチだと思います — 禁止は執行できず、放置はシグナルを破壊するので、どんな形の補助が実際にレビュー品質を高めるのかをデータで確定させようとしているのです。

ここに匿名性の再調整が加わります。ICLRはOpenReviewで著者名を公開し始めました。低コストの大量投稿の評判コストを上げる措置ですが、同時に二重盲検審査が防ごうとしていたバイアスが戻ってきます。無料の交換はありません。

おわりに — 検知はすでに自動化され、決定だけが自動化されていない

この事件で失敗したのは検知ではありません。レビュアーは偽の著者を見つけ出し、リジェクトを勧告し、組織委員会に直接知らせました。シグナルは正確で、時間通りに届きました。それでも結果は変わりませんでした。

三つが残ります。

• 健全性はスコアの軸ではなくゲートであるべきです。 新規性・実験・明瞭さと同じ平面に置かれた瞬間、他が良ければ吸収されます。ACLがカメラレディ段階で100本以上をデスクリジェクトしたのは、遅れてでもゲートを作った事例です。
• 機械的な検査は機械に任せ、レビュアーの時間は科学に使います。 参考文献を登録機関とフィールド単位で照合する作業は自動化可能で、投稿前のCIゲートに移せます。今はその作業を無報酬のレビュアーが事後にやっています。
• 一人の証言と学会の確認を混ぜないほうがよいです。 この記事の核心となるエピソードはまだどの学会にも確認されておらず、論文も特定されていません。その未確認の状態自体が指摘に値する問題です — レビュアーが上げた健全性の通報が最終決定にどう反映されたか誰も見られないなら、通報経路には観測可能性がないということです。

レビューパイプラインはスパムフィルターではなく信頼システムとして設計されています。生成コストがゼロに収束する入力を前に、信頼を前提としたシステムがどう崩れるかを今、私たちはリアルタイムで見ています。