AIジャーナリストのSteven Rosenbaum氏が執筆した著書『The Future of Truth: How AI Reshapes Reality』——AIが真実をいかに歪め、合成するかを警告する内容の本に、皮肉にもAIが生成した「架空の引用」が混入していた。Ars TechnicaのKyle Orland記者が2026年5月22日に詳報した。

何が起きたか

ニューヨーク・タイムズの調査により、同書に含まれる285件の外部引用のうち6件が問題ありと判定された。うち3件は「synthetic quotes（合成引用）」——発言者とされる人物が実際には言っていない、AIが生成した架空の引用だ。

テクノロジーレポーターのKara Swisher氏は「私は一度もそんなことを言っていない」と明言。ノースイースタン大学のLisa Feldman Barrett教授も「自分の著書には存在しないし、内容も誤っている」と指摘した。Rosenbaum氏は現在、出版社と協力して全引用の監査を実施中で、将来版での修正を約束している。

著者のAI活用ワークフロー

Ars Technicaの取材でRosenbaum氏が明かしたのは、彼のAI活用の実態だ。OpenAIのChatGPTとAnthropicのClaudeを「アイデアの発掘、記事の検索、テーマの要約、追跡すべき人物や論文の特定」に使用していたという。AI由来の情報にはノート上で「AIから取得」とタグ付けし、さらに出版社が提供したファクトチェッカー1名とコピーエディター2名が確認する多層体制を取っていた。

問題は、この体制をすり抜けた引用が存在したことだ。「非常に効果的だったが、百点ではなかった」と著者自身が認めている。

海外レビューのポイント：Ars Technicaの評価

Ars Technicaのレポートが焦点を当てるのは、「問題を認識しながらもAIを手放せない著者の矛盾」だ。

Rosenbaum氏はAIを「intoxicating（陶酔的）かつdangerous（危険）」と表現し、「裏切られる瞬間は本当に恐ろしい」と認めながらも、AI以前の執筆プロセスへの回帰は「自分の性分ではない」と断言。AI活用の継続を明言した。

Ars Technicaが指摘する問題の本質は、AIの「それらしさ」が人間の検証者をも欺く点にある。285引用中6件（約2%）という数字は、書籍品質の基準として見過ごせないレベルだ。同メディアは「ほとんどの著者は架空の引用をゼロ件に抑えている」と皮肉を込めて指摘している。

日本市場での注目点

日本でも書籍・報道・コンテンツ制作でのAI活用が急速に拡大している。この事件は日本のコンテンツ制作者にとっても他人事ではない。

  • 引用・出典の確認が最重要: AIが生成した引用は文脈も文体も自然で、人間の目でも見落としやすい
  • 「AIタグ付け」手法の参考価値: AI由来情報を明示してレビュー対象として区別するアプローチは日本のワークフローにも導入できる
  • 出版・メディア業界への波紋: 著者責任の範囲をめぐる議論に具体的な事例を提供する。日本でも複数の出版社がAI活用ガイドラインを策定中であり、このケースは重要な参照点となる

筆者の見解

この事件が示すのは「AIは使うな」ではなく、「AIとの付き合い方に設計が必要」ということだ。

Rosenbaum氏が採用した体制——AI由来情報へのタグ付け＋複数人によるファクトチェック——は方向性として正しい。問題は、その検証ループが引用の「内容の正確さ」まで担保できなかった点にある。AIが生成した引用文は文脈も文体も自然で、本物と区別しにくい。人間の確認者が「それらしい引用」を見逃すのは、設計上の穴というより認知的な限界だ。

重要な示唆は「検証の粒度」にある。「この情報はAI由来か否か」というタグ付けだけでは不十分で、「この引用は一次情報源から直接確認したか」というレベルまで検証プロセスを細分化する必要がある。特に引用・インタビューコメント・統計数値は、AIを経由せずに一次ソースで確認するという原則を徹底すべきだろう。

AIが「アイデアの連結」や「資料の網羅的な探索」で人間を超えた能力を発揮することは確かだ。それを活かしながら、一次情報の確認という最後の砦だけは人間が握る——この棲み分けをワークフローに組み込むことが、AI時代のコンテンツ品質管理の要諦となる。禁止アプローチではなく、安全に使える設計を整えることが本筋だ。

出典: この記事は AI put “synthetic quotes” in his book. But this author wants to keep using it. の内容をもとに、筆者の見解を加えて独自に執筆したものです。