AIが200冊の本を「不適切」と判定——オーウェルの『1984年』やミシェル・オバマ自伝も排除対象に
AIが図書館の「検閲者」に——学校で200冊の蔵書が撤去される事態 イギリス・グレーター・マンチェスターにある中学校が、人工知能（AI）を使って図書館の蔵書約200冊を「不適切」と判定し、撤去を進めていたことが明らかになった。表現の自由を守る慈善団体「Index on Censorship」が告発した。 撤去された本の顔ぶれ 問題のリストには、ジョージ・オーウェルの古典的ディストピア小説『1984年』や、ステファニー・メイヤーの人気ヴァンパイア小説『トワイライト』、ミシェル・オバマの自伝、さらにニコラス・スパークス著『ザ・ノートブック』（映画『きみに読む物語』の原作）なども含まれていた。 AIが生成した要約によれば、『1984年』は「拷問・暴力・性的強制のテーマを含む」と指摘され、『トワイライト』は「成熟したロマンティックテーマ、性的緊張、ヴァンパイアと狼男による暴力」を理由に排除対象となった。通常、『トワイライト』は14歳以上の生徒向けとして推奨されている作品だ。 司書への「セーフガーディング調査」 学校の司書は、「子ども向けに書かれていない」「子どもを動揺させうるテーマを含む」「セーフガーディング（子どもの安全確保）上のリスクになる」本をすべて撤去するよう上層部から指示を受けたという。司書はこの指示に「仰天した（gobsmacked）」と述べ、撤去を拒否した。 その結果、彼女自身が「不適切な本を持ち込んだ」として学校からセーフガーディング調査の対象となり、図書館は「一時的な安全確保措置」として閉鎖された。さらに地方議会にも通報され、最終的に苦情は「不適切なコンテンツを含む複数の本に対してセーフガーディング手続きに従わなかった」として認定された。 司書はストレスで休職し、最終的に退職。この調査履歴が残ったことで、学校での就職が今後ほぼ不可能になると関係者は指摘している。 判定の根拠はAIが生成した文書 Indexが入手した内部文書によれば、各書籍の撤去理由はAIによって生成されたものだった。AIがリストの作成自体にも関与していたかどうかは現時点では不明だ。 学校図書館グループ（SLG/CILIP）の委員長キャロライン・ロシュ氏は「これはやり過ぎだ。彼女のキャリアを台無しにしてしまった。セーフガーディングの案件として処理されたことで、彼女は二度と学校で働けない」と批判している。 AI活用の「副作用」が問う書籍選定の在り方 今回の事例は、AIツールが教育現場での意思決定に介在する際のリスクを浮き彫りにした。文脈や文学的価値を理解できないAIが、古典文学や社会的に重要な著作を機械的に「不適切」と分類するという皮肉な状況は、AI活用における人間の最終判断の重要性を改めて問いかけている。 日本でも学校図書館の蔵書選定に関する議論は続いており、AIによる自動判定の導入には慎重な議論が求められる。 元記事: School uses AI to remove 200 books, including Orwell’s 1984 and Twilight