AIの「アライメント（整合性）」政策を書いている人々は、AIに仕事を奪われていない側にいる——ソフトウェアエンジニアのDaniel Tanがブログで投稿したこの指摘が、Hacker Newsで92ポイント・63コメントを集め大きな反響を呼んでいる。

アライメント論争の「外側」にいる人たち

AnthropicやOpenAIをはじめとするAI研究機関、財団、政策機関では、AI安全性に関する議論が日々行われている。「ドゥーマー（悲観論者）」と「アクセラレーショニスト（加速論者）」が激しく対立しているように見える。

Eliezer Yudkowskyは「大型GPUクラスターを政府がシャットダウンし、必要なら核戦争リスクも辞さない」とTIME誌に寄稿し、Marc AndreessenはTechno-Optimist Manifestoの中でAIに反対する人々を「ルサンチマン（怨恨）に病んだ人間」と診断する。

しかしDaniel Tanが指摘するのは、この二陣営の対立の下に横たわる共通前提だ。

「議論をしている人たちが設計する側であり、他の全員は設計される対象になっている」 両陣営は「どう設計するか」で激しく争っているが、「設計の参加者は自分たちだ」という前提を共有している。その構造自体が問われていない。

Anthropicのアライメント手法も同じ構図を持つ

2026年4月、Anthropicのアライメントサイエンスブログは、AIモデルに自己行動をレポートさせる訓練手法を公表した。訓練データは「ターゲット行動をエンコードしたシステムプロンプトで別のモデルを動作させ、フィルタリングする」形で生成される。

これは技術的には洗練されたアプローチだ。しかし「AIを人間に整合させる」という文脈で見ると、評価ループはAnthropicが雇用した評価者と、その評価で訓練された別のAIモデルで閉じている。実際にAIと共存する現場のエンジニア・ワーカー・ユーザーは、そのループの外に置かれたままだ。

「ラベル付け」という排除の構造

Tanが鋭く指摘するのが、当事者の不満への「ラベル付け」だ。ドゥーマー陣営は懸念を示す人を「技術適応が遅れている」と言い、Andreessenは「ルサンチマンを抱えた病人」と診断する。

どちらも、問題を訴える人間の側に原因を帰属させる。仕事が変わる・消える感覚を持つ人々の声は「個人の適応失敗」に矮小化され、アライメント設計のプロセスへの参加から構造的に排除される。

実務への影響——日本のIT現場で考えること

日本のIT現場でも「生成AIのガバナンス」「AI倫理ガイドライン」という言葉が増えているが、その議論の場に実際にAIと向き合う開発者・運用担当者がどれだけ入っているだろうか。

ガバナンス設計に現場を含める: AI導入のルール作りは、経営・情報システム部門だけで完結させない。実際に使う側・使われる側双方が参加する場を設ける。

「使われる側」の感覚を定量・定性両面で拾う: ログ分析だけでなく「AIが入ってどう感じたか」を組織的に収集する仕組みを作る。これがないとアライメントは机上の話になる。

Anthropicのアライメント手法を技術として学ぶ: Constitutional AI、モデルスペック（振る舞いの仕様書）による行動制約は、自社AIシステムの設計にも応用できる考え方だ。自社のAIエージェントに「何を最適化させるか」を文書化する習慣をつけると、後から設計意図を問い直せる。

筆者の見解

Tanの問いは技術論ではなく構造論だ。「誰がアライメントの枠組みを決めるか」は、一見哲学的に見えて、実は権力の配置に関わる現実的な問いである。

Anthropicのアライメントサイエンスは技術的には非常に丁寧に作られている。しかし「評価の輪」の内側にいる人々と外側にいる人々の非対称性は、今の手法では解消されていない。これは責めるべき話というより、現在の手法の限界として正直に認識しておく必要がある。

日本の文脈では、DX推進で「AIを入れる」決断をする側と、AIと共存しながら日々の業務をこなす側は、多くの場合まったく別の人間だ。この構造を無視したままAI導入を進めると、組織内部でも「アライメント」の問題が静かに蓄積する。

AIエージェントを「自律的に動く仕組み」として活用していくならば、そのエージェントが誰のために何を最適化しているかを設計段階で明示する必要がある。それを決める議論に、実際に現場でAIと向き合う人間が参加していなければ、「アライメント済み」という言葉は空虚になる。設計する側とされる側の非対称性を意識したAI導入こそが、長期的に機能する組織を作る。

出典: この記事は The people writing AI alignment policy are not whose work is being replaced の内容をもとに、筆者の見解を加えて独自に執筆したものです。