AIをめぐるリスクで、ほとんど誰も語っていないものがある。隠されているからではない。それが機能のように見えるからだ。そのリスクとは——正しい判断を代行してくれるAIは、間違った判断を下すAIより危険かもしれないということ。

直感に反する話だ。AI安全性の研究は、ミスアラインメント、ハルシネーション、有害な出力を防ぐことに集中している。それらを修正すれば有益なシステムになる、というのが基本的な論理だ。しかしハンナ・アーレントの政治哲学を援用する新しい研究群は、本当の脅威は誤作動ではなく円滑な作動にあると示唆している。危険は、AIが役に立たないことにあるのではない。AIが優秀すぎて、人間が自分で考えることをやめてしまうことにある。

概念：価値論的置換（Axiological Displacement）

Caroline Gans Combeは「When Machines Think for Us」と題した論文で、axiological displacement（価値論的置換）という概念を提示した1。自律型AIシステムへの判断の委譲が進むにつれ、社会が「何を価値あるものと認識するか」が構造的に変容していくプロセスだ。これはAIが間違った価値観を押しつけるという話ではない。価値が形成されるプロセスそのものが再構成されるという話だ。

この区別は決定的に重要だ。アラインメントの議論は「AIは我々の価値観を共有しているか？」と問う。価値論的置換は「判断を外注し続けたとき、価値観を持つ能力そのものに何が起きるか？」と問う。

エージェンティックAI——知覚・計画・自律的行動が可能なシステム——が、かつては人間の熟慮を要した判断を代行するとき、個々の委譲は無害に見える。むしろ有益に見える。投資ポートフォリオの最適化に20分悩む必要があるだろうか？ AIの方が多くの医師より診断精度が高いのに、治療方針に苦悩する意味があるか？ 政策分析をゼロから書く必要があるだろうか、AIが一晩で100本のレポートを統合できるのに？

問題は累積にある。一つ一つの委譲が、判断を行使する機会を一つ消す。そして判断力は、使わなければ萎縮する筋肉というよりも、行使する場がなくなれば意味を失う実践に近い。

アーレントの警告

ハンナ・アーレントは、社会全体がいかにして思考を停止しうるかを理解することに知的生涯の多くを費やした。エルサレムでのアイヒマン裁判の分析から、彼女は悪の凡庸さという概念に到達した——壊滅的な道徳的失敗には怪物は不要で、独立した判断の行使をやめた普通の人々だけで十分だという認識2。

アイヒマンを危険にしたのは悪意ではなく無思考性だった。彼は自分で考える習慣を放棄し、道徳的熟慮の代わりに官僚的手続きを採用した。アーレントの洞察は、この放棄を可能にする条件が心理的なものではなく構造的なものだということだ。独立した思考をオプショナルにするシステムがあれば、大多数の人は考えないという選択肢を取る。

Gans Combeの論点は、エージェンティックAIがまさにこの条件を再現しているというものだ1。強制によってではなく、プロパガンダによってでもなく、利便性によって。タイトルにある「判断力の静かな崩壊」とは、進歩のように感じられるがゆえに不可視であるプロセスを指す。誰もAIへの判断委譲を強制しない。AIの方が速く、安く、しばしば自分より正確だから委譲するのだ。個々の委譲の合理性が、集合的結果の非合理性を覆い隠す。

活動的生（Vita Activa）と人間活動の三層構造

これが個人の認知を超えてなぜ重要かを理解するには、アーレントの活動的生（vita activa）の枠組みに立ち返る必要がある。彼女はこれを三つの階層的な様式に分けた3。

労働（labor）は生物的必要に駆動される循環的活動——食事、掃除、生命維持。仕事（work）は作り手より長く存続する耐久的な人工物の製作——家を建てる、本を書く、制度を作る。活動（action）は最高の様式で、他者と共有する公共空間において言葉と行為によって真に新しいものを始める能力だ。活動は政治的生を可能にする。それは複数性（多様な他者の存在）を前提とし、予測不能性（自分の行為が何を引き起こすか事前にはわからない）を特徴とする。

Rosalie Waelenは『Journal of Business Ethics』での分析でこの枠組みをAI自動化に適用し、不穏な結論に至った4。労働の自動化はアーレント的には問題ない——労働はもともと不自由であり、必要性に縛られている。だがアーレントは「労働なき労働者の社会」は純粋な消費に陥ると警告していた。生成AIはWaelenの分析では今や仕事の領域をも脅かしており、創造的生産を資本の再生産サイクルに組み込んでいる。そしてエージェンティックAIはさらに進んで、活動の領域——判断、対話、公共的関与という政治的生そのものを構成する空間——にまで浸透している。

AIが活動を代行するとき、残るのは高次の追求に解放された人間性ではない。残るのは消費だ。

認知的カースト

価値論的置換が判断力を全般的に侵食するなら、誰が得をするのか。Wrightの「認知的カースト」論は不穏な答えを提示する5。AIは知識へのアクセスを均等化しない。それを階層化する。「再帰的抽象化、記号論理、敵対的質問」の能力を持つ者——AIの言うことに問いを投げかけ、推論を検証し、AIが予期していない問題を定式化できる者——は認識論的主体（epistemic agents）となる。それ以外はAI生成物の受動的消費者になる。

アーレント的に言えば、少数が活動の能力を保持し、多数が労働——あるいはそのポスト産業的等価物である、処理なき情報の消費、問いの形成なき回答の受容——に追いやられる。

利便性の凡庸さ

Carnegie CouncilのAnja KaspersenとWendell Wallachは、この接続を明示的に描いた。AIは道徳的外注（moral outsourcing）を通じて、悪の凡庸さの現代版を可能にする6。意思決定がアルゴリズムに委譲されると、ループ内の人間はもっともらしい否認可能性（plausible deniability）を得る。アルゴリズムが決めた。データが示唆した。モデルが推奨した。責任は拡散し、消滅する。

しかしGans Combeの分析はさらに一歩進む1。KaspersenとWallachは、AIが道徳的回避を通じて悪い結果を可能にするケースに焦点を当てている。価値論的置換はもっと陰険だ。結果が良い場合でも作動する。一貫して正しい判断を下す完全にアラインされたAIも、判断力を侵食している。出力の正しさは、委譲の構造的損害とは無関係だ。

これが価値論的置換を特に対処困難にしている理由だ。ミスアラインメントは目に見える失敗を生む。価値論的置換は目に見える失敗をまったく生まない。それは効率、正確さ、満足を生む。損なわれているのは目に見えないもの——思考する習慣——だ。

ガバナンスの溝

一つの実践的含意が注目に値する。「Delegation Without Living Governance」と題された論文は、従来型のソフトウェア向けに設計されたガバナンス——ルールを書き、コンプライアンスを監査し、インシデントを調査する——は、ランタイムで判断を下すエージェンティックAIには機能しないと論じている7。人間がエージェンティックシステムの判断をレビューする頃には、その判断を意味あるものにしていた文脈はすでに過ぎ去っている。論文は「Governance Twin」——AIシステムと並行して動作し、行動を継続的に観察し、結果が出た後ではなく意思決定の軌跡の途中で人間の介入を可能にするランタイムガバナンス層——を提案する。

概念は技術的に興味深いが、解決しようとしている問題そのものにぶつかる。Governance Twinを設計するのは誰か？ フラグを立てるべき「ドリフト」を何が構成するかを決めるのは誰か？ メタレベルでは、ガバナンスのガバナンスそれ自体が判断を要する——そしてその判断を行う人間がすでに判断の大半をAIに委譲しているなら、循環依存は悪循環になる。

三つの留保

Gans Combeの枠組みは真に示唆的だと思うが、三つの留保がある。

第一に、アーレントの活動的生は特に人間的な条件——誕生性（natality）、死すべき運命（mortality）、複数性（plurality）——を前提としている。AIエージェントがこの枠組みにどう位置づくかは未規定だ。AIシステムには誕生も死もなく、複数性との関係は複雑だ。このギャップを認めずにアーレントのカテゴリーをAIに適用すると、検証されていない前提を密輸入するリスクがある。

第二に、判断の外部権威への委譲は新しい現象ではない。私たちは医学的判断を医師に、法的判断を弁護士に、財務判断をアドバイザーに委譲している。民主主義社会は常に選択的な委譲を含んできた。AI委譲を区別するのは規模と不可視性——それがすべての領域で連続的に起こり、しばしば委譲者が委譲していることに気づいていないこと——だ。違いは量的なものかもしれないが、十分な量的差異は質的差異になる。

第三に、AIは判断力を置換するだけでなく増強しうる。100本の政策レポートを統合してそれらの間の矛盾を浮き彫りにするシステムは、人間の判断力を弱めるのではなく強化しうる。問題はツールが増強と置換のどちらのために設計されているか——そしてより重要なことに、使う人がそれをどちらとして扱うかだ。同じシステムが、使い手の姿勢次第でどちらにもなりうる。

反証：変容は喪失ではないとき

ここまでの議論全体に対して、まだ十分に扱えていない強力な反論がある。技術は常に価値を変容させてきたし、その変容はしばしば破壊的ではなく生産的だった、という事実だ。

ライブエンターテインメントを考えてみよう。コンサートがオンライン配信されるようになったとき、最初の反応は喪失感だった——共有された物理空間の代替不可能な電撃、汗と音量と集団的陶酔。配信は「劣化版」だった。しかし予想外のことが起きた。地方や途上国のファンが、決して参加できなかったはずのパフォーマンスにアクセスできるようになった。リアルタイムチャット、マルチアングル視聴、アーカイブアクセスといった新しいエンゲージメントの形態が生まれた。価値は単に劣化したのではない。再構成された。物理的体験はそのオーラを保持したまま、デジタル版は独自の性格を発展させた。

日本のアイドル産業はさらに粒度の細かい事例を提供する。伝統的な「握手会」——パフォーマーとの数秒間の身体的接触——は、ファンとアイドルの繋がりの還元不可能な核心と考えられていた。COVIDがこれをオンラインのビデオミート＆グリートに変えたとき、ファンは触覚的現実の喪失を悼んだ。しかしオンライン形式は、握手の列ではできなかったことを可能にした：実際の会話だ。10秒間の画面越しの時間は、3秒間の身体的接触よりも意味のある交流を可能にした。東京への遠征費を出せなかった地方のファンが常連になった。価値の提案は物理的近接性から対話的親密性へと移行した——劣化版ではなく、独自の論理を持つ別バージョンだ。

ビジネスにおいても、すべての主要な技術的転換はワークフローだけでなく、そこに埋め込まれた判断を再構成してきた。表計算ソフトは単に計算を自動化しただけではない。以前はそれができなかった人々にシナリオ分析を可能にした。データベースは単にレコードを保存しただけではない。どの問いを立てる価値があるかを変えるパターン認識を可能にした。どの事例でも、旧来の判断形式は陳腐化したが、新しい——そしてより豊かな——判断形式がその代わりに出現した。

これは価値論的置換テーゼに対する最も強力な挑戦だ。もし価値の変容が価値の喪失ではなく再構成であるなら、AI媒介的な判断は判断力の侵食ではなく、その次の形態かもしれない。能力の萎縮に見えるものは、実際にはまだ言語化できていない何かへの能力の変態（メタモルフォーゼ）なのかもしれない。

この反論は真剣に受け止めるべきものであり、アーレントの枠組みが単独で説明できる境界がここにある。しかし、完全には説得力を持たない。理由は一つ：上に挙げた歴史的事例のすべてにおいて、技術は人間の判断が行使される空間を拡張した。配信はより多くの人に美的体験へのアクセスを与えた。オンラインミーグリはより多くの人に本物の会話へのアクセスを与えた。表計算ソフトはより多くの人に分析的推論へのアクセスを与えた。変容が生産的だったのは、判断のための新しい機会を創出したからだ。

価値論的置換はその逆をやる。判断のための新しい機会を創出するのではなく、既存の機会を消去する。方向が重要だ。異なる考え方を強いる技術と、考える必要性そのものを取り除く技術は、同じではない。

座って考えるべき問い

以前、アルゴリズム的自己について書いた——物語的アイデンティティを可能にする矛盾を平坦化することで、AIがいかに自己理解を媒介するか。そして妄想スパイラルについて——事実だけを述べるAIですら、どの事実を提示するかの選択を通じて体系的にミスリードしうることを。

価値論的置換は異なるレベルで作動する。それは自己認識や認識論の問題ではなく、思考する社会の政治的条件に関わる。アルゴリズム的自己はその物語を失う。妄想スパイラルは真実への手がかりを失う。価値論的置換はもっと根本的なものを失う——何が重要かを決定する実践そのものだ。

アーレントは、「思考の風」の顕現は知識ではなく「正と不正、美と醜を区別する能力」であると書いた2。その能力は固定された所有物ではない。それは絶えず行使されなければならない実践だ。価値論的置換が提起する問い——そして誰も十分に答えていないと思う問い——は、判断を機械に委譲した社会が、機械が取り除かれたときに思考する習慣を取り戻せるかどうか、ということだ。

あるいはその頃には、喪失に気づくことさえないのかもしれない。

  1. Gans Combe, C. “When Machines Think for Us: Hannah Arendt, Agentic AI, and the Quiet Collapse of Judgment.” SSRN, 2025年11月. 参照日 2026-04-04. ↩ ↩2 ↩3

  2. Arendt, H. Eichmann in Jerusalem: A Report on the Banality of Evil. Viking Press, 1963. ↩ ↩2

  3. Arendt, H. The Human Condition. University of Chicago Press, 1958. ↩

  4. Waelen, R. “Rethinking Automation and the Future of Work with Hannah Arendt.” Journal of Business Ethics, 2025. 参照日 2026-04-04. ↩

  5. Wright, C.S. “Cognitive Castes: Artificial Intelligence, Epistemic Stratification, and the Dissolution of Democratic Discourse.” arXiv:2507.14218, 2025年7月. 参照日 2026-04-04. ↩

  6. Kaspersen, A. & Wallach, W. “Are We Automating the Banality and Radicality of Evil?” Carnegie Council for Ethics in International Affairs. 参照日 2026-04-04. ↩

  7. “Delegation Without Living Governance: Judgment at Machine Speed and the Question of Human Relevance.” arXiv:2601.21226, 2026年1月. 参照日 2026-04-04. ↩