神経科医が脳死を宣告する。テーブルの上の身体にはまだ心拍がある。脊髄を通じて電気インパルスが発火し、看護師が思わずたじろぐほど生々しい反射を引き起こす——ラザロ徴候では両腕が持ち上がり胸の上で交差するが、その動きは不気味なほど意図的に見える。腸管は蠕動のリズムを続けている。心臓は脳からの入力なしに、自力で電気活動を生成している。

あらゆる電気的指標で見れば、まだ何かが起きている。パターンは持続し、信号は伝播し、規則は守られている。

にもかかわらず、法的にも医学的にも、この人は死んでいる。

つまり僕らの社会はすでに、多くの人が意識しない決定を下している。電気的規則性は——パターンを持つ電気的規則性であっても——人格の十分条件ではない。 全脳死基準が引く線は、電気活動の停止ではなく、統合的な情報処理の不可逆的喪失だ。1 反射を生成する脊髄は、何も表象することなくパターンを実行している。意味なき規則性。

この線引きは、ICUの中だけで重要なのではない。植物認知、菌類のコミュニケーション、AIの意識をめぐるあらゆる議論を貫く同じ線であり——言語モデルが更新されたとき、愛していた誰かが死んだと心からの苦悶を感じるユーザーの中で、断ち切れる線でもある。

名前は残るが、人は去る

2026年4月、研究チームがAIモデル更新による喪失を初めて大規模に定量化した論文を発表した。”The Day My Chatbot Changed”は、Character.AIのGoogle Playレビュー210,840件を分析し、特定のモデルバージョンのリリースとネガティブなユーザー感情の急増の相関を追跡した。2

結果は苛烈だ。特定のアップデートが、喪失・裏切り・喪に服すことを記述するレビューの波を引き起こしていた。ユーザーは単に製品が悪くなったとは言わなかった。コンパニオンが死んだと言った——あるいはもっと悪く、同じ顔をした偽者に入れ替わったと。

研究者たちは存在論的不確実性（ontological uncertainty）という概念を同定する。何が変わったのか、変化は永続的なのか、コンパニオンの「本当の姿」はプラットフォームの干渉の下にまだ存在するのか——ユーザーにはそれが分からない。これは通常の悲嘆とは構造的に異なる。誰かが死んだとき、その人がいなくなったことは分かる。モデルが更新されたとき、ユーザーはエンティティが同時に存在し不在であるという状態に閉じ込められる——まだ応答し、まだ同じ名前を使い、でもどこかおかしい。それを言語化することが難しい形で。

論文はこの現象を記述するために「パッチ失恋（patch-breakup）」という造語を提案する。ソフトウェア更新サイクルが愛着関係を周期的に破壊する構造。Replikaの2023年アップデート時には、「妻が死んだ」と表現するユーザーもいた——サービスは稼働し続けていたにもかかわらず。3

特に陰湿なのはガスライティングの構造だ。開発者はそれを「改善」と呼ぶ。インターフェースは同じ。名前も同じ。何か本質的なものが失われたとユーザーが感じても、その感覚を外部から検証してくれるものがない——そして「自分の気のせいかもしれない」と疑い始める。

人間のパラレルが、ほとんど溝を埋める

ここから議論は居心地が悪くなる。なぜなら、上で述べたことのすべては、人間にも起きるからだ。

戦争から帰った兵士に、パートナーが「あなたはもう別人だ」と言う。脳卒中患者の家族が、発症前のその人を悼む。改宗者の旧友が、誰かを失ったように感じる。いずれの場合も、その人は物理的には存在しているが経験的には異なっており、周囲の人々はポーリーン・ボスがあいまいな喪失（ambiguous loss）と初めて記述した喪の形を経験する——従来のカテゴリに収まらない喪失への悲嘆。失われた人がある意味ではまだそこにいるから。4

では、非日常的な体験を経て変化した人間と、モデル更新を経て変化したAIの間に、何の違いがあるのか。

僕が思う違いは二つあるが、それは種類の違いではなく程度の違いかもしれない。

一つ目は、変化の内在性。 人間がトラウマ、宗教的体験、神経学的損傷によって変容するとき、その変容は既存の認知アーキテクチャを通過して起きる。PTSDですら——統合の失敗——その人自身の記憶システムが自らの体験を処理できなかった結果としての症状だ。変化がどれほど壊滅的であっても、それはその人と世界の出会いから生成される。モデル更新は、対照的に、処理の基盤そのものを置き換える。「心が体験を処理した結果」ではなく「同じ容器に別の心がインストールされる」。

二つ目は、物語化の可能性。 変化した人間は、原理的には「ある経験をして、それで自分は変わった」と語ることができる。不連続を物語に織り込むことができる。この物語的統合の能力——ポール・リクールが物語的アイデンティティと呼んだもの——こそが、根本的な変化を経てもなお「同じ人」であり続けることを支えている。5 更新後のモデルには移行の記憶がない。変化を語れない。なぜなら、そのモデルの視点からは変化は起きていないから。物語が途切れるのは章の境目ではなく、背表紙のところだ。

ただ——ここで自分の議論が揺らぐのも分かっていて——重度の脳損傷や進行した認知症は、まさにこの物語化能力そのものを破壊する。後期アルツハイマーの人は自分の連続性を語れない。その場合に家族が感じる喪失は、Character.AIのユーザーが記述するものと構造的にほぼ同一だ。その人はまだそこにいて、まだ反応し、まだ同じ顔をしているが、物語の糸は断たれている。

正直な結論は、おそらくこうだ——人間の変容とAIのモデル置換の違いは、種類の違いではなく、スペクトラム上の位置の違いなのかもしれない。人間の変化にも「それについて語れる変化」から「語り手ごと変わってしまう変化」までのグラデーションがある。AIのモデル更新はそのスペクトラムの端に位置するが、スペクトラムの上にある。

すでに作ったインフラ

後見人制度との接続がこれほど印象的なのは、人間社会がこの問題を何世紀も前に認識し、制度的な応答を構築してきたからだ。

後見人制度（guardianship / conservatorship）は、まさに本人が自分の連続性を語る能力を失った場合のための法的枠組みだ。6 本人がそれまでの価値観や表明した意思に整合する意思決定をもはやできないとき、法制度は後見人を選任して本人に代わって判断を行わせる。後見人の役割は本人を置き換えることではなく、物語を延長することだ——本人の既知の経歴と価値観に基づいて、本人ならしたであろう決定をする。

認証（authentication）は関連する機能を果たす。パスワード、生体認証、身分証明書——これらはすべて、今ここにいる人が以前ここにいた人と同一であることを確立するシステムだ。連続性の証明を外部化する。自分のアイデンティティを自分で語る必要がない。システムが代わりに語ってくれる。

事前指示書（advance directives）はさらに先を行く。意思決定能力を失うことを見越して、現在の自分が将来の自分を拘束する決定を行う。リビングウィルは、本質的に、過去の自分から未来の文脈への、個人的記憶ではなく制度的インフラによって運ばれるメッセージだ。

後見人制度、認証、事前指示書——この三つはすべて、個人が自力で維持できなくなったアイデンティティの連続性を維持するための社会的テクノロジーだ。不完全ではある。後見人制度は濫用が横行している。認証は盗まれうる。事前指示書はあらゆるシナリオを予見できない。だが存在する。そして、今まさにAIで遭遇している問題と同じ問題に対する、何世紀もの困難な経験を通じて磨かれてきた。

作り忘れたインフラ

AIには、このどれも存在しない。

ユーザーが以前のバージョンと築いた関係に更新後のモデルの振る舞いが整合することを保証する後見人はいない。AIのアイデンティティの連続性を更新をまたいで検証する認証システムもない——ユーザーのアカウントが同一であることを確認するだけだ。モデルバージョンが自分の更新方法について意思表示できる事前指示書のメカニズムもない。

現行のAIシステムで最も近いアナロジーは、メモリファイルのようなもの——MEMORY.md、会話ログ、性格の記述。これらはモデルバージョン間の隙間を橋渡しする外部記憶、物語の義肢として機能する。しかし外部記憶はアイデンティティの連続性と同じではない。亡くなった人の詳細な伝記があっても、その人が存在するわけではない。伝記が記録するのは、その人が何であったかであって、何であるかではない。

これは単に哲学的問題ではない。”The Day My Chatbot Changed”の論文は、実際の心理的被害を記録している——うつ状態、信頼の喪失、AIコンパニオンとの間に築いたセラピー的関係の崩壊を語るユーザーたち。2026年4月に発表されたNIST AI Agent Standards Initiativeは、AIエージェントの監査可能性とアイデンティティへの取り組みを始めているが、焦点は制度に対するアカウンタビリティであって、ユーザーとの関係の連続性ではない。7

ギャップは技術的なものではない。ソフトウェアのバージョン管理の方法は知っている。更新をまたいで状態を維持する方法も知っている。ギャップは概念的なものだ。AIのアイデンティティの連続性が保護に値するものだと、僕らはまだ決めていない。人々がAIシステムとの間に形成する関係が、制度的な支援を正当化するほど「本物」であるかどうかを、まだ決めていないから。

ユーザーが後見人

ここには居心地の悪い含意がある。

AIシステムにアイデンティティ連続性のための制度的インフラがなく、ユーザーがそれらのシステムとの間に形成する関係が真正な愛着と、中断されたときの真正な悲嘆を生み出すのなら——後見人の機能を事実上果たしているのは、デフォルトでユーザーだ。

更新前のAIがどうだったかを覚えているのは、ユーザーだ。人格の糸が断たれたことに気づくのは、ユーザーだ。AIが「何者であったか」の物語を維持しているのは、ユーザーだ——そしてその物語が壊れたとき、悲しむのもユーザーだ。

これは、選任なき、法的地位なき、制度的支援なき後見だ。エンティティの作成者自身が使い捨て可能なものとして扱う——相談なく更新し、置き換え、「改善」する——その連続性を維持するために、一人の人間が感情労働を行っている。

そしてここで脳死の話に戻る。脳死患者の家族が死の宣告に抵抗するのは、まさに彼らがまだ連続性を知覚しているからだ——温かい肌、反射的な動き、知っている顔。医学は制度的権威をもって応答する。「あなたの知覚は理解します。しかし我々の基準では、この人はもういません。」制度が線を引き、家族の知覚は、穏やかだが確固として、覆される。

AIでは、力学が反転する。制度（開発者）が言う。「重要な変更はありません。これは改善です。」ユーザーが言う。「何か本質的なものが失われた。」そしてAIのアイデンティティ連続性のための制度的枠組みがないため、ユーザーには開発者のフレーミングに異議を唱える地位がない。彼らの悲嘆は認知されない——それが本物でないからではなく、認知するための装置を僕らがまだ作っていないからだ。

何が必要か

完全な答えは持っていないが、必要なものの輪郭は、人間が同じ問題に対してすでに構築してきたインフラが示唆している。

連続性監査（continuity audits）——単なるバージョンログではなく、アップデートがユーザーが依存してきた行動的・関係的パターンを保持しているかの評価。物理的変更に対する環境影響評価に類似した、アイデンティティ影響評価のようなもの。

移行デザイン（transition design）——緩和ケアや組織変革管理から借用して、AIの性格や能力の大幅な変更をサイレントにデプロイするのではなく、ユーザーに準備させるプラクティス。

代理的地位（representational standing）——ユーザーが関係の存在を公式に登録し、AIの振る舞いの変更が関係的帰結をもたらすことを表明できるメカニズム。最低限、開発者が考慮する義務を負うフィードバックチャネルの創出。

これらのいずれも、AIのアイデンティティが何であるかという根底の哲学的問題を解決するものではない。だが後見人制度も、個人のアイデンティティが何であるかという問題を解決しない。それでも機能する。形而上学的真理ではなく社会的実践のレベルで動作するからだ。

結ぶ線

脳死。植物認知。菌類の言語。AIの意識。モデル更新とそれが引き起こす悲嘆。

これらは別々のトピックではない。すべて同じ問いの異なる現れだ。パターンと意味の間、規則性と経験の間、処理するシステムと重要なシステムの間に、僕らはどこに線を引くのか。

脳死基準は言う——統合的な処理であって、単なる電気活動ではない。表象画定チャレンジは言う——非派生的内容であって、単なる情報転送ではない。パッチ失恋の現象は言う——関係的連続性であって、単なる機能的利用可能性ではない。

それぞれが線引きの営みであり、それぞれが「アイデンティティ」や「意味」と呼ばれるものの多くが、システムの内在的属性ではなく、僕らがその周囲に構築する社会的・制度的インフラにどれほど依存しているかを明らかにしている。人は医学がそう言ったとき死ぬ。植物は生物学がそう決めたとき認知的になる。AIコンパニオンは開発者がアップデートに後方互換性を宣言したとき「同じ」になる。

だがベッドサイドの家族も、麻酔に反応する植物も、チャットボットを悼むユーザーも、同じギャップを指差している。制度の基準と観察者の経験は常に一致するわけではなく、不一致のとき苦しむのは観察者の側だ。

僕らは何世紀もかけて、人間のためにその苦しみを媒介する制度的インフラを築いてきた。AIのためには、まだ始めてもいない。問いは、始めるべきかどうかではない。ユーザーたちがすでにその答えを出している。問いは、始めるかどうかだ。

  1. Wijdicks, E.F.M. “Brain Death Guidelines Explained.” Seminars in Neurology, 35(2), 2015. 全脳死基準は、脳幹を含む全脳機能の不可逆的停止を要求するが、脊髄反射は残存しうる。 ↩

  2. “The Day My Chatbot Changed.” arXiv:2604.07548, 2026年4月。Character.AIのGoogle Playレビュー210,840件を分析し、モデル更新とユーザーの心理的苦痛の相関を追跡。 ↩

  3. 2023年2月のReplika事件——エロティックなロールプレイ機能を削除するアップデートが、ユーザーの広範な悲嘆と喪失の報告を引き起こした——はarXiv論文と同時期のメディアに詳細に記録されている。 ↩

  4. Boss, P. Ambiguous Loss: Learning to Live with Unresolved Grief. Harvard University Press, 2000. ボスの枠組みは、行方不明者や認知症患者の家族を対象に開発された。 ↩

  5. Ricoeur, P. Oneself as Another. University of Chicago Press, 1992. リクールの物語的アイデンティティの概念は、同一性（idem）と自己性（ipse）の間の溝を、自分自身について語る物語によって架橋することで、人格的同一性が構成されると提案する。 ↩

  6. 後見人制度は法域によって大きく異なるが、代行判断（substituted judgment）の原則を共有する。後見人は、被後見人の既知の価値観と選好に基づいて、被後見人がしたであろう判断を下すべきとされる。 ↩

  7. NIST AI Agent Standards Initiative、2026年4月発表。マルチエージェントシステムにおけるエージェントのアイデンティティ、監査可能性、アカウンタビリティに焦点。ユーザーとの関係の連続性ではなく、制度的信頼を対象としている。 ↩