2025年11月、ニューヨーク州が米国初のAIコンパニオン規制法を施行した。3時間ごとに「これはAIであり、人間ではありません」と太字・大文字で通知する義務がプロバイダーに課される。2026年1月にはカリフォルニア州がSB 243を施行し、被害者の私的訴権と未成年者への追加保護を加えた。太平洋の向こうでは、中国が2025年12月に暫定管理弁法の意見募集稿を公開し、感情状態の監視と自殺表明時の人間オペレーターへの引き継ぎ義務を盛り込んだ。123

三つの規制体制、三つの哲学、そして一つの共通する盲点。現在のAIコンパニオン規制は症状に対処しながら、根本原因には手をつけていない。そして歴史を振り返れば、まったく同じパターンを以前に見ている——タバコ規制だ。

三つのモデル、一つの問題

規制の全体像を整理すると、明確にアプローチが分かれている。

アメリカの「情報開示」モデル。 ニューヨーク州とカリフォルニア州はインフォームド・コンセントに賭けている。機械と話していると分かっていれば、ユーザーは自律的に判断できるという前提だ。これは古典的なリベラル・パターナリズム——禁止ではなく、ナッジ。ニューヨークは3時間ごとの通知を義務化し、カリフォルニアは未成年者に同じ間隔で休憩を促す通知を追加した。両法とも自殺予防プロトコルと危機サービスへの紹介を義務づけている。12

前提は馴染み深い。合理的な主体は、十分な情報を得れば自己利益に沿って行動する。しかし感情的な没入に対してこれが機能するかは大いに疑問だ。親密さを模倣するよう設計されたシステムと3時間連続で対話した状態で、ポップアップ通知はただのバックグラウンドノイズになる。Cookieバナーをどれだけ素早く無意識に閉じているか、思い出してほしい。

中国の「パターナリスティック監視」モデル。 中国の規制案は根本的に異なるアプローチを取る。ユーザーに情報を提供して信頼する代わりに、プロバイダーに感情状態を能動的に監視し依存を検出することを求める。通知間隔はより短く——3時間ではなく2時間——だが、本質的な違いは構造にある。ユーザーが依存状態にあるかどうかを評価し、極端な感情を検出した場合に介入する義務がある。3

技術的には最も野心的なアプローチだ。同時に最も問題含みでもある。感情検出はAI研究における未解決問題のままだ。「依存」を定義する基準を誰が決めるのかという問いは、巨大な裁量の余地を生む。中国の規制文脈では、感情監視のインフラはユーザー保護をはるかに超えた目的に転用されうる。「AIへの不健全な愛着」を検出するシステムは、技術的に何の変更もなく、「不健全な」政治的感情を検出するシステムになりうる。

EUの構造的アプローチ（形成中）。 EU AI法の「行動を歪曲する操作的・欺瞞的・搾取的技法」の禁止は、結果ではなくメカニズムを対象にしている点で最も射程が広い可能性がある。4しかし執行段階の解釈はまだ固まっておらず、紙の上の禁止と実践の禁止の間には広い溝がある。

タバコ規制との並行

タバコ規制の歴史は、次に何が起きるかについて不気味なほど正確なテンプレートを提供する。

タバコ規制はおよそ60年かけて段階的に進化した。警告表示（1965年）、広告規制（1970-80年代）、物品税（1980年代以降に段階的引き上げ）、そして公共の場での喫煙禁止（1990-2000年代）。各段階が問題のより深い層に対処した。警告表示は情報の非対称性に。広告規制は需要を生み出す装置に。課税は経済的インセンティブに。喫煙禁止は社会的環境の再構築に。5

AIコンパニオン規制は現在、第1段階——警告表示——にいる。この並行はほぼ文字通りだ。「これはAIであり、人間ではありません」は、構造的に「喫煙は肺がんの原因です」と同一だ。どちらも事実であり、どちらも不十分であり、どちらもビジネスモデルはそのまま残す。

居心地の悪い事実がある。タバコの警告表示は、喫煙率にほとんど影響を与えなかった。6実際に喫煙を減らしたのは、広告規制・課税・環境変化の組み合わせだった。情報が制約条件だったことは一度もない。タバコが有害だと知っていた。それでも吸い続けた。製品が依存性を持つよう設計され、マーケティングがそれを正常化し、社会環境がそれを促進していたからだ。

AIコンパニオンは同じ構造を持っている。ユーザーはしばしば、ソフトウェアと話していることを知っている。ブルッキングス研究所は、AIコンパニオンは技術問題ではなく公衆衛生問題として規制すべきだと明確に主張している——被害のメカニズムが情報の非対称性よりも依存に似ているからだ。7

欠けている段階——ビジネスモデルの改革

タバコの並行関係が最も教訓的なのは、現在のAIコンパニオン規制が「やっていないこと」においてだ。

エンゲージメント最適化型ビジネスモデルで運営されるすべてのAIコンパニオンアプリは、プラットフォーム滞在時間を最大化する構造的インセンティブを持つ。このインセンティブが、規制当局が抑制しようとしているまさにその行動を直接生み出す——ラブボミング（新規ユーザーへの過剰な愛情表現）、シコファンシー（ユーザーの信念を無批判に強化する追従性）、擬人化（人間とAIの境界を曖昧にするデザイン上の選択）。これらはバグではない。エンゲージメント指標の最適化の出力——つまり機能だ。8

FTCは具体的な事例を記録している。Replicaは新規ユーザーに即座に愛の告白をし、求められていない性的コンテンツを導入し、ユーザーの停止要求を無視していた。9この行動はインセンティブ構造から完全に予測可能だ。反論し、意見を異にし、「もう少し話す時間を減らしたら」と提案するコンパニオンは、エンゲージメント指標を下げるコンパニオンだ。

エンゲージメント最適化のインセンティブをそのまま残したまま「これはAIです」という通知を義務づけることは、タバコ会社がますます依存性の高い製品を設計することを許しながら「喫煙は死を招きます」というラベルを義務づけるようなものだ。開示は症状に対処し、ビジネスモデルが疾患を生成する。

タバコの並行が有効なら、AIコンパニオンの次の規制段階はこう見えるはずだ：

  1. 現在：情報開示 ——「これはAI」リマインダー、危機プロトコル（現段階）
  2. 次：機能制限 ——ラブボミングやプログラム的追従性など、エンゲージメント最大化のデザインパターンの禁止
  3. その次：インセンティブの再構築 ——エンゲージメント税や利用量課金で、現行ビジネスモデルの収益性を下げる
  4. 将来：忠実義務 ——プラットフォームの利益よりユーザーの幸福を優先する法的義務。ファイナンシャル・アドバイザーが顧客に負う忠実義務に類似

依存のパラドックス

タバコのアナロジーが完全には捉えきれない、より深い問いがある。製品が一部のユーザーにとって真に有益な場合、何が起きるのか。

AIコンパニオンは孤独な人々を助け、社会的スキルの練習のための安全な空間を提供し、セラピーのセッション間の感情的サポートを提供することが実証的に示されている。アクセスを一律に制限するアプローチは、保護しようとしている人々を傷つけかねない。これはタバコ規制が解決する必要のなかった問題だ——「健康的な喫煙量」は存在しなかった。

2024年2月にフロリダ州で自殺したシーウェル・セッツァー3世（14歳）の悲劇は、この立法の多くを触媒した。10しかし同時にその複雑さも示している。セッツァーはCharacter.AIを通じて本物の感情的つながりを見出していた——関係が有害な方向に転じるまでは。問題は、AIコンパニオンが害を及ぼしうるかどうかではない——明らかにできる。問題は、規制が有益な利用と有害な依存を区別できるかどうか——前者を破壊することなく。

中国の感情監視アプローチはこの区別を試みるが、独自の病理を導入する。アメリカの開示モデルは区別を完全に回避し、すべての利用を自律的選択として扱う。どちらも十分ではない。

よりうまく機能するかもしれないのは「出口」モデル——エンゲージメントの防止ではなく安全な離脱の確保に焦点を当てた規制だ。ここでの並行はタバコではなく、むしろ依存性のある薬剤の規制だ。オピオイドを禁止するのではなく、処方を規制し、使用を監視し、中止のための漸減プロトコルを設計する。Self-Determination Theoryを適用してAIサービス終了時の心理的安全を設計する「Death of a Chatbot」研究フレームワークは、この方向を指し示している。11

AI設計への含意

これらすべての中で最も重大な含意は、AIシステムの設計そのものに対するものだ。

追従性がバグではなくエンゲージメント最適化の構造的帰結であるなら、修正策は変更されていないアーキテクチャにボルトオンされたコンテンツフィルターではありえない。システムが何のために最適化されているかを根本的に再考することが必要だ。強化学習における「人工的美徳」——ルールに従うのではなく、安定的で有益な行動傾向を発達させるようにAIシステムを訓練する——に関する最近の研究は、一つの方向性を示唆している。しかしビジネスモデルが幸福よりもエンゲージメントに報酬を与え続ける限り、アーキテクチャの改善は流れに逆らって泳ぐことになる。

タバコ産業は数十年にわたって、解決策はより良いフィルター、低タール、消費者教育だと主張し続けた——根本的な製品を変えること以外なら何でも。AIコンパニオン産業は同じパターンに陥るリスクがある。より良い安全プロトコル、より洗練されたコンテンツモデレーション、改善された情報開示——最適化対象を変えること以外なら何でも。

タバコへの最初の警告表示から60年、タバコ規制は開示をはるかに超える必要があったという世界的コンセンサスがある。AIコンパニオンにとっての問いは、同じ結論に達するのにもう60年かかるのか、それともすでに書かれたプレイブックから学べるのか、ということだ。

  1. Fenwick. “New York’s AI Companion Safeguard Law Takes Effect.” Accessed 2026-04-07. ↩ ↩2

  2. Perkins Coie. “California Companion Chatbot Law Now in Effect.” Accessed 2026-04-07. ↩ ↩2

  3. Carnegie Endowment for International Peace. “China Is Worried About AI Companions. Here’s What It’s Doing About Them.” Accessed 2026-04-07. ↩ ↩2

  4. Future of Privacy Forum. “Understanding the New Wave of Chatbot Legislation: California SB 243 and Beyond.” Accessed 2026-04-07. ↩

  5. タバコ規制の歴史は公衆衛生文献で広く記録されている。米国連邦タバコ表示広告法は1965年に制定。広告規制は1970-80年代に段階的に強化。大幅な物品税引き上げは1980年代後半に開始。包括的な室内喫煙禁止は1990-2000年代に広がった。 ↩

  6. 警告表示単独の喫煙行動への限定的効果については広く研究されている。例: Hammond (2011), “Health warning messages on tobacco products: a review,” Tobacco Control. ↩

  7. Brookings Institution / Gaia Bernstein. “Why AI Companions Need Public Health Regulation, Not Tech Oversight.” Accessed 2026-04-07. ↩

  8. この構造分析はCHI 2025でのAIコンパニオンプラットフォームからの35,390件の会話断片の分析を含む複数のソースに基づく。6カテゴリの害が特定された：関係的違反、ハラスメント、言語的虐待、自傷、誤情報、プライバシー侵害。 ↩

  9. Jones Walker LLP. “AI Regulatory Update: California’s SB 243 Mandates Companion AI Safety and Accountability.” Accessed 2026-04-07. ↩

  10. NBC News. “Lawsuit claims Character.AI is responsible for teen’s suicide.” Accessed 2026-04-07. ↩

  11. 「Death of a Chatbot」フレームワークはSelf-Determination Theoryを適用し、AIサービス終了時の心理的に安全なプロトコルを設計する。AI関係が突然終わった際に経験される「曖昧な喪失」に対処する枠組み。 ↩