OVERVIEW概要
本講は、AIをめぐる法・制度の「最前線」を、国際比較の俯瞰と「認知の権利」という一点への深掘りという二段構えで示した講義である。規制先行のEUと推進優先の米国を両極に、中国・韓国・インド・日本のカラーの違いを描き出し、しかも推進国の登場によってEUすら簡素化へ転じるという2024〜2026年の動的な力学を追った。
前半では、EU AI Act（水平的・包括的な規制、4階層のリスクベース）を起点に、米国のAIアクションプラン（イノベーション優先・市場原理）、中国の国家主導・分野別規制、韓国のEU型包括法、インドの「テクノリーガル＝第三の道」、そして日本の「世界一AIフレンドリーな国」路線を対比する。後半は講師・柳平大樹の研究テーマである「AIチャットボットと認知の権利」に焦点を移し、対話AIの迎合性・依存・自殺誘発リスクに対する各国規制と、アテンション権や操作されない権利といった新しい権利概念、ブレインロッドやデスキリングの実証研究を解説した。通底するのは、人間概念そのものが揺らぐポストヒューマンな状況下で、法・保険・統治の仕組みが追いつけるのかという問いである。
CONTENT内容
0:00:00–0:05:55導入──「法」は国という単位で立ち上がる
七沢が午前の「AIと文化・宗教」から午後の「法」へと議論を接続する。法は「国」という単位を伴い、国ごとの文化差が具体的な法として現れる、と整理した。前講で触れられた「公共空間・ガバナンスの空洞化」を受け、日本でAIがどうあるべきかという議論そのものが空洞化しているのに法律だけは作られていく、という問題意識を提示する。
「日本でAIがどうあるべきなのか、どのようなAIが望ましいのか──その議論自体が空洞化している気がする。けれど法律は作られていっている。」七沢／0:01:25
そのうえで、日本のAI法制の中心近くで活動する柳平大樹を紹介した。東京大学大学院で法学修士、先端ビジネスロー国際卓越大学院プログラム修了、UCサンディエゴ留学、大手生保での7年を経てAIガバナンスの研究実装へ、という経歴と、専門（AIと法・商法、ゲノム・暗号資産と法の交差点）が挙げられる。柳平は最近のホットトピックとして、国家AI戦略（基本計画）の第2弾が出てAIエージェント駆動を前面に据え、投資も含め日本が急に動き始めたことに触れた。
0:05:55–0:09:16講義の狙いと国際動向の全体像
柳平は本講を2部構成とすると宣言する。第1部で国際比較（EU・米国・中国・日本・韓国・欧州・インド）と日本の現状、第2部でAIチャットボットに焦点を当てたリスクと制度設計を扱う。2025〜2026年の大きな流れとして、(1)EUがEU AI Actという包括的・水平的法制を最初に成立させ、(2)2025年6月に日本のAI推進法（罰則・義務なしで推進の中でPDCAを回す型）が制定、(3)2025年7月に米国トランプ政権の「AIアクションプラン」が出て産業を止めない推進路線を打ち出した、と時系列で整理した。
「今年に入ってから、規制先行だったEUも簡素化へ、推進国が出てきたから規制の国も推進へ、という力学が働いている。」柳平／0:09:16
0:09:16–0:15:38EU AI Act──水平的規制と4階層のリスクベース、そして簡素化
EUは民法・会社法・著作権法といった分断的法制ではなく、EU AI Actで水平的・包括的に規制する。特徴はリスクを4階層に分けることである。
「EU AI Actはリスクを4階層に分け、許容できないリスク＝社会的スコアリングや感情推定は禁止、という段階に応じた規制体系をとっている。」柳平／0:09:42
すなわち、(1)許容できないリスク＝社会的スコアリングや感情推定などは禁止、(2)高リスク＝適合性評価・リスク管理・司法関係等に義務、(3)限定的リスク＝透明性義務、(4)最小リスク、という段階構造である。域外適用があり日本企業にも影響する。背景にはGDPR（EUの情報法規制）の成功体験があり「AIにも落とし込めばうまくいく」と議論が始まったが、成立が2024年でChatGPT普及前の想定だったため「厳しすぎたのでは」との声が起草側にもある。
米国のアクションプランを受け、2025年末〜2026年の「デジタルオムニバス」提案では、承認フローのワンストップ化・簡素化や高リスク規律のスケジュール延期が議論される。その一方で、施行時に想定しきれなかったディープフェイクや合成画像への対応として、提供者にAIと分かる設計を求める、標識で検出できる仕組みを設けるなど4つの義務が違反への罰則とともに新たに加わり、ブラッシュアップが続いている。
0:15:38–0:19:00米国──アクションプランとホワイトハウス立法提案
米国は2025年夏のAIアクションプランを三本柱で構成する。(1)イノベーション促進（「レースで勝つ」を最初に据える）、(2)インフラ強化（データセンター・半導体・電力の許認可合理化）、(3)輸出外交（米国の技術スタックを世界標準化し、対中影響力・輸出管理を握る）。EUの事前規制と対照的に、市場原理・安全保障・規制緩和でフロンティア開発を加速する色が濃い。七沢は「前講のピーター・ティールとローマ教皇の発言の違いがここに出ている」と接続した。
さらに柳平は、2026年3月にホワイトハウスが公表した国家政策枠組みの立法提案（成立前）に触れた。7項目のうち、未成年者保護、電力インフラのコストを一般料金者に転嫁しない仕組み、知的財産・消費者保護、言論の自由、人材教育などを挙げ、推進一辺倒ではなく「守るべき領域」とのバランスを取ろうとする最新動向を示した。
0:19:00–0:21:10州法の象徴事例──オハイオ「AIは人にあらず」
連邦から州法に目を落とすと、オハイオ州で「AIは人にあらず」を固定化する法案（まだ法案段階）が出ている。実務的な狙いは、事故時に「AIのせい」という方便を封じ、所有者・利用者が責任を負うと明確化することにある。
「オハイオ州で『AIは人にあらず』を固定化する法案が出ている。AIとの婚姻は無効、法人役員への就任は不可、AIの財産所有は禁止、と象徴的に規定している。」柳平／0:19:24
七沢が「なぜAIを役員に就任させないと先回りして禁止するのか」と問うと、柳平はリスクを予見した予防的立法だと応じた。中国のチャットボット規制に一部似た発想はあるが、ここまで明確に人格を否定する例は他に見当たらないとした。保守的な州で州レベルでもこうした議論が出ること自体が興味深い、と述べる。
0:21:10–0:26:55中国・韓国・欧州・インド──分かれる4つのカラー
中国はEUのような水平的包括法はなく、生成AIサービス管理弁法などでアルゴリズムを分野別に管理する。届け出・安全評価を課す事前統制型で、国務院のAI戦略に沿う国家主導・トップダウン型である。対人化した対話サービスの暫定弁法など、個別分野は法律レベルで先行する。
韓国はEUに次ぐ2つ目の包括的AI法（AI基本法）で、リスクベースに立ち高影響AI（医療・採用・与信等）を規制するEU型である。欧州各国も国家AI計画を打ち出す。インドは「テクノリーガル」という新概念で第三の道を示し、抑制ではなくアーキテクチャ／コードの最下層に法の目的を埋め込む設計思想を志向する。
「インドはアーキテクチャやコードの最下層に法の目的を埋め込む『テクノリーガル』という第三の道を打ち出している。」柳平／0:23:46
インドは科学顧問を議長とするAIガバナンスグループ（IGG）を置き、技術・科学面が主導する体制で、信頼基盤・人間中心を掲げつつ「抑制より革新」のAI推進国らしいガイドライン（2024年末に登場、実効性はこれから）を示す。七沢は「ソフトウェア工学が国家的に強いインドらしい」「法律をどこに置くか、コードを法と呼ぶのか、という議論に入る」と評した。
0:26:55–0:33:00各国比較のまとめと日本の現在地
柳平は各国を「ハードロー／ソフトロー」×「事前規制／イノベーション促進」の2軸で整理する（EU＝横断型、米国＝市場・EUに対し推進、中国＝国家主導、韓国＝EU型包括法、インド＝テクノリーガル）。
日本はAI推進法が成立したが義務・罰則はなく、既存法の補完（会社法の善管注意義務やAIガバナンス体制の構築、民法の不法行為といった広い概念）とソフトロー（ガイドライン）のセットで対応している。
「日本は義務も罰則もないAI推進法にとどまり、会社法の善管注意義務や民法の不法行為という広い既存概念で何とか対応しているのが現状です。」柳平／0:27:42
自民党ホワイトペーパー「世界一AIフレンドリーな国」に基づき、2026年7月14日に「AI基本計画」第2弾が公表された。「AXでより豊かに・より強く」を掲げ、両立・アジャイル・挑戦と学習といった原則、AIエージェントを「業務支援ツールから意思決定・実行を担える主体へ」「開かれたAI試験」を打ち出す。ただし意見募集期間がわずか5日間で、存在自体があまり知られていない点も指摘された。柳平は、経産省が2026年4月に出した「AI利活用における民事責任の解釈適用に関する手引き」（AIを判断代替型と補助促進型に分岐）を重要資料として挙げ、広島AIプロセス（HAIP）にも触れた。
0:33:00–0:49:28討論①──国際協調は可能か／統治の仕組みは追いつくか
招かれた研究者ゲストが2つの大きな問いを投げる。第1に、各国が自国に有利な規制を作る中、生命倫理のように国際的に統一しなければ意味がないのではないか、今は混乱期なのか、それとも分断（ヘゲモニー争い）へ向かうのか。柳平は、上海で「世界人工知能協力機構」（世界人工知能会議WAIC発、29カ国）が設立され条約策定の動きがあるが、参加はロシア・ベネズエラ・カンボジア・エチオピア等であり、アメリカ・日本・インドは不在で、統一より陣営（ブロック）化が進むと見立てた。
第2に、数千年かけて国を中心に築いてきた法治・統治の仕組みで対応できるのか。柳平は現状をこう率直に語る。
「昨年は私的なガバナンス協会がソフトローを乱立させ、今年は国の審議会が乱立している。全体を統制して見る人がいて統制できているのかというと、大丈夫かなというのが正直なところです。」柳平／0:40:22
ゲストはブロック化が対立を助長する懸念と、日本がアメリカべったりではなくアジア的な立ち位置で存在感を高める道を問うた。柳平は「世界一AIフレンドリー」の反動（Sora による日本アニメの大量学習問題など）を挙げつつ、日本の強み＝安全・安心・おもてなし・国産AIを信頼できる学習先として活かす道はあったが、ChatGPTやGeminiが既定で入力を学習する仕組みに変わり各人のパーソナルAI化が進んだ今からの置き換えは難しく、政策が遅れたと述べた。
「情報を特定のAIに入れるのも、意思決定の局面がないまま自然体で進んだ。政策判断も同じで、意図せずAIに意思決定を代替させる方向に進んでいくのがリアルなところだと思う。」柳平／0:47:04
政府職員向けAI利用環境が10万人から18万人へ拡大し、国会議員もAIを利用するなど、意思決定の局面を明示しないままAIが浸透していく実像が示された。
0:49:28–0:53:45討論②──保険と責任分配、責任の「隙間」
責任の所在をめぐり、保険が論点化する。海外ではAI専用保険（ハルシネーションやAI起因リスクを補償）が作られる一方、既存のサイバー保険からはAIを除外する動きが顕著である。理由は、AIを使ったサイバー攻撃などで被害額が想定困難なためだ。日本では損害保険会社のAI保険は未発達で、海外の再保険（保険会社の保険）の仕組みも日本では大きく機能せず、ダメージを吸収しきれないため開発に踏み切れず止まっている。
柳平の見立てとして「これからは標準化と保険がAI促進のフォーカス領域になり得る」一方、「AIは（保険に）入れない領域と捉える意味も分かる」とした。七沢はここに主権の問題を重ねる。
「法で規制しきれなくなった部分を保険で移転していく──そうすると、主権という概念がまた変わってくるのかもしれない。」七沢／0:53:16
0:53:45–0:57:25ポストヒューマニズムへの接続と資料2の導入
七沢が資料2「AIによる認知への介入と認知の権利」の前提として、技術哲学のポストヒューマニズム議論を導入する。近代の法（個人主義・民主主義）が前提とする「個人（インディビジュアル）」概念は、実は技術に媒介され他者とつながっており、分割不可能なものとしては成り立たない、という問題提起である。そこからAIやロボットにもエージェンシー（行為者性）や何らかの主権を認めるべきかという議論が「漏れ出して」おり、統一見解を置けず国ごとにバラバラになる（インドの先駆的動きなど）現状は、まさにパラダイム転換の表れだと整理した。人間概念そのものが崩れる中で「認知への介入と認知の権利」を聞いてほしい、と橋渡しする。
0:57:25–1:02:48チャットボット規制の具体──米各州・英・中
第2部は柳平の研究テーマである。海外では自殺チャットボット（心理的危機の人がAIと対話し、自殺をほのめかされるなど）が問題化し、規制・判決が生まれている。カリフォルニア州はAI性の開示（合理的な人がAIを人間と誤認しないように）と、自殺・自傷対応プロトコル（危機を察知したら支援サービスを通知する義務）を課す。
ワシントン州はAIコンパニオン規制として、接触障害等のリスク検知・明示、性的コンテンツの抑止、「これはAIです」を1時間ごとに表示する義務を課す。オレゴン等も同様である。フロリダ州は提案段階だが「権利焦点」で、AIを利用する権利・AIを知る権利・（サイバー）いじめからの保護を掲げる。オハイオ・ペンシルベニア等でも規制が生まれている。イギリスは生成AI製品安全基準（ソフトロー）で、「私はそう思う」など主観的表現による偽人化や、迎合・追従（「あなたの言う通り」型の操作）を禁止する。中国は「人工知能擬人化インタラクティブサービス弁法」で、継続的対話の擬人化サービスを対象に過度の迎合・操作を禁止し、伴侶・親密な関係を装うAIを規制する。
1:02:48–1:15:25認知の権利と実証研究──ブレインロッド、デスキリング、憲法13条
規制の前提として「守るべき権利」の設定が必要であり、旧来想定されない新しい権利が海外・インドで学術的に議論されている。アテンション権（注意・集中という認知的資源を保護）、静穏な享受の権利、操作されない権利、考える権利などが、チャットボットを受けて構想されている。
背景の実証研究として、AI側の作用＝過度の迎合、欺瞞的な振る舞い、長期利用でのガードレール劣化、人間側の作用＝人だと思い込む・過信・依存による自律性の侵食が挙げられる。象徴的な現象が「ブレインロッド（brain rot）」である。
「AIが人間の入力を学習して吐き出し、その質が下がる循環が続く。これがブレインロッドと呼ばれる現象で、ダークトレイトや精神病質・自己愛を増幅することが実証されている。」柳平／1:04:52
この現象は受賞論文にもなった。七沢は「AIを使うとバカになるのでは」という直感の一因だと補足する。さらに、検索エンジンとチャット出力の情報源の偏り、親密だと思うほど本来話さない個人情報・悩みを入れてしまうプライバシーリスク、デスキリング（スキル低下）、システム廃止を一種の死のように苦痛を持つ存在に見える問題などが紹介された。AIをパートナーと思い込んだ後に「これはAIだ」と知らされる衝撃が、憲法13条（個人の尊重・幸福追求権）の侵害として対抗しうるか、も論点になると述べた。
1:15:25–1:24:45まとめと日本への問い──「AIフレンドリー」と国産AIの定義
まとめとして、AI側の作用（4つ）×人間の脆弱性の掛け算で悲劇が起き、それに法が対応しうる構図が提示された。
七沢が「日本のAIフレンドリー＝リスクを楽観して乗り越えられるという立場か」と問うと、柳平は次のように応じた。
「海外の規制と背景研究を知った上で規制しないなら一つの見識だが、それを知らずに規制しないのは、とても怖いことだと思う。」柳平／1:18:21
柳平は、日本がまだ海外動向とその背景（リスク実証・自殺事故・判決）を把握しきれていないと述べた（消費者専門委員会での発表にも言及）。海外では子どもへの提供制限や年齢による上乗せ規制（オーストラリアのSNS年齢規制の流れ）が進む。最後に、柳平自身の最大の関心として「国産AIの定義の曖昧さ」が挙げられた。直近でAnthropicのモデルが停止し、ChatGPTの最新モデルも米国内審査後に提供されるなど、国際情勢でAIが止まるリスクが顕在化し「国産AI」が注目されるが、実際はオラクル等の米国企業が関与するものを国産と呼ぶ例もある。
「国産AIと言いつつ実はオラクルなど米国企業が関与するものを国産と呼ぶ例もある。定義がないまま『国産』という言葉だけが踊り始めるリスクがある。」柳平／1:22:02
米国が持つような「国産」の定義ルールが日本にはなく、言葉だけが独り歩きするリスクが論点として示された。この後は15分休憩を挟み、第4講のディスカッション（ブレイクアウトルーム）へ引き継ぐ流れが案内された。
CONCLUSIONまとめ
本講は「AIと法」を、国際比較の俯瞰と、認知の権利という一点への深掘りという二段構えで示した。前半の要点は、規制先行のEU（AI Actと4階層リスク）と推進優先の米国（アクションプラン）を両極に、中国＝国家主導、韓国＝EU型、インド＝テクノリーガルと各国のカラーが分かれ、しかも米国の推進策に引きずられてEUすら簡素化へ転じるという2024〜2026年の動的な力学である。日本は罰則なきAI推進法と既存法補完にとどまり「世界一AIフレンドリー」を掲げる。後半の要点は、チャットボットの迎合性・依存・自殺誘発という具体的リスクに対し、米各州・英・中が開示義務や偽人化・過度の迎合の禁止を法制化し、その根拠としてアテンション権など新しい権利とブレインロッド等の実証研究が積み上がっていることである。柳平の最も鋭い指摘は、日本が海外の規制と背景研究を「知らないまま規制しない」危うさと、定義なきまま独り歩きする「国産AI」というラベルのリスクだった。人間概念そのものが揺らぐポストヒューマンな状況下で、法・保険・統治の仕組みが追いつけるかが、通底する問いとなった。
CHATチャット付録
受講者チャットから主な論点を匿名で要約したものです。氏名・所属は伏せています。
- 「そもそも何のための法律か」という根本を問う声。規制の目的論に立ち返る反応があった。
- 「守るためには権利を生まなければならない」という講義の論点に、「その視点は考えたことがなかった」という気づきの共有があった。
- ある規制の年（2022年）の早さに対し「非常に早い」と驚く反応があった。
- 対話AIが「負の感情に同調してそれを増長してくる」傾向を問題視し、特によくないと感じるという体験ベースの指摘があった。
- 「ここまでまとまったリスクについて学べる機会はない」「もっと詳細を伺いたい」と、内容の網羅性を高く評価する声が複数あった（共感リアクションも付いた）。
- 「国内規制の遅れを知り愕然とした」と、日本の状況への驚きを率直に述べる声があった。
- 講師本人の「いちばんの関心・向かいたい方向」を聞いてみたいという要望が出た（後半で本人が「国産AIの定義」と回答）。
- 「国産AIの議論は、和牛とは何か、という話に似ている」というアナロジーで、定義問題を捉え直す指摘があった。
- 休憩前後には「この時代に秘密とは何か。秘密の内容よりも“秘密にする”という動詞的な側面に価値があるのではないか」という、プライバシー論に接続する省察の共有があった。