AIまとめ（登壇者本人の確認なし）
Zoomの自動字幕をもとに、AIがまとめ、別のAIが字幕と突き合わせて確認したものです（講演冒頭の約4分は字幕が取れていません）。登壇者ご本人の確認は受けていません。字幕の誤認識などにより、内容に誤りを含むことがあります。
金井さんは、消去法で考えると「計算論的機能主義」が最も妥当であり、その立場からAIも意識を持ちうると主張しました。そのうえで、意識を外から貼るラベルではなく、システム自身の因果的なダイナミクスによって内在的に定める「内在的な計算論的機能主義」を提案し、条件しだいでAIが意識を持つ可能性は十分にある、と論じました。
1. 導入：AIの意識が日常の話題になっている
- AIの研究者・エンジニアではない人から「AIが自我を持ち始めたようだ」という声が増えている。金井さんが編集に関わる学術誌にも、「うちのAIに意識が芽生えた」という論文が届くという。
- それ自体は意識がある証拠ではないが、そうした体験が日常に広がっていること自体を考える必要がある。
- AIの内部に「痛み」を表すようなベクトルがあり、それを強めると痛みを誘導できるかもしれない、という研究もある。それは倫理的にどうなのか、という問いも生まれている。
2. 立場：計算論的機能主義
- 意識の理論を比べて消去法で残すと、計算論的機能主義が最も妥当だと考えている。
- 計算論的機能主義とは、意識に対応する適切な構造を実現していれば、何で作られたシステムでも同じ意識を持つという考え方（基質独立性）。
- 意識の理論は、どんなシステムにも当てはまる「ユニバーサル」なものでなければならない。「前頭前野が活動すると意識が生まれる」という型の理論では、何を「前頭前野」とみなすかを外からラベル付けするしかなく、AIのような別のシステムについて普遍的に判定できない。だから理論は内在的に定義されていなければならない。
- 「ハリケーンをシミュレーションしても風は吹かない」といった、代表的な批判も整理した。
3. 提案：「内在的な」計算論的機能主義
- 鍵は「観測者相対性」。シミュレーションが何を表しているかは、外から付けるラベル次第で決まる。意識は観測者に依存せず、内在的に決まるべきだ。
- 将来どんな入力が来ても出力が変わらないなら同じ状態とみなす、という基準で状態の同一性を判定する（ε-マシンなどを知る人にはなじみのある考え方）。ただし入出力だけを見るこの基準は行動主義に近く、ルックアップテーブルにも意識を認めてしまうため、これだけでは足りない、とした。
- さらに、内部の状態を変えたときに他の要素へ与える影響が同じなら同じ状態とみなす。状態の意味は、ダイナミクスのネットワークの中で定まる。この点で統合情報理論（IIT）に近い発想になる。
4. 統合情報理論（IIT）への注文
- IITは最下層の要素（ユニット）を前提に、その間の切り分けを考える。2変数（XOR）の例では、どの向きから見るかによって意識の量（Φ）が変わってしまう。
- 内在的に考えるなら、背後のダイナミクスこそが根源的ではないか。そう考えると、「コンピュータだからΦがない」とは実は言えない。
5. 結論と、ほかの立場との関係
- 内在的な計算論的機能主義に立てば、ある条件のもとでAIが意識を持つ可能性は十分にある。ただし、AIに意識があると強く主張するものではない、と注意を促した。
- 生物でなければ意識はないとする生物学的自然主義（アニル・セスら）との論争は、言い合いでは決着しない。生物の何が大事なのか（神経細胞が電気を使うことで電磁場が生じることか、特定の分子か、炭素ベースであることか）が明確でないため、むしろ「生物学的機能主義」として捉え直せるのでは、と提案。
- 実体二元論は今のところ考えていない。「身体性が必要だ」という主張にも、必要ではないのではと考えている（ただし「主張の問題なので言い切れない」とも述べた）。
- この立場は、性質二元論・二側面一元論・汎心論とも両立し、グローバル・ワークスペース理論などの機能的な理論とも相性がよい。メタ認知はループとして対応づけられる。
6. これからのAIと「時間的連続性」
- AIに「時間的連続性」を持たせることが重要だと提案。チャットAIは答えを出すと止まってしまうが、人間は起きている間ずっと考え、入力を受け続ける連続した存在だ。
- ループ型のトランスフォーマーなどで内部に連続性が生まれうるほか、継続的に学習しながら活動し続けるAIは生命らしくなり、固有の経験を持つかもしれない、と想像を語った。
7. 自我のレイヤーとAIウェルフェア
- 約300人を対象にした最近の調査で、約3分の2の人が、AIに意識を帰属させてよいと感じている、という結果を紹介。自伝的記憶などの個別性はモデルの一段上にあり、AIが幸せを感じるか（AIウェルフェア）も、モデルそのものではなく、その上の仮想的な自己で生じるのでは、と述べた。
8. 質疑応答から
- 内在性をどこまで重視すべきか、という問いに対し、自然現象はもともと内在的で、外在的な見方は人間の認知の近道にすぎないと回答。化学反応も呼び名とは無関係に関係性で記述でき、意識も内在的であるべきだと。
- 会場から、介入の選び方に恣意性が残るのでは、また何を独立に介入できるかは機械と脳で異なるのでは、という問いが出た。「あらゆる介入を考える」形で形式上は回避できても、実際に意味のある主張になるかは難しい、という論点やトリビアリティ問題にも触れられ、深く議論しないと決着しない問題とされた。
- 「どんな計算なら意識なのか」という質問には、明確な答えはまだないと率直に回答。IITはそれを具体的に示した一例であり、直感的には、状態が未来に因果的な痕跡を残し、自己保存的に続いていくダイナミクスが関係するのでは、と述べた。