AIまとめ（登壇者本人の確認なし）
Zoomの自動字幕と、それをもとにした実況投稿から、AIがまとめ、別のAIが字幕と突き合わせて確認したものです。登壇者ご本人の確認は受けていません。字幕の誤認識などにより、内容に誤りを含むことがあります。
渡邉さんは、意識を「主観体験」と定義したうえで、機能主義の立場から、計算機上の神経回路にも意識が宿りうると論じました。そして、それを確かめる方法として、脳の半球と機械の半球をつなぎ、両者にまたがる一つの体験が生じるかを調べる「主観テスト」を提案し、その先に、生きたまま意識をアップロードする構想を描いています。
1. 意識＝主観体験
- サールの「脳を研究して意識を研究しないのは、胃を研究して消化を研究しないようなもの」という言葉を引き、意識の問題の重要性から語り始めた。
- 会場で配られたメガネを使い、目にも脳にも入っているのに意識に上らない状態を実演。意識を「主観体験」と定義した。
- 一次視覚野を損傷した人が「見えないのに縦か横かは当てられる」例から、情報処理が進むことと「見える」ことは別だと説明した。
2. 機械は「見ている」のか
- スマホのカメラは顔を検出して枠を出すが、私たちのように顔を「見て」いるのか、と問う。私たちは、目を閉じれば見えず、開ければ見えるという当たり前の意味で、間違いなく見えている。
- ライプニッツの「風車小屋」の思考実験：意識を持つ機械を小屋ほどに拡大して中に入っても、部品の動きは見えるが意識はどこにも見当たらない。脳の中で神経活動を観察しても、主観体験は見当たらない。
3. 機能主義：計算機上の神経回路にも意識は宿りうる
- チャーマーズの「フェーディング・クオリア」の思考実験を紹介。脳のニューロンを、入出力の関係を保ったまま一つずつ人工物に置き換えていけば、残りの脳はその置き換えに気づかない（何の変化も及ばない）。
- 数値計算で動く仮想的な神経回路にも意識が宿りうる。絶対とは言えないが、試す価値はある、とした。
4. どう確かめるか：脳と機械をつなぐ「主観テスト」
- AIの意識は、脳とつないで主観体験が生じるかで試すしかない。ただし、カメラを一次視覚野に電極で直結して「うっすら見えた」としても、カメラに意識が宿ったとは言えない。脳と機械をどうつなぐかが問題になる。
- 左視野は右脳、右視野は左脳が担当し、左右の半球の連絡によって一つの視野として見えている。この仕組みを逆手に取り、脳の半球と機械の半球をつないで、両視野にまたがる一つの体験が生じるかを確かめる構想を提案した。
- 機能主義に則って、スパイキングネットワークを十分な精度で再現する研究を進めており、コネクトーム（神経の配線図）が公開されているハエから着手している。脳と機械の接続法としては、シナプスの分子を半導体側に付けて神経とつなぐ新しい技術に注目している。
5. デジタル不老不死と意識のアップロード
- 検証には大きな資金が要るため、「デジタル不老不死」を目標に掲げる。計算機上でも意識が宿りうるなら、脳と機械の接続によって意識のアップロードも可能になる。一方で、巨額の資金を集めるシリコンバレーの企業は「本当に意識があるのか」に答えていない、と指摘した。
- 機械の半球と生体の半球で意識が統合され、記憶も移されていれば、生体側の半球を失っても、片側の脳が重い脳卒中になっても脳幹が無事なら意識も記憶も保って生きているのと同じように、意識も記憶も保ったまま生き続けられるはずだ、と述べた。死後に脳を取り出す方法には意味がほとんどなく、自分自身がきちんと生き残る方法が大事だとした。
6. 質疑応答から
- 会場から「LLMの登場は人間の科学への爆弾であり、それをどう考えるかを語らなければ30年前の議論と同じだ」という問題提起。渡邉さんは、LLMがある意味で意識を持つように見えることは認めつつ、重要なのは主観体験という意味での意識だと応じた。
- 会場から、なぜそこまで死にたくないのかと問われ、渡邉さんは、進化の観点では生き物は本来死を避けるものであり、人間は先を読めるがゆえに死の恐怖にさいなまれ、それを和らげるために宗教などの考え方が生まれた、と答えた。そのうえで、意識のアップロードが実現すれば、何十年か後には倫理の基準も大きく変わるだろう、という見通しを示した。
- 「意識を持つ個人が生まれ、死ねば消える」という前提は素朴すぎないか、という指摘や、「十年前から同じことを言っている」という厳しい批判も出た。渡邉さんは、研究室で日々実験を着実に進めていると述べ、そう思われるのもわかる、アカデミアの限界でもある、と応じた。
- コネクトームをデジタルツインとして動かす研究は世界的に盛り上がっており、研究室の学生もそこに向けて論文を準備している。アカデミアの限界を超えて加速しなければならない、と訴えた。
- 議論は科学のあり方にも及び、AIによって論文執筆や査読のあり方が変わりつつあることが話題に。数学のように形式化された分野では解けた問題が他の分野へ波及していくが、意識研究は孤立して見える、意識の問題も形式化されれば進展が目に見えるのではないか、といった意見が出た。
- 渡邉さんは、最後は実験でしか答えは出ないという立場。ニュートンとアインシュタインの理論の決着も、エディントンの日食観測で光の曲がりを測ったことでついた、と例を挙げた。
- 最後に会場から、圏論で意識を形式化する試みについてのコメントもあった。