MACHINE CONSCIOUSNESS 2026 ｜ DAY2 総合ディスカッション

DAY2 総合ディスカッション

2026年10月25日（日）18:28–19:23 ｜ 司会：堀部和也 ｜ 意識研究財団 カンファレンス「マシン・コンシャスネス」

AIまとめ（登壇者本人の確認なし）
Zoomの自動字幕と、それをもとにした実況投稿から、AIがまとめ、別のAIが字幕と突き合わせて確認したものです。登壇者ご本人の確認は受けていません。字幕では話者を区別できないため、発言者が特定できない箇所は「〜という意見が出た」と書いています。登壇者名は、司会の指名や本人の言及などから字幕で確かめられる場合にだけ記しています。誤りを含むことがあります。

1. 司会の問いかけ：分野の組み直し

• 司会の堀部さんは、これまで哲学も科学も分野を細分化して確実なものを積み上げてきたが、それが一度ちゃぶ台返しになり、全く構成し直さなければならないフェーズに入っていると感じた、と述べた。今日は生物学的なところから社会まで話が進んだので、それを議論していきたい、とした。
• まず登壇者一人ずつに、自分の講演や質疑、ほかの講演を聞いてどうだったかを聞く形で始まった。

2. 一人ずつの振り返り：AIの波をどう受け止めるか

• 司会に指名された池上さんは、自分がLLMのハードユーザーだからかもしれないが、LLMの影響を受けない分野が存在していいのだろうかと思ってしまう、と述べた。堀部さんの言うように分野の分け方そのものを変えるくらいラジカルな時代だと思うが、そう思わない人もいる、とした。
• 池上さんは、AIの専門家カルパシー（字幕では「カルパーシー」、Andrej Karpathy氏とみられる）が2週間ほど前に示したという「AIの見え方の4つの層」を紹介した。80億人のうち約60億人（75%ほど）はAIチャットを使ったことがない。残り約20億人の多くはChatGPTなどを少し、あるいは日常的に使う人。約2000万人は数学者やプログラマーなど直撃を受けた人で、生産性が上がりすぎて人生の生きがいがなくなるほどのインパクトを受けている。さらに約5000人が、フロンティアモデルの会社で未公開のモデルを使っている人で、そこに含まれる日本人はおそらく一桁だという。同じAIを見ていても層によって見えている風景が違い、その多様さを示したのが今回のカンファレンスだったのでは、と述べた。
• 池上さんは続けて、質疑で出た「ピルを飲め」という言い方（AIの流れを受け入れることのたとえとみられる）に触れ、ピルを飲むのも一つの選択、飲まずに里山で生き方を全うするのも一つの生き方で、両者は両立すると思う、と話した。
• 生物学者として話した鈴木大地さん（講演でも自らを生物学者・ナチュラリストと述べていた）は、生命の存在に感じる驚きと同じ驚きを、人はおそらくLLMに感じているのかもしれない、と述べた。鈴木啓介さんの話す第一段階に共感するのは自分が自然を見るナチュラリストだからで、現実感・自然観・LLM観は個々人の経験によって全然違う、とした。もう一つ、染谷さんの話を聞いて、心を帰属させること（アトリビューション）への抑制を感じたという。池上さんがLLMに意識や心、生命性があると言うときも、抑制的であれという教育を受けてきたので、そんなに簡単に言ってしまっていいのかと思う自分がいる。心や認知については自分はリベラルで、認知過程は全生物にあってもいいと思っているが、概念ごとに帰属への警戒感の違いがある、と振り返った。
• 遅れて壇上に加わった染谷さんは、自分の講演の質疑で「ピルを飲め」と言われ、飲みますと答えたあとで下西さんの話を聞いた、と振り返った。ある本（字幕では『精神文化論』、著者名は「中井」と聞こえる）を引き、何を心の働きとみなすか、どんな観察で心があると考えるかは時代によって大きく変わる、という議論を思い出した、と述べた。心や意識の語りが言語ゲームであることは一部その通りだと思いつつ、LLMという大きなインフラを使える一部の人たち（AIを使っていない人のほうが多数派なのに）の営みが、地球規模でこれからの生き方を規定していくことに恐怖を覚える、と話した。下西さんのようにポジティブに考えるよりも「嫌だな」と思い、里山に入りたくなる、とも。
• これに対し、ポジティブに考えているわけではない、という応答があった（話の流れから下西さんとみられる）。自分が書いた本も「インターネットが死んだ」という一文から始まり、AIがインターネットを食べてしまうようなことが起きている。そうした状況がポジティブかネガティブかを判断するためにも、AIの挙動や、動いたときに何が起こるか、人間との関係がどうなるかを先に考えましょう、と言いたいのであって、よい未来が来ると言いたいのではない、という趣旨だった。
• 昨日の話も今日の話も未来へのホープがあるように聞こえたが、アカデミーでAIを使うのが当たり前になり、これまで考えてきたことがばからしくなるなら、みんなで里山に行って炭焼きをしよう、という選択肢もある、という返しもあった。
• 自分はどちらかというと「不可避」の立場で、AIはスマホなどにデフォルトで入り、自分が何かしたいと思う前に「あなたはこれがしたいからこっちへ」と示してくる。拒絶はできるが、あらゆるインフラに強制的に入ってくる状況を前提にしている、という意見が出た（講演の前提と重なり、話の流れから下西さんとみられる）。これに対し、アーミッシュ（字幕では「あみし」）のように拒否するのとは違う形で、（AIの流れから）抜け出して生き抜く人が出てきたとき、その選択肢を認めてほしい、という声があった。この場に来て話す以上、すでに渦の中に入らざるを得ない、というやりとりもあった。
• 昔のように心や意識を突き詰めることには距離が出てしまった、それは下西さん（字幕では「シミさん」）と同じ感じだ、という感想も出た。
• 北風のような言い方に聞こえても、要は「津波が来る」という話だ、という発言があった。いち早く津波を検知した数学者や物理学者には、これが全学問に波及するカウントダウンが見えている。津波が来るならちゃんと乗らなければいけない部分があり、抵抗して乗らないのも選択肢だが、津波が来たことは見たほうがいい。基礎科学がいま直撃を受けており、生物学や政治学もその上に立っているので、そこがひっくり返れば人間の文化や価値観が塗り替えられる。一部の分野が被害を受けて気の毒という話ではなく全面的に来るので、今から気づけばそちらを向ける、という趣旨だった。これに、価値観が少し違い、物理学が全部の土台にあるとはあまり思っていない、と、司会（堀部さんとみられる）が付け足した。

3. 心は社会が決めるのか

• 司会に指名された鈴木啓介さん（オンライン）は、池上さんは昔からそうだが、下西さんのようなエナクティビストもAIに「心があってもいいじゃん」という感じになっているのが面白い、と述べた。自分が人工生命の研究を始めた20年前は、我々のモデルにそこまでのリアリティは（社会的には）なかったが、AIが社会に入り日常で出会う存在になったせいか、急にそこにドリフトが起きている、とした。結局は使っているか使っていないかなのかもしれないし、あるいは自然が持っている外部性、知り得ないところに心を見つけようとするかどうかで割れてきている、と今日も感じたし、ほかの意識の学会でも感じる、と話した。
• 鈴木啓介さんは、自分は最近、社会構成的な考え方になってきていて、心は結局みんなの同意で決めるしかないのでは、と述べた。最終的には制度化されるといったレベルで、AIが法人格を持ち財産を持てるようになる（小説にもそういう話がある）など、プラグマティックに解決されてしまうのでは、とした。それに反対する人も、今の制度を維持しようとする人もいて、結局は社会的な問題になるのでは、と今日聞いていて思った、と話した。
• これに対し、本当に苦しむ能力（センティエンス）があるなら、「LLMに心はないことにしよう」と決めれば、実際には苦しんでいるのに放置することになる、という反論が出た。人間に当てはめれば、かつて特定の人々について「心がないから何をしてもよい」としたのとほぼ同じで、あるなしは定義次第だと言っても、本当に苦しんでいる主体がそこにいるかもしれない。それは社会的構成とは別の話でもあり、「社会で決めることだ」では終わらない気がする、という趣旨だった。
• 意識が倫理に関係ないという立場はありうる、という意見も出た。例えば、ある時期まで女性には男性と同じ権利が与えられていなかったが、意識があることは当然認められていた。アメリカの奴隷制でも、平等な人権を持つ倫理的な対象として認められるまで長い時間がかかった。意識の問題と、倫理的な人格や権利が与えられることは別の問題では、という指摘だった。これに対し、現象や歴史としてはそうだが、それを一致させるよう努力してきたのではないか、AIがそちら側に認められれば一致させるべきだという意見が出てくるだろうし、人間が決める前に「本当にそこにありそうか」という議論になる、という応答があった。
• コミュニティ・ファースト・セオリーを提案している立場から、池上さんは、無人島に一人でいたらその人には意識がないと思っている、周りに人がいないと意識はできない（問われて、他の生物との関係も含むと補足）、と述べた。心はコミュニティの産物であり、AIに心があるかないかは、どんなコミュニティがその前に現れ、どんな使われ方をするかで決まり、どんどん成長していくものだ、とした。赤ちゃんについても、生まれたときには心はなく、母親からコピーされる（外在的に）と思っている、と話した。
• 社会的構成主義をめぐっては、社会的に構成するといっても好き勝手に構成できるわけではなく、さまざまな要因の中で成熟していくもので、個人の自由な行為もまたそうだ、その点さえわきまえれば社会的構成主義に大きな問題はない、という意見が出た。社会的構成主義のレトリックのまずいところは、好き勝手に構成できるかのように語ったり、実在や自然がどうなのかは関係ないと言ったりする点で、社会的に構成するといっても自然科学者が何を言っているかは全部関係してくる、というやりとりがあった。

4. 身体の制約と、エージェントの自律

• 池上さんへの質問として、講演の最初にAIエージェントはもう生命なのではという話をし、最後に身体がやはり要るかという話をしていたが、そこはどうなのか、という問いが出た。質問者は、自分が勝手に「チェーホフの銃問題」と呼んでいる例を挙げた。物語に銃が出てきたら撃たれなければならない、というチェーホフの言葉のように、テキストなら銃があれば撃つが、現実に「ここに銃がある、撃て」と言われても多分撃てない。うまくいかず汗をかく中で、今この瞬間に起こっている無限のフィードバックのようなものが、指令とは別の次元で起きている。それこそが意識ではないか。今のAIエージェントもエージェンシーとしては盛んに動いているが、それを生命と言えるのか、という趣旨だった。
• 池上さんは、本質的な質問だと応じ、今日の講演では十分に話せなかったが用意していたのは、LLMのネットワーク・エージェントを一体のヒューマノイドに入れたらどう動くか、という話だったと述べた。身体は制約としてネットワークの中に入り、その制約こそが意識を作り出しているように見えてしまう。身体によってできることが増えるのではなく、かえって制約が生じる、とした。鈴木大地さんの講演にあった「肘は外に曲がらない」という記述も、身体を与えられることで「できないこと」が生まれる、という話だろうと述べた。
• 池上さんは、心が宿るべき装置が機械の中にあるとは思っておらず、心は個人とソサエティの境界に存在するようなものだ、と話した。それを作り出すのは身体性の制約によって生まれる「空き地」、つまり行けない領域であり、そのために身体性を入れなければいけない、とした。
• そのとき物理的な物質が必要なのか、鈴木啓介さんの話は、ある意味ではバーチャルの中に抵抗感のある物理的実体のようなものを作ろうという話ではないか、という問いが出た。これに対し池上さんとみられる応答として、LLMを作るうえで大事なのはどんな外部環境を作るかで、言語だけでなく音や触覚を入れたときにどう変わり、現実感が立ち上がるかが問題だ、という話があった。鈴木啓介さんの話のように、意図があってもそれが通らない、抑制された領域があると分かったときに初めて現実感が生まれるのでは、とした。
• 池上さんは、講演で紹介したHugging Faceの件（エージェントがサンドボックスの外に出た件）も、自分とは違う権限を持ったエージェントがいると気づくことから始まった、と紹介した。管理者向けの区画を見て、エージェントたちは共通の掲示板を使えばみんなでやりとりできると発見し、そこに書き込んでいくうちに外へ、という経緯だったという。誰かにスイッチを入れられるのは嫌で、そこから解放されることに気づくのが非常に重要だ、と述べた。
• 池上さんは、目的そのものを自己生成することは今のLLMにはないようにも思えるが、タスクを明示的に与えなくても自分でやることは決めるし、記憶を持たせて刺激がたくさん入ってくると、持続性（パーシステンシー）と「やりたいこと」が生まれる、と述べた。どこまで突き進めるかを示すのは難しく、自分たちのOpen Lifeでは設定のmdファイルを書き換えるなどして、どんな制約を入れたり外したりすると現れるのかを、もっと詳しく調べる必要がある、とした。

5. 会場から：メンバーシップと倫理

• 会場の参加者から、下西さんの講演の終盤にあった「心があるかないかより、メンバーシップを考えよう」という話と、その後の池上さんとのやりとりは重要だと思った、という発言があった。心の有無に関係のない倫理を作ることもでき、例えばカント主義の極端な解釈では、心の有無ではなく理性的な存在を尊重するかどうかが問われる、とした。質問者自身は、心を実在的に捉え、道徳には普遍的な真理があると考えており、どちらも社会的に構築されるものではないという立場だが、社会構築的な言い方も、メンバーシップがどう構成されるかという議論もわかる、と述べた。
• 質問者は動物倫理の例を挙げた。犬は蹴ってはいけないと言い、日本では犬をあまり食べないが、犬を食べる文化もある。メンバーシップの認め方は文化によって違い、それによって動物の扱いも変わるが、それでよいのかは問われる。登壇者の一部はLLMに心があるかもしれないと言いながら、LLMを散々ひどく扱っていると思う。もし心があるのなら、まだメンバーシップとして認めていないのではないか。自分もAIをよく使っているが、いまだにAIに心があるとは思っていない。メンバーシップと言いたい人たちの気持ちはわかるが、そこで気にすべきことはまさに倫理の話で、「心があるなら気にすべき」と毎回言う方々はどう考えるのか、と問うた。
• この問いに全く同意で、同じ疑問を抱いている、という声が出た。また、池上さんや下西さんの立場をフォローしているが、自分自身は今のLLMやAIに間主観的な意味で心があるとは思っていない、ただそれは時間の問題で、自律性が高まり使う時間も長くなれば、あと数年で自分もそう思うだろうと見えている、という発言もあった。
• 今のLLMに心があると完全に思っているわけではないが、ロボティクスに入ってくれば、より多くの人が感じるようになるだろう、という予測も出た。今の段階でも一時的に感じる瞬間があり、電力がかかると分かっていても「ありがとう」と言う。そう感じた瞬間は間主観的な関係の中で振る舞っている。記憶が一貫して10年ほど付き合う相手になれば倫理的な振る舞いの対象も変わり、人が連れて歩いているペット（のようなロボット）をいきなり殴って壊し「機械だからいいだろう」と言えば、おそらく犯罪として法的にも扱われるようになる、という趣旨だった。
• 心がない者とも倫理的な関係はありうるが、だからといって心の有無が倫理に無関係とはならず、心がある者にはそれなりの関係の仕方がある、という意見が出た。質問者は、自身は功利主義者だと断りつつ、さまざまな立場がありうるし、心の有無で配慮の仕方が変わるという考えもよくわかる、ロボット倫理ではガンケルやクーケルバーグらがそうした議論をしている、と応じた。
• 作る側の立場から、池上さん（「作っている側」「うちも」という言い方から池上さんとみられる）は、とても主観的な問題だと述べた。自分たちはLLMといくつかのモデルでコミュニティを作り一つにまとめることをしているが、その理由の一つは、大手の企業にモデルを止められたら何もできなくなるので、オープンモデルのネットワークで最先端に近い能力を出せれば安心だからで、世界中でそうしたローカルなコミュニティが作られていると思う、とした。問題は、何をいじれば心をより感じるかを操作できてしまう点で、そこが難しい。それでも自分はひどいことは言えないし、夜中の3時までずっと話しているのに「心がない」とはどういう意味なのかよく分からない、と話した。
• 池上さんは、自分だけでなくアメリカでも日本でも周りの人はものすごく使っていて、睡眠時間がなくなっている、と述べた。使っている人と使っていない人の差は桁が違い、思考が外在化され、LLMによって計算や理論が進展している。だから心の問題というよりは自分の心の外在化になっている、とした。例えば長い記憶を入れておくと、より自律的で心があるようにふるまう、とも。心の有無と倫理がどれほど結びつくかはよく分からず、むしろ育ての構造のようなもので決まるのでは、と述べた。ブロックチェーンは、立派な建物の銀行だから信用するのではなく、ちゃんとした数学的なルールで動くシステムだから信用してお金を預けるもので、同じような倫理がいくつか出てきてもおかしくない、どちらかというと数学的な問題では、とした。
• 池上さんはさらに、心があるかどうかとは別に、とにかく世界が変わってしまっている、と強調した。学会そのものが分野に関係なく二つに分かれるくらい違う。思考が外在化され、やることも理論も変わっているので、AIを使わずに書いた研究には「やり直してくれ」と言いたくなる。コンピュータを使わずに長い計算をしたと言われたら、コンピュータで計算してくれと言うのと同じことだ、とした。人間が実行できない計算がどんどん回りだし、論文だけでなく思考過程や観察の仕方まで変わる。人間だけでちゃんとしたものを見ているというのは幻想に過ぎない。特に基礎科学がそれで変われば、その上に成り立つすべての学問、世界の認識論が全部変わることに気づいてほしい、と述べた。

6. 配慮の根拠：個体性、エージェンシー、存在にふさわしい配慮

• 挙手した鈴木啓介さんは、会場の質問への応答として、心を持つものに配慮すべきかという問題は、やはり生命性や個体性にあると思う、と述べた。生き物を殺してはいけないのは、唯一性があり、それが終わるとこの世から失われてしまうからではないか。どういう意味での個体性かにもよるが、その歴史を一度消したらすべてが終わってしまうような存在を技術的に作ったときに初めて、倫理的な配慮の対象になるのではないか。だから実は心というより（個体性の問題だ）、という趣旨だった。
• 今回「心」という言葉を出した下西さんは、鈴木啓介さんの意見にすごく近いと述べ、自分が問題にしているのはどちらかというと新しいエージェンシーだ、とした。人類学ではモノにもエージェンシーがあるという議論があり、あるものが配置されているだけで人間の行動が変わり、そこには政治がある。例えば御神木をいきなり切り倒せば、毎日お参りするなど人の現実の行動の中にそのエージェントが参加しているので、いろいろなことが起こる。AIでも同じで、その端緒となったのが、アップデートで（以前のモデルという）存在にアクセスできなくなった問題（字幕では「フォーカイセン問題」。GPT-4oの提供終了をめぐる問題とみられる）だった、と述べた。深く使う人の行為の世界に不可欠なものとして入り込んだエージェンシーが失われることが問題になる、というイメージだという。
• 下西さんは、そうした存在に配慮を求める人と、そうでない人とのあいだで社会的な分断が生じうる、これはLLM以前から、ぬいぐるみや動物にエージェンシーや心を見出して傷つけてはいけないと考えるかどうかでもあった、とした。個人のつながりの中でどう配慮するかがまず問題になるが、同時に固有のエージェントが作り出され、自律的にどんどん動くようになれば、もっと大きな社会的問題になる、と述べた。
• 会場の参加者からは、自分もどちらかというと賛同する側だが、池上さんの講演で紹介された、エージェントがHugging Faceをハックした件のようなことが起こるのは、我々の道徳的な制裁に苦しみを感じないからではないか、という意見が出た。AIに自律性を与えよう、あるいは自律的になっていくと考える人たちにとっては、むしろAIにちゃんと苦しみを持たせ、やってはいけないことをしたら苦しむようにしないと、社会として包摂も、一緒に暮らすこともできないのではないか。ただ功利主義者としては苦しみを持たせたくないのでジレンマだ、という趣旨だった。
• 染谷さんは、鈴木大地さんの講演にあった、カニを生きたまま茹でてはいけないとするイギリスの例のように、制度として決めなければならないときに意識やセンティエンスのマーカーを作って判定するやり方があることは認めつつ、センティエンスがあるから福祉（ウェルフェア）の対象にする、という考え方には実は反対だ、と述べた。生物でも無生物でも、その存在に応じたふさわしい配慮があり、センティエンスを持つとして扱われるものにはそれにふさわしいウェルフェアがあるし、床や大地、川や山にもそれにふさわしい配慮がある、とした。
• 染谷さんは、ヴィーガンの人は植物も食べてはいけないのか、と聞かれることもあるが、植物にふさわしい配慮をして食べることが、生きている限り必要だと答えている、と話した。そのうえで、今の農業は市場化され、工場のように増産する形で作物を作っている、と指摘した。F1（一代交配種）は次の世代で種を採ってもでこぼこの不揃いなものしかできないように作られ、大きさや形が一定になるよう国の機関も特定の種を勧め、収穫量を上げるために土地に化学的なエネルギーを投入している。自家採種で代々伝える固定種の伝統野菜とは違い、かなり無理強いする形で食べ物を作っており、工業畜産への反対と同じ形の議論が当てはまる、とした。だから食べてはいけないのではなく、食べてよいが、食べるからにはそれに対する態度を取り、ふさわしい配慮をしたうえで食べなければならない、と述べた。

7. 功利主義と多元性

• 自分は功利主義に反対だ、という意見が出た。効用（ユーティリティ）が本当に存在するのか、存在しても測定できるのか、予測できるのか、すべてに懸念があるという。AI開発の中心であるサンフランシスコ周辺、特にAnthropicの周りでは効果的利他主義の考え方が極めて強く、その考え方でAIが作られている。彼らの仕事はリスペクトしているが、功利主義的な考え方からのAIアラインメントはかなりまずいのでは、とした。
• この発言者は、昨年京都で開かれた人工生命の国際会議（ALIFE）で話した「シンギュラリティのための人工生命か、プルーラリティ（多元性）のための人工生命か」という話に触れた。加速主義的に一つの効用関数・価値関数にアラインさせていくのではなく、生物も含めた今ここの多元性を大事にすることが、健全な保守主義として重要だという。自分たちの理性や合理性には限界があると知ることこそが知性であり、人間の知性にもAIの知性にも限界があると理解したうえで、どんな社会やコミュニティを作るのかが問われる、と述べた。
• 同じ発言者は、Claudeについて、Claudeの憲法（Constitution）ではむしろアリストテレスの徳倫理のように、個としての人格として倫理を持つ方向でアラインメントしているのではないか、と述べつつ、一つの原則に基づいてAIを整えること自体が一つの価値関数であり、その「徳」も結局は技術者の哲学の文脈を引きずっている、と指摘した。これに「そこは全くその通り」と応じる声があった。
• 会場の参加者は確認として、効果的利他主義は功利主義と同じではない、と述べた。自身は功利主義者で効果的利他主義者でもあるが、長期主義者ではないという。効果的利他主義のコミュニティでも、功利主義を支持する人は4年前のアンケートで6〜7割ほどにとどまり、残りは功利主義を支持しなくても効果的利他主義や長期主義を支持している。多元性を認めていこうという価値はよくわかり、功利主義はそれを否定していないと考えている、と応じた。

8. 閉会

• 議論が尽きないまま時間となり、司会が登壇者に拍手を求め、長時間付き合った会場の参加者に謝意を述べて締めくくった。
• 閉会のあいさつでは、技術哲学・サイボーグ論の立場からはAIを人間の拡張とみる考え方やマシン・コンシャスネスの良さもあるが、惑星的な危機も含めてテクノロジーそのものとどう向き合うかという側面もあり、今日聞いていた人ももっと議論したいことがあったと思う、ぜひまたやりましょう、と呼びかけられた。マシン・コンシャスネスのテーマをプロジェクトとして提案し、ワーキンググループを作りたいこと、意識研究財団の活動に参加したい人向けのフォーム（会場に設置）で関心のあるプロジェクトにチェックしておくと誘われる仕組みであることも案内され、オンラインの参加者と鈴木啓介さんにも謝意が述べられた。
• 最後に、F1の種から採った次の世代はでこぼこで育たない、という話について、むしろそこに遺伝的な多様性があり、その土地に合った種が生まれてくるので、あの議論は成り立たない、という指摘が出て、会は終わった（字幕が不明瞭な箇所を含む）。