◎田口善弘著『知能とは何か』（講談社現代新書）
まず著者の名前から。著者は田口善弘という名前の中央大学理工学部教授なんだけど、最初に名前だけ見たときに「え？」と思ってもた。というのも、同姓同名の哲学者？（マルティン・ブーバーの専門家だったと思う）がいたので、その人が書いたのかと勘違いしたから。「知能」だけなら哲学者が扱ってもおかしくはないテーマだとしても、副題に「ヒトとＡＩのあいだ」とあるので、「ＡＩですかあああ？」と思ってもたわけね。ググってみると、哲学者？の田口氏ははるか昔の二〇〇二年にお星さまになっていた。まあわが氏名も、「高橋洋」などという一山いくらで売っているリンゴのような名前なので同姓同名はかなりいるはずだけど（実際に経理処理で間違えられたことがある）、「田口善弘」はそんなにたくさんいるとは思えないんだが・・・。さてそれは余談として、「はじめに」に「チャットＧＰＴ」や「シンギュラリティ」という言葉が出てくるのを見かけて、買おうか迷った。というのも、半年くらい前に同じ講談社現代新書の『意識の脳科学』という本を買って読み始めたら、「意識をアップロードする」などといったことを、そんなとんでもないことが可能な根拠を示すこともなく無条件の前提として立て、それをもとに議論が展開されているのを読んで、１００頁も読まないうちに「何これ？」と思って捨ててしまった記憶があるから。『意識の脳科学』の著者は、日経新聞で拙訳、リサ・フェルドマン・バレット著『情動はこうしてつくられる』の書評をしてくれたことがあるので、あまり悪くは言いたくはないとはいえ、「これはちょっと！」と思わざるを得なかった（と日記には書いておく）。何しろ１２００円（税別）もしたしね。
※失礼しました。哲学者のほうは「田口義弘」でした。
そもそも私めには、身体を一切無視して意識だけをアップロードできるなどという考えはまったく信じられない。あとで指摘するように、意識だけをアップロードするなどといった考えは、心身二元論を前提としているとしか思えないんだよね。現代の科学者でデカルト流の心身二元論を信じている人がいるとはとても思えないにもかかわらず、なぜ意識だけをアップロードできるなどと考えているのかどうにも理解できないのですね。またこれもあとで詳しく述べるように、意識だけをアップロードできるという考え（以下そのような考えを擁護する人々を意識アップロード主義者と呼ぶ）は、哲学者が言うところの「多重実現可能性（Multiple Realizability）」の概念の誤適用に由来しているというのが私めの見立てになる。『知能とはなにか』をお隣のぷち紀伊國屋さんで立ち読みしていたところ、意識のアップロードにじかに言及してはいなかったが、次のように書かれていたので、『意識の脳科学』のように私めからすればオカルトとしか思えないようなことが書かれていることはないだろうと安心して買ったというわけ。「はたしてＡＩが自我を獲得し、自発的に行動して、人類を排除したり、抹殺したりするようになるだろうか。この命題については、実は、私はヒントンに否定的である。少なくとも、私は、現在の生成ＡＩの延長線上には、人類に匹敵する知能と自我を持つ人工知能が誕生することはないと確信している。その理由は、本書の中で追々説明していくが、知能という言葉で一括りにされているが、生成ＡＩと私たち人類の持つ知能とは似て非なるものでもあるからだ（５～６頁）」。余計なお世話であることは承知しているけど、一文中に接続詞の「が」が二度繰り返されているのは頂けない。他にも一箇所同様な表現があったので、たまたま見落としたわけではないと思う。これを翻訳者がやったら、編集者さまは絶対に修正するでしょ？ やっぱり学者先生さまには甘いなあと思わざるを得ない。まあそれはどうでもいいとして、引用文中にあるヒントンとは、ディープラーニングの研究によって二〇二四年度のノーベル物理学賞を受賞した科学者で、「人間以上のＡＩが誕生する可能性があり、いずれ人類の存在を脅かす（人間を支配しようとする）可能性がある、という考えを常々表明して（４頁）」おり、「将来的にＡＩに意識や感覚が宿る可能性があると考えている（４頁）」らしい。さらに著者は次のように述べる。「そもそも、私たちは「知能とはなにか」ということすら満足に答えることができずにいる。そこで、本書では、曖昧模糊とした「知能」を再定義し、ＡＩと、私たち人類が持つ「脳」という臓器が生み出す「ヒトの知能」との共通点と相違点を整理したうえで、自律的なＡＩが自己フィードバックによる改良を繰り返すことによって、人間を上回る知能が誕生するという「シンギュラリティ」（技術的特異点）に達するという仮説の妥当性を論じていく（６頁）」。もちろんこれは、シンギュラリティ仮説が妥当であると著者が主張しているわけではない。なお実のところ「意識をアップロードすることができる」「近い将来シンギュラリティがやって来る」などといった言説が、なぜ間違っているかに焦点を絞って読んだため、それがよくわかる第０章から第３章までと第９章をおもに取り上げ、それ以外の章についてはそのなかで折に触れて引用することにする。
ということで本論に参りましょう。まずは「第０章 生成ＡＩ狂騒曲」。なぜ第０章なのかはよくわからん。この章では画像生成ＡＩとチャットＧＰＴをめぐる熱狂について書かれている。正直なところ、１５年以上前まではＩＴ業界に勤めていた私めも、完璧な今浦島に成り下がってしまったので、それらのＡＩは使ったこともなければ、それについて知っているわけでもない。ただ著者が「チャットＧＰＴが誕生してからわずか一年あまりで、生成ＡＩは長足の進歩を遂げ、まさに百花繚乱という様相を呈している、このような驚異的な進化を見ていると、ＡＩが自我を獲得するのも時間の問題という気もしてくる（２３頁）」と述べているように、バンドワゴンに乗り遅れたらやばいと思わせる風潮が世の中にあることは確かでしょうね。でも、著者はそれに続けて「しかしながら、実は話はそう単純ではないのだ（２３頁）」と釘を刺している。どう単純でないのかは、次章以後で説明されている。ただその前に「ＧＰＵと生成ＡＩ」と題するコラムがあり、少なくとも私めにとってはその記述がたいへん興味深かったのでここに取り上げておきましょう。実は、今浦島の私めは、ＡＩにＧＰＵが用いられているという話を聞いて「え？」と思ったことがある。なぜならＧＰＵとは「Graphic Processing Unit」の略であり、そもそも画面表示に特化したマイクロプロセッサーだと思い込んでいたので、それがＡＩとどう関係するのかがよくわからなかったから。恥ずべきことに、このコラムを読んで初めてその答えがわかった。ＡＩにＧＰＵが用いられている理由の一つは、浮動小数点数演算ができるからということらしい。次のようにある。「ＧＰＵが生成ＡＩに多用されるのは、¶１ 小数（厳密には実数というべきだ）の演算が速い¶２ 並列計算で加速できる¶の２点があるからである。まさに大量のデータを高速に扱えることがいまの生成ＡＩブームをもたらしているのであり、それなしにこの世界はあり得なかった（２６頁）」。
浮動小数点数演算で思い出した（なおこの段落は、私めの他愛ない過去の思い出について書くつもりなので、面倒であれば次の段落にスキップしても一向に構わない）。１９８０年代のことだけど、私めは産業用溶接ロボットの開発チームに参加していたことがある。溶接ロボットに組み込まれていたのは８０８６という汎用処理プロセッサーと８０８７と呼ばれる浮動小数点数演算に特化した特殊なプロセッサーだった。８０８６と８０８７は並列に作動していた（現在のＧＰＵのように何百、何千の処理ユニットが並行処理をしていたわけではないが）。すると８０８６と８０８７の同期をいかに取るかが問題になる。８０８６と８０８７の同期は、８０８７に演算コマンドを発行したあとで、確かＦＷＡＩＴとかいうニモニックのコマンドを発行して、８０８７の演算が終了するまで８０８６の処理を待たせることで取られていた。しかし浮動小数点数演算に特化したプロセッサーを追加して「並列演算で加速できる」はずなのに、どうしても処理が追い付かなくて、溶接ロボットのアームがガクガク動くという不具合を解消できないでいた。そのため「何とかせい！」ということで私めにお鉢が回って来た。そこで（アセンブラで書かれている）プログラムを確認したところ、あらゆる浮動小数点数演算処理コマンドのあとでＦＷＡＩＴコマンドが発行されていることにすぐに気づいた。これは実は無駄なのですね。なぜかというと、せっかく８０８６と８０８７の並列処理になっている箇所でいちいちＦＷＡＩＴコマンドを発行していたら、８０８６と８０８７を通しての直列処理と実質的に変わらないものになってしまうから。要するにせっかく「並列演算で加速できる」ようハードウェアが構成されていたのに、ソフトウェア（実際にはＲＯＭに焼き付けるファームウェアだったが）上でわざわざその利点を無効にしていたというわけ。だから、浮動小数点数演算処理コマンドの発行箇所すべてに関して、当該の演算処理の結果が必要になる箇所を特定して、それまではＦＷＡＩＴコマンドを発行しないよう修正したというわけ。ちなみに８０８７の処理結果は、浮動小数点数演算コマンドの出力エリアとしてパラメーターに指定するレジスターに戻されるので、それ以外のレジスターを用いれば、８０８７が当該の計算をしているあいだに、同時に、すなわち並行処理として８０８６のコマンドも実行できる。そのように変更すると溶接アームのガクガクはなくなった。単純と言えば単純とはいえ、たぶん他のメンバーたちは、私めがどうやってこの不具合を解消したのか知らなかっただろうと思う。
余計な思い出話に浸ってしまったので、新書本に戻りましょう。お次は「第１章 過去の知能研究」。この章では、人工知能の研究の歴史が説明されている。次のような指摘がある。「人工知能の研究は、単に人工的に知能を作り出そうという工学的な目的に留まらず、人工知能の作成を通じて、知能がいかにして出現するかを解明することも大きな目標だった（３７頁）」。するとそもそも知能の出現をどうやって判断すればいいのかが問題になる。もっとも人口に膾炙している手段はチューリングテストだろうが、中国人の部屋とか何とかいう思考実験があるように、チューリングテストのような尺度で知能の出現を判断できるのかどうかはきわめて怪しい。私めも昔からチューリングテストなど単に間に合わせのテストにしかならないのではと思っていた。著者はそのようなチューリングテストに関して次のように述べている。「チューリングテストは人工知能の開発過程で実際に人工知能が完成したかどうかの試験として数学者のチューリングが提案したもので、平たく言えば「人間と会話させて、人間が人間と区別できなければ人工知能が完成したとみなす」というものだ（３９～４０頁）」。しかしどう考えても、それでは人工知能の定義それ自体が、「チューリングテストに合格すること」になってしまう。そう考えると、と～しろ～の私めには、どこかに胡麻化しがあるように思えて仕方がない。著者は続けて次のように述べている。「しかし、チューリングテストには（当初から指摘されていた）重大な瑕疵がある。確かに知能が実現すればチューリングテストをパスできるだろうが、チューリングテストをパスできたからといって知能を実現しているとは限らないからだ。¶実際、チューリングテストの裏には「知能を使って発揮されている機能は知能なしには実現できない（はず）」という暗黙の仮定が含まれている。もし、知能がないと実現できないと思われている機能が知能なしにできるとしたら、チューリングテストはたちまち破綻する（４０頁）」。ということは、チューリングテストによって「人間が人間と区別できなければ人工知能が完成した」とは見なせないことになり、明かに先の引用文とこの引用文は矛盾している。もちろんこれは著者の問題なのではなく、チューリングテストによって人工知能が完成したと見なすこと自体が矛盾を引き起こしていると言いたいのですね。
私めの見立てでは、著者のこの指摘はチューリングテストが述語論理（アブダクション）による誤謬推理に他ならないと主張しているように思われる。アブダクションについては『論理的思考とは何か』でやや詳しく説明したので［ページ内検索キーワード：アブダクション］、ここではチューリングテストに即してのみ説明する。著者の主張を参考にすると、チューリングテストという概念は、次のような一種のアブダクションに還元することと見なせる。「①知能を持つ存在はチューリングテストに合格する」→「②生成ＡＩはチューリングテストに合格する」→「③ゆえに生成ＡＩには知能がある」。よく考えてみればわかるように、またあるいは著者が指摘しているように、知能がない存在でもチューリングテストに合格する可能性はある。そのような例が一つでも見つかればこの述語論理は破綻する。要するに①と②から、主語論理？である三段論法のように必然的に③が導き出されるわけではない。こういうごまかしのレトリックは、世の中にいくらでも存在しているので、それを見極めることは現代のように情報リテラシーが求められる時代においては非常に重要なものになる。
次に古典的記号処理パラダイムの問題が論じられている。古典的記号処理パラダイムとは、要するに条件文などを含む論理演算によって人工知能を構築しようとする方法を指す。私めがＩＴ業界に入った１９８０年代には、古典的記号処理パラダイムの権化とでも言うべきエキスパートシステムの開発が日本では真っ盛りだった（ただし私めは関わらなかった）。しかし、１９９０年代以後になるときれいさっぱり忘れられてしまった。その理由の一つは、「高度な知性に基づく推論より本能に基づく運動スキルや知覚を身に付けるほうが難し（４７頁）」く、人間には簡単にできる常識的な判断ができなかったからなのですね。私めなら「直観の持つ認知的能力を古典的記号処理パラダイムで実現するのは不可能である」と言うだろうね。ちなみに直観が認知的にも働きうることは、来月刊行予定のジョセフ・ルドゥー著『存在の四次元』を参照してね。『知能とは何か』の著者は「直観」などという用語は使っていないものの、次のように述べている。「だが、人工知能にこの手の常識を持たせることは困難を極めた。すべてを論理演算で賄わないといけない古典的記号処理パラダイムでは「道の真ん中にある黒い円」という漠然とした状況を記述するのが難しかったのだ。円といっても真円ではない。そもそも斜めから見たら網膜に映るのは楕円だし、真っ黒の程度をどこまでにすればいいのか、などなど。いくら条件を積み重ねても、うまく記述できなかったのだ（４７～８頁）」。
次に取り上げられるのは身体性アプローチと呼ばれる技術だけど、マイナーなので「ニューラルネットワーク」までスキップする。ニューラルネットワークとは、「人間の脳の機能素子ともいうべき神経細胞、いわゆるニューロンの構造（…）にヒントを得た計算システム（５２頁）」をいう。著者は「ニューラルネットワークという名前を出してもわからない人も多いのではと思う（５２頁）」と書いているけど、この新書本のようなポピュラーサイエンス書の読者に、その名称すら知らない人がいるとは思えないけどね。ただし著者は、「ニューラルネットワーク」という言葉の語感が一般の読者に引き起こす斬新性の感覚に釘を刺すためか、「ニューラルネットワークは人間の知能を司る脳の仕組みを模した胡乱なシミュレーターだということができる（５４頁）」とも述べている。「胡乱」という言葉は久しぶりに見た。「うどん」、もとい「うろん」と読むべ。次にニューラルネットワークの動作原理がかいつまんで説明されている。まあこれを説明し始めたら一冊の本が書けそうなので、それについてはスキップする。しかし、ニューラルネットワークには「局所解にはまる」という決定的な落とし穴があって、やがてその考えは衰退してしまう。ということで著者は、第１章を次のように結んでいる。「このように前世紀の人工知能研究は、発足当初の古典的記号処理パラダイムの行き詰まりを打開するために提案された身体性アプローチや、脳の構造にヒントを得たニューラルネットワークによる研究が提案されたものの、いずれも革新的な成果をあげることがなく、冬の時代を迎えてしまうことになった（５９頁）」。
次は深層学習を扱う「第２章 深層学習から生成ＡＩへ」に参りましょう。冒頭に次のようにある。「２０世紀のあいだはブレークスルーもなく低迷していた人工知能研究だったが、２１世紀に入って１０年ほど経ったところで、救いの手が思いもかけない方向からやってきた。いわゆる「深層学習」の登場である。深層学習はそれらしい名前がついてはいるものの本質的にニューラルネットワークと同じものである（６４頁）」。深層学習の詳細については、これまたそれを書き始めたら一冊の本が完成するだろうから、そもそも本書にはまったく書かれていない。では、本質的にニューラルネットワークと変わらない深層学習がなぜ救いの手になったのか？ ニューラルネットワークは何が問題だったのか？ その答えは次のようなものらしい。「一番劣っていたのは汎化性能と呼ばれる性能である。汎化性能とは、学習していないデータセットに対してどれくらい性能を発揮できるかという問題である。これがうまくいかないことを「過学習」と呼ぶ。要は、与えられているデータセットからその普遍性を超えて個別性を学習してしまったことを意味する（６５頁）」。これは、第１章で言及されていた「局所解にはまる」という現象と、まったく同じではなかったとしても何らかの関係があるようにも思える。深層学習はこの汎化能力を獲得することができたらしい。では、なぜ獲得できたのか？ その答えが振るっている。「ニューラルネットワークとアーキテクチャが大きく変わらない深層学習が、ニューラルネットワークが苦手とする汎化能力を獲得できたのはなぜなのか。実は現在でもその理由はしっかりとはわかっていない（６８頁）」。まあ深層学習のようなメカニズムは、人間の頭ではよくわからんことをやってのけるようだから、その理由が「しっかりとはわかっていない」のは郁子なるかなといったところなのでしょう。著者は次のようにも述べている。「深層学習は意味もなく複雑なモデルを導入しているにもかかわらず、なぜか複雑なモデルほど（パラメータの数に見合うような膨大な数のデータさえあれば）過学習せず高度な汎化性能を獲得することが知られている。これが一度は見捨てられたニューラルネットワークがリバイバルしたときに驚きをもって迎えられた理由である（７１頁）」。「意味もなく」は余計な一言に思えるけど、まあよしとしましょう。またチャットＧＰＴなどの自然言語処理では、「漠然とした学習を大量に行った（７６頁）」結果得られた大規模なモデルである基盤モデルと、追加の個別課題の学習である転移学習の組み合わせで精度が上がったとのこと。さらに次のようにある。「身体性人工知能は現実からの情報を直接人工知能に取り込もうとしたが、言語の基盤モデルの成功が明らかにしたことは、人工知能に学ばせるべきだったのは現実の情報そのものではなく、人間の脳というフィルターを通して言語化された情報のほうだった、ということである（７９頁）」。だから深層学習では、ネット上に散在している、人間が作った大量のデータをガバガバ読み込みながら学習しているのでしょうね。
次は「第３章 脳の機能としての「知能」」。冒頭に重要なことが書かれているので、それを引用しておきましょう。「本章では「ヒトの知能」を俎上にあげて、そもそも「知能」とはなにかという問題に立ち返ってみたい。ここでは、「ヒトの知能」を「人間の大脳の機能」と定義することを提唱する。これは従来の、知能の定義をそのパフォーマンスの達成度で定義するという考え方とは大きく異なっている。¶知能の定義を「大脳」という臓器と結びつけたのは、脳というハードウェアから切り離した人間の「知能」はそもそも存在せず、パソコンのように、ソフトとハードが分離可能だという仮定がむしろ根拠薄弱だという認識に基づく（８６頁）」。知能の定義を脳に結びつけるのはある意味で当たり前だと言える。ところが、一般に人工知能の分野では、知能と脳は分離して考えられている。そもそもシリコン製のコンピューターで知能を実現しようとしているのだから。知能ならまだしも、意識や心までも脳と分離してどこか別の場所にアップロードできると考えている意識アップロード主義者が、『意識の脳科学』の著者を含め世の中にはたくさんいる。私めはシンギュラリティ論者のレイ・カーツワイルの本は一冊しか読んでいない。というより一冊読めば十分で、「かつての名脇役カール・マルデンのような丸鼻をした彼の本は二度と読まないべさ。なんでこんなオカルト染みた主張をしているのか？」と思った。そもそも意識や心、あるいは知能を脳から分離することが可能だと考えるのは、デカルト的な心身二元論を信じているからだとしか思えない。私めにしてみれば、「現代の科学者がデカルト的な心身二元論をマジで信じているのだろうか？」と訝らざるを得ないのですね。このデカルト流の心身二元論に関しては著者も、「心が身体と独立に存在するいわゆる心身二元論は、知能のソフトウェアが脳というハードウェアから分離可能であるという考え方の嚆矢であると言えよう（８７頁）」など、若干言及している。
しかし意識アップロード主義者は、知能や意識というソフトウェアと脳というハードウェアの分離を主張しているのではなく、哲学で言うところの「多重実現可能性」、あるいはコンピューター科学で言うところの「ポリモルフィズム」（Ｊａｖａのようなオブジェクト指向言語では、抽象クラスやインターフェースなどのメカニズムを通じてポリモルフィズムをプログラム、というかシステム上で実現できることは、ＳＥやプログラマーであればご存知のことでしょう）に関する主張をしているのだと反論するかもしれない。つまり知能という機能は、複数の基質によって、たとえば有機的なニューロンでも無機的なシリコンでも実装が可能だという主張をしているのかもしれない。確かにそれなら、依然として心身二元論的ではあれ、意識や心や知能を無機的な導線を介して、無機的なシリコンで構築されたコンピューターにアップロードできる可能性はゼロとは言えない。しかし、私めもおそらくはこの新書本の著者も、少なくとも人間の意識や心や知能を生物学的な脳以外の基質によって実装することなどできないと考えている。著者がそう考えているであろうことは、「第７章 古典力学はまがい物？」に次のような記述があることからも窺える。「いまの生成ＡＩやＬＬＭ［チャットＧＰＩに代表される大規模言語モデル（Large Langage Model）］をみて「いずれ自我や意識が生まれる」と騒ぐのは非常に危険だ、ということだ。自我や意識というのは人間の世界シミュレーターとしての大脳の機能であると思うべきだし、安易にいまのＬＬＭや生成ＡＩがそれを獲得したと言ってしまったら、我々の大脳という世界シミュレーターそのものと等価なものを作ることに成功したということに成りかねないが、それは大いに軽率な話だということなのである（１６７～８頁）」。この見立ては、一見すると「脳も生成ＡＩも、現実世界のシミュレーターという意味では等価であるとみなすことができる（１３７頁）」という記述と矛盾しているように思える。しかし両者では「等価」が指す対象が異なるのだろうと思う。「大脳という世界シミュレーターそのものと等価なもの」と言うときの「等価」とは「基質を含めた実装と、それによって構築される世界（の表象）が等価」という意味（著者はこの意味においては等価ではあり得ないと主張している）なのに対して、「現実世界のシミュレーターという意味では等価」とは「世界のシミュレーターとしての機能が等価」という意味（普遍的な機能の話なのでこの意味では当然等価になる）だと考えられる。話がややこしくなってきたけど、要するに著者は、「世界シミュレーターという機能の、基質を含めた具体的な実装方法は（大脳と生成ＡＩなど）複数あり得たとしても、世界をシミュレートするという同じ機能を果たすとはいえ、基質を含めた具体的な実装方法が異なれば、たとえば大脳による実装と生成ＡＩによる実装では、それによって構築される世界（の表象）それ自体が変わらざるを得ない」と言いたいのでしょう。つまり、このケースは単純な多重実現可能性やポリモルフィズムの話にはあたらないことになる。世界シミュレーターとは現実の世界をシミュレートする機能を備えたシミュレーターを意味するにすぎず、したがって大脳によって実装される世界シミュレーターが代理表象する世界と、生成ＡＩによって実装される世界シミュレーターが代理表象する世界がまったく同一になることが保証されるわけでは決してない。ちなみに私めの考えでは、意識や心や知能をアップロードすることがいつの日か可能になるなどという議論は、多重実現可能性やポリモルフィズムの概念を誤適用した結果生まれたものでしかない。実のところ、著者もその点を指摘していると見なせるように思う。
ここでポリモルフィズムに関する具体例を用いてその点をよりわかりやすく説明してみましょう。ＩＴ業界に勤務している人や、私めのようにかつて勤務していたことがある人で「ＳＱＬ」が何かを知らない人などいない。ＳＱＬとは、データベースをアクセスするための汎用的な規約であり、それによって実装ではなく機能の詳細が定義され、それにアクセスするための言語記述が決められている。だからＳＱＬを用いればＩＢＭ社のデータベースにもオラクル社のデータベースにも等しくアクセスでき、よって（特定のデータベースにしか通用しないローカルの記述が用いられていない限り）、ＳＱＬを用いてデータベースアクセスを行なうさまざまなプログラムで構成されるシステムをインストールする際、オラクル社のデータベースとＩＢＭ社のデータベースのどちらを使用しても構わないことになる。このような芸当は、機能と実装を完全に分離するポリモルフィズムが実現されているからこそ可能なのですね。しかし、機能面以外では実装方法によって差異が出てくる点を見落としてはならない。たとえばデータベースの例で言えば、ある特定の処理手続きを行なう場合、オラクル社のデータベースのほうがＩＢＭ社のデータベースより処理速度が速いとなどといった具合に。だからデータベースに何を使うべきかの実践的な考慮に関して言えば、とりわけ高度なシステムを構築する際には、機能面だけでなく実装面の特徴の検討も重要になる。下手をすると処理速度が遅い、スケーラビリティーがないなどのさまざまな問題があとで噴出する可能性があるからね。さて意識や心や知能は、実は機能であるとともに、実装様式に基づく｛副産物／バイプロダクト｝、あるいは実装様式の｛随伴現象／エピフェノメノン｝であるとも考えられる。世界シミュレーターという機能の面だけから見れば、それが大脳で実装されようが生成ＡＩで実装されようが何ら変わりはない。これは、機能面に限って言うと、ＳＱＬを用いればその実装としてオラクル社のデータベースを選ぼうがＩＢＭ社のデータベースを選ぼうが何ら変わりはないのと同じことだと言える。意識アップロード主義者は、せいぜいここまでしか考慮していないのではないかというのが新書本の著者や私めの見立てなのですね。
ところが意識のアップロードとなるとそれだけでは済まない。なぜなら、実装様式によって意識や心や知能それ自体が変化してしまうから。つまり仮に生成ＡＩに意識があったとしてそれをアップロードしたとしても、それは意識アップロード主義者が人間の意識に見立てた生成ＡＩの意識をアップロードしたことにしかならない。ところが生成ＡＩの意識が、機能的のみならず質的に（たとえばクオリアの側面で）も人間の意識と同一であるなどとは、そもそも未来永劫わかりようがない。要するにそれによって私めが言いたいのは、「意識アップロード主義者の主張は、何をアップロードしているのかを実証することすらできない単なるたわごとにすぎない」ということ。実装に起因する問題は実践を通じてしか露見しないことも多い。たとえばオラクル社ではなくＩＢＭ社のデータベースを使っていたが、システムが巨大化したときにスケーラビリティーの問題が露見してしまったなどといったことにも似ている（ＩＢＭ社に怒られそうなので、これはもちろんたとえであり、ＩＢＭ社のデータベースがほんとうにスケーラビリティーを欠いているなどということはないとつけ加えておきませふ）。だから人間の意識のアップロードなどという芸当が実際に可能だったとしても、きっとアップロードされた「俺の意識」の問題は、実際にアップロードしてからでないとわからないでしょうね。意識を情報として心身二元論的に捉えてしまうと、以上のような問題が見えなくなってしまうのですね。それとも意識アップロード主義者は、機能さえ同一であれば生成ＡＩの意識を人間の意識と同一視してもよいと考えているのだろうか？ そんな証拠はどこにもないよ。たとえば磁気をその基体となる物質（磁石）とは切り離して、まったくその性質を変えずに別の媒体に保存できるのだろうか？ この問いは、「意識をその基体となる物質（脳や残りの身体）とは切り離して、まったくその性質を変えずに保存できるのだろうか？」という問いとほぼ同じだと言える。ここでは「まったくその性質を変えずに」という条件が大きな意味を持つ。たとえば磁気の例で言えば、たとえばフレミング何ちゃらの法則とやらで、磁石という媒体から発せられた磁気を電気に変換して別種の媒体である蓄電池に移し代えることはできるよね。その場合、磁気と電気ではまったく性質が異なることは言うまでもない。よって「まったくその性質を変えずに」という条件に抵触することになる。同様に、意識を脳や残りの身体という有機物質からシリコンという無機的媒体に移し代えた場合、その意識の質がまったく同一でいられるとはとても思えないのですね。意識アップロード主義者のはかない夢は、ハマー映画だったかアミカスだったか忘れたけど、『魔界からの招待状』（これの下のほうを参照）第４話の「猿の足（Monkey's Paw）」をモチーフとしたホラーストーリーにあるような悪夢と必ずや化すだろうと私めは思っている。あ～～こわ！
ここで新書本の著者や私め以外の人々の見解を紹介しておきましょう。人間の意識や心や知能を生物学的な脳以外の基質によって実装することなどできないという見解を表明している代表者の一人はアントニオ・ダマシオで、彼は『進化の意外な順序』のなかで、いずれは人間の心をコンピューターにアップロードできるようになるというトランスヒューマニストの主張を批判して次のように述べている。「この考えは、〈生命とは何か〉に関する理解の限界と、いかなる条件のもとで生身の人間が心的経験を構築しているのかをめぐる理解の欠如を露呈している。（……）本書の主たる考えの一つは〈心は脳だけではなく、脳と身体の相互作用から生じる〉というものだ。トランスヒューマニストは、身体までアップロードしようとしているのだろうか？（同書二四七～八頁）」。また『進化の意外な順序』の訳者あとがきにも書いたけど再度引用しておくと、計算論的神経科学の開拓者の一人であるテレンス・Ｊ・セイノフスキーは、The Deep Learning Revolution（The MIT Press, 2018）で次のように述べている。「私たちの脳は、ただじっと頭部に座して抽象的な思考を生み出しているのではない。脳は身体のあらゆる部位と密接に結合しており、また、その身体は感覚器官や運動器官を介して外界と密接に結びついている。つまり生物的知性は身体化（embodied）されているのだ。さらに重要なことに、私たちの脳は、外界と相互作用しながら長い成熟のプロセスを経て発達する。学習とは、発達に即したプロセスであり、成人になっても長く続けられる。したがって学習は、一般的な知性の発達に中心的な役割を果たす。（……）またＡＩでは無視されることの多い情動や共感も、知性の重要な側面をなす。情動とは、脳の局所的な状態によっては決定し得ない活動を行なえるよう脳に準備を促すグルーバルな信号なのである」。
次に物理学者としての新書本の著者の見解を紹介しましょう。次のようにある。「脳自体の機能については物理学者による研究もかなりある。そのうちのいくつかは、脳の機能が脳というハードからは独立には機能しえないということを示唆する。例えば寺前順之介は「脳と知能の物理学」と題する講義ノートの中で「脳内の神経細胞やシナプスが多大なコストを支払ってまでランダムな活動を維持し続けるのは、決して無駄でもなければ不可避でもない。本稿の結果は、このランダムな活動こそが我々の学習の実体であり、脳の情報処理の実体であることを強く示唆している」と主張している。¶もし、この主張が正しいのであれば、脳というハードとは独立に古典的記号処理パラダイムに則って、論理演算だけで知能を実現することはそもそも不可能であることになる。また津田一郎は非線形物理学の立場から、脳内のカオスが脳の知能の実現にとって本質的だという立場を述べている。¶ここでカオスとは、微小な誤差が拡大して短時間に決定論的な運動を破壊してしまうもののことをいう。したがって、脳内のカオスを外部に取り出して同じ挙動をさせることは原理的に不可能である。脳内のカオスは、あるとすれば、脳内のシステムが作り出す独自のものであり、脳から独立にカオスを取り出して再現することはできないからだ。このような立場も、知能を脳というハードから独立に分離、存在しうるという立場に拮抗する（９０～１頁）」。そう言えば１０年くらい前に、早稲田大学だったかどこかの大学で津田一郎氏の講演を聴いたことがある。いずれにせよ彼らは、意識や心や知能においては、抽象的な機能ではなく具体的な基質こそが肝要なのであって、したがって多重実現可能性やポリモルフィズムの問題にすらならないと主張しているのですね。もちろんそれは、私めが取る立場でもある。
最後に新書本の著者はチャットＧＰＴについて次のように述べている。「我々が話している相手に心があると思うのも脳が世界をシミュレートしているからに他ならない。我々は話している相手の心を覗き込むことなどできないが、それでも心があると「感じる」ことができる。それは脳が、相手の発する声や表情をそのように解釈するように進化したからだ。人間との会話に特化し、転移学習を施されたチャットＧＰＴが、まるで人間のように感じられたのも、実際にチャットＧＰＴが脳のシミュレーションに成功していたから、というより、その情報を受け取った人間の脳のほうが（勝手に）チャットＧＰＴの裏には心があると「誤ったシミュレーション」を実行しまったのに他ならない（９６頁）」。まあ実際はそんなところなのでしょう。要は、「アイ・オブ・ザ・ビホルダー」だってことね。ゲームと勘違いされそうだけど、ゲームは３５歳で一切やめたのでゲームとは関係ありましぇん。
ということでこれでようやく第３章が終わったところだけど、冒頭で述べた理由によって、ここからあとの章は基本的に取り上げない。ただし「第９章 非線形非平衡田自由度系と生成ＡＩ」にシンギュラリティに対する著者の考えが書かれているのでそこだけ引用しておく。なお章題を含め「非線形非平衡多自由度系」という言葉が頻出するけど、その意味はここでは重要でないので説明しない（「複雑系」と言い換えてもよさそうに思える）。本を持っている人は「第５章 世界のシミュレーターとしての生成ＡＩ」を読んでね。冒頭の「シンギュラリティは起こるのか」という節に次のようにある。「生成ＡＩは非線形非平衡多自由度系に起源を持つ世界シミュレーターとみなすことができる、というのが本書で私が主張したいことであった。現在の生成ＡＩが非線形非平衡多自由度系の末裔であるとしても、２０世紀末に死ぬほど研究された非線形非平衡多自由度系の知見が十分に生かされているとは言えないのが現状である。（…）非線形非平衡多自由度系を昔研究していた人間の立場からして非常に気になるのは深層学習、あるいは、生成ＡＩにおいて、このまま大規模化が進めばどこかの時点で相転移が起きてシンギュラリティが達成されるのでは、という意見である。この本ではシンギュラリティという言葉を意図的に避けてきたが、シンギュラリティとは機械学習が人間の知能を超える、あるいは、少なくとも同等の能力を獲得することを言う。¶これまで見てきたように、筆者は、生成ＡＩは人間の知能とは別系列の全く異なった世界シミュレーターであるという立場なので、発展することで人間の知能と同じものになることはないと考える（１８２～３頁）」。「生成ＡＩは人間の知能とは別系列の全く異なった世界シミュレーター」というくだりは、ここまでのここでの議論に基づくと「生成ＡＩは、人間の知能とはまったく異なる実装様式に基づいて構築された世界シミュレーター」だと言い換えられる。
また次のようにある。「この本で議論してきたように知能にはいろんなパターンがあり、個々の知能は異なった現実のシミュレーターに過ぎない。だから、人間の知能という数多ある現実シミュレーターの一つに過ぎない知能が、たまたま自律や自我を備えていたとしても、他の知能（例えば生成ＡＩ）も自我や自律を備えているとは限らない、と思う。だからこそ、私はヒントンが主張するように、生成ＡＩが発展した結果でき上がるだろう高度な知能が自動的に自我や自律を獲得して人類を危機に陥れるだろう、という懸念には共感できないのだ（１８７頁）」。「人間の知能という数多ある現実シミュレーターの一つに過ぎない知能が、たまたま自律や自我を備えていたとしても」というくだりに着目されたい。これはまさに、自律や自我が大脳による実装という特定の実装様式によって生じた随伴現象に他ならないことを意味する。要するに著者のこの主張は、「自我や自律にしろ、意識にしろ、心にしろ、知能にしろ、それらは世界シミュレーターの実装様式の随伴現象として生じた可能性がきわめて高いのであって、決して世界シミュレーターの機能要件などではない」と言い換えられるのでしょう。この私めの解釈が正しければ、私めもその通りだと思うべさ。全体的には興味深い内容が展開されていると言える。ただ具体例はあげないけど、肝心の箇所でやや歯切れの悪い部分があり、「もう少し確信を持って主張してもいいのでは？」と思うところもかなりあった。ただまあ、「意識のアップロード」とか「シンギュラリティー」とかを（「シンギュラリティー」の要件の一つに「意識のアップロード」も含まれるのか否かは私めにはよくわからん）マジで信じ込んでいる人は、私めがそれらの言葉を耳にすると発狂するのと同じように、この新書本を読むと発狂すること必定なので読まないほうが精神健康のためになるかもね。
※２０２５年２月４日