「人工意識は可能だ」 ―マイケル・グラジアノ、前野隆司の脳科学理論を探る(長文注意)

宇宙論、生命の起源、脳科学。この三つは、専門でなくとも(おまえに専門はあるのかという疑義は置いといて)折に触れ進展を確認する必要がある。哲学、と言って大げさなら人生・世界を考える上で、この分野の知見は根幹的な意味をもつ。脳科学は認識論にかかわる。人間とは何なのか、意識とは何か、意識の中で私たちはこうして世界を認識している。そして人の認識は社会科学の方法論にもかかわる。マックス・ウェーバーの『社会科学の方法』に返ってもいいが、近年進歩の著しい脳科学分野から学ぶことは大きい。

以下に、マイケル・グラジアノの「アテンション模式理論」(AST)、前野隆司の「受動意識仮説」を検討する。意識理論を探る。ベンジャミン・リベットの無意識に関する実験、ケヴィン・ケリーの人工知能論についても触れる。(長文注意。)

1、グラジアノの「アテンション模式理論」

「人工意識は可能だ」

直近の2017年11月、オープンアクセスのオンライン学術誌Frontiers in Robotics and AIにマイケル・グラジアノ(プリンストン大学教授)の人工意識に関する論文が載った。脳科学者の彼は、意識に関する「アテンション模式理論」(Attention Schema Theory、AST)を引っさげ、人口意識は可能だという論を展開した。人工知能ではなく人工意識だ。曰く。

「この理論(AST)は人工意識を構築する出発点となろう。今日のテクノロジーがあれば、意識とは何かの豊かな内的モデルを有するマシンをつくることが可能だ。その意識の本性を自分自身、そして交わる人に向け、人の行動を推しはかる属性をもったマシンだ。そのようなマシンは、自身が意識をもつと『信じ』、意識があるように行動するだろう。人間というマシンが信じ行動するのと同じ意味で。」(Michael S. A. Graziano, ”The Attention Schema Theory: A Foundation for Engineering Artificial Consciousness,” Frontiers in Robotics and AI, 14 November 2017,

人間に近い意識をもったロボットは単に機械を高性能化すればつくれるというものではない。人間を深く理解し、意識が生まれる構造を明らかにして初めてそれを体現するマシン回路がつくれる。グラジアノはロボット技術者ではなくて脳科学者だ。彼のたどり着いた意識理論をベースにして、意識をもったロボットの構築を視野に入れた。つまり「この論文の目的は、この分野の論文が心理学や神経科学の学術誌に載ることが多いため、あまり触れていないと思われる工学、人工知能学界の研究者に、意識のAST理論を簡略に解説することだ」という。

アテンションから意識が生まれた

グラジアノの理論は、後に詳しく述べるように、人間の脳のアテンション、つまり何かに注意を集中する機能を重視して、そこから意識が生まれたことを示す。生存に必須な外部刺激を選択して注意を集中し、その模式図(スキーマ)をつくるのが意識だとする。この模式図には感覚刺激の情報だけでなく、自分の身体の状態の情報、これまで蓄積された記憶、これから起こす行動の模式図も含まれている。生物はこうしたアテンションの能力を進化の中で獲得し、磨き上げ、その発展の先に意識を作り出したとする。

最初にグラジアノはコンピュータと人間の脳の最も大きな違いは、脳が意識という「主観的経験」「主観的覚醒」をもつことだとして、これをロボットの中に再現することが技術者にとっても重要だと強調する。

「(意識というソリューション)は、システムがモデル化を行い自身を制御する方法の重要な一部だ。主観的覚醒の部分の理解なしには、コンピュータのリソースを集中させその集中を知的に制御する人間的な能力をもった人工知能を構築することはできない。社会的信頼に足る形で人間とやり取りする人工知能をつくることも不可能になる。」(同上)

その上でグラジアノは、人間が眼前にあるリンゴを認識してそれをつかむという行動に出るまでの脳の活動をかみ砕いて叙述する。人工知能技術者が、意識のあるロボットを開発しやすいよう細かいモジュールに分け、「充分具体的で充分メカニックで技術者がテクノロジー上でこの理論を生かしやすいように」説明した。それが成功しているのかどうかは私にはわからない。しかし、一般の人が彼の意識理論を理解するには、彼のこれまでの著作、諸論文、一般向け解説記事に当たった方がよさそうだ。

彼には3冊の著書がある。The Intelligent Movement Machine (Oxford University Press, 2008), God, Soul, Mind, Brain (Leapfrog Press, 2010), Consciousness and the Social Brain (Oxford University Press, 2013)だ。来年2018年には4冊目の著書The Spaces Between Us: A Story of Neuroscience, Evolution, and Human Nature(Oxford University Press)も出るという。その他の論文、記事はここを参照。かなりがネット上で読める。

アテンション模式理論(AST)とは

2年前のアトランティック誌に出た記事が、アテンション模式理論(AST)を最も明解に語ってくれていると思う。

「ASTは、意識と神経系が直面する最も基本的な問題の一つ、つまり、処理しなければならない大量すぎる情報が常に流れ込んでくる問題、へのソリューションとして生まれた。脳は、いくつかの選択的シグナルを他を犠牲にして深く処理する洗練されたメカニズムを進化させた。そして、ASTによれば、意識はその進化系列の究極の結果だ。この理論が正しければ ―まだ結論は出されていない― 意識は過去5億年以上に渡り徐々に進化し、今では広範な脊椎動物の中に存在している。」(Michael Graziano, “A New Theory Explains How Consciousness Evolved,” The Atlantic Daily, June 6, 2016)

「中心となる脳が進化する以前も、神経系は、競争という単純なコンピュータ的トリックを活用していた。ニューロンが選挙での候補者のように動き、各々が自己主張し他を押しのけようとしている。各瞬間に特定のシグナルだけが他のノイズを押しのけて浮上し、その動物を行動に向かわせる。このプロセスを選択的シグナル増強といい、これなしには神経系はほとんど何事も成し得ない。」(同上)

脳と意識の進化

ここから彼は、脳の進化を跡付けながら意識の構造を分析していく。まず、クラゲに似たヒドラのような生物が原始的な神経系「神経網(nerve net)」をつくりだした。つつけば「一般的な反応」はするが、刺激を選択して方向性のある動きはしない。しかし、原生代先カンブリア紀の末、約7億~6億年前になると、最初の節足動物が表れ、原始的な選択的シグナル増強が行われるようになる。さらに5億2000万年前の「カンブリア爆発」期に脊椎動物が現われ、中枢神経系が形成される。原始的な中枢神経機能は、アテンション機能を担う中脳蓋(tectum、すべての脊椎動物にあり、人間の場合は中脳内)に担われていた。

眼の出現とカンブリア爆発

脇道にそれるが、ここに出てくる「カンブリア爆発」(Cambrian Explosion)について補足する。今から約5億4200年前(古生代カンブリア紀の初め)、地球上の生物相が一挙に多様化する時期があった。この時期に現在に至る動物の門のすべてが出そろったとされる。それ以前(原生代先カンブリア紀)は軟体性の生物が中心で、化石がほとんど見つからなかったこともあり、かつてはカンブリア紀から地質時代区分が始まっていた程だ。このカンブリア爆発で脊椎動物が生まれ、神経系の発展が加速される。脳、意識への進化もここで重要な画期を迎える。意識の進化史をまとめた『意識の遠い起源』(Todd E. Feinberg and Jon M. Mallatt, The Ancient Origins of Consciousness: How the Brain Created Experience, MIT Press, 2016)の翻訳が今年出版された。その題名『意識の進化的起源: カンブリア爆発で心は生まれた』がなかなか大胆だ。カンブリア爆発で心が生まれたと少なくとも題名上は断定している(鈴木大地翻訳、勁草書房、2017年)。

確かにそう言ってもよいくらいの飛躍的進化だった。なぜこの時期に進化の爆発、特に神経系の大きな発達があったのかについては、「眼の誕生」が重要な役割を果たしたとの説が有力だ(Andrew Parker, In The Blink of An Eye: How Vision Sparked The Big Bang of Evolution (Basic Books, 2004)(翻訳:『眼の誕生――カンブリア紀大進化の謎を解く』渡辺政隆訳、思草社、2006年)。カンブリア紀に出現した三葉虫が初めて地球上の生物に「眼」をもたらした。何も見えず漂うばかりの他の生物を、眼で視認して次々に捕食する動物の出現。恐ろしい変化だ。鉄砲の出現か核兵器の導入にも比肩する。これで「進化上の軍拡」が始まった。捕食者は益々強力な目と運動能力をもち、被食者も対抗的な視認能力、運動能力を発達させ、硬い殻で身を覆うようになる。それで爆発的な進化が起こった。神経系も、複雑な処理を必要とする眼に対応するため飛躍的に発展した。(現在、私たちの中の「意識」も、かなりが視覚的情報で構成されているように感じるのはそのためなのかも知れない。)

脳科学に関連して、進化神経学(Evolutionary Neurology、Evolutionary Neuroscience)というような新しい分野が生まれてきているようだ。なかなか興味深い。

中脳蓋がアテンションを行使する

グラジアノの意識進化史に戻ろう。「カンブリア爆発」期に脊椎動物の中に現れた中脳蓋(tectum)は彼の意識理論の中で非常に重要な意味をもつ。これが視覚情報を中心に生物の外界を内部に反映させ、眼を中心としたその生物の身体の状況・位置を把握し、事態に対してどう動くか、体の各部分をどのように制御するかをシミュレートし、動いた後の状況を予測し、アテンションを持続したまま、行動の行方をきちんと見守り事を成し遂げる。この複雑な過程をやり遂げるのが中脳蓋である。魚類や両生類ではこの中脳蓋が脳の最も大きな器官だという。発達した人間の脳の中にもこの器官があり、それにより、例えば近くで突発的な視聴覚刺激が発生した場合、素早くそちらを向き、それなりの行動をとれるのだという。

爬虫類が画期、さらに鳥類、哺乳類、人間の大脳皮質へ

そして3億5000万年~3億年前(古生代石炭紀に相当)、爬虫類の出現とともに、新しい脳器官wulst(ネット上で訳が見つからず)が出現する。鳥類も哺乳類もこれを受け継いでいる。人間の場合はこれが大脳皮質(cerebral cortex)になり、巨大化した。大脳皮質もまた感覚刺激を受け取り適切な行動を起こさせる。魚類、両生類の中脳蓋(tectum)からの発展形態と言えないこともない。しかし、重要な違いがある。中脳蓋は現実の具体的な視聴覚刺激に対応するだけだが、大脳皮質は現実を超えたところにもアテンションを向けることができる。自分の見ていない背後にも注意を集中できる。あるいはこのブログ記事を読みながら頭の中では「今夜はラーメンが食べたい」などの計画にアテンションを向けさせられる。バーチャルで深いところの情報処理ができる。つまり、

「大脳皮質はこのバーチャルな運動を制御する必要があり、そのため他のあらゆる効率的制御装置と同様、内的なモデルを必要とする。眼や頭のような具体的対象物をモデル化する中脳蓋とは違い、大脳皮質はより抽象的なものをモデル化する。AST理論によれば、それはアテンション(注意)のスキーマ(模式)を構築している。明示的でないアテンションがその瞬間ごとに何を行っているが、結果がどうなるのか情報を継続的に更新している。」(グラジアノ、前記 Atlantic Daily

ワニの「意識」

アテンション模式は人間の脳で最も活発に形成されているが、大脳皮質の起源となるWulstをもった爬虫類、鳥類、哺乳類でも見られる。彼が広く実験で確認していたサルなどではかなり複雑な処理をすることがわかっているが、他の動物、例えばワニなどでも原始的なその働きがみられると例を出す。ワニに脳内の動きを言い表す音声機械のようなものを取り付けられれば、原始的な意識のようなものの存在を報告してくれるだろうと言う。ワニが大きな集団を形成したり、子どもを育てたり、人間のペットにまでなれるのはそのためだとしている。

脳が、自分の周りの具体的な現実に反応するだけでない「暗示的なアテンション」の能力を身につけると、生物はこの能力を他者にも向け、他人(他の動物)がどのようなアテンションをしているのか推し量れるようにもなる。つまり社会性がついてくる。人間の場合、これにさらに「言語」が加わり、暗示的アテンションの能力がさらに高まる。

脳、意識の進化上の有利さ

さて、アテンション模式理論で何であれ、脳が何らかの必要があって進化し、意識をもち情報処理をするようになったことは「客観的に」理解できるが、しかし、私たちだれもが四六時中つきあっているこの意識とは何なのだろう。一連の情報処理は実体的にはニューロンの発火と結合なのだろうが、それにしてもあまりに生々しく、なまめかしく、自分という自我をもった意識がこの目の後ろ、頭の中に存在している。むしろこちらが圧倒的な現実で、脳科学者が言うような分析を聞いても「そうかも知れんですね」と言うくらいの実感しかない面があるのではないか。デカルトも「我思う、故に我あり」と言ったくらいだ。脳科学の分野でも、こうした不思議な意識の現実を「クオリア」として探求対象にはしているようだ。

意識は現実の不正確な「戯画」

グラジアノは、この点に関しても、一般向けの記事(ニューヨークタイムズ紙)で、色を例に出して説得的な論を展開している。

例えば私たちは、「白」を、色がないピュアな色彩だと感じてしまう。しかし、これは幻想で、実際は白はあらゆる波長の色(電磁波)が全部まじりあったものだ。究極の混合物、不純物だったわけだ。そもそも色は人間が意識の中でつくる質感で、電磁波に色がついているわけではない。17世紀のヨーロッパの学者たちは、「ピュアな」白をつくるため、どうやって光線から他の色を取り除き抽出するかがんばったそうだ。それで失敗した。

これで、私たちの「意識」は、もしかしたら幻覚かも知れない、という考えが芽生えるだろう。グラジアノは意識を幻想・幻覚だとは言っていない。現実をある程度は反映している。しかし正確ではない。「戯画」だと言っている。

「色の波長は現実の物理的な現象だ。しかし、色は、それに対する脳の概略的で若干誤ったモデルだ。アテンション模式理論では、アテンションが物理的現象で、意識(awareness)がそれに対する脳の概略的で若干誤ったモデルだ。神経科学でアテンションは、特定のシグナルを他を犠牲にして増強するプロセスだ。つまり、アテンションは現実のメカニックな現象でコンピュータチップにプログラム化できるもの。意識は、アテンションの戯画的な再構築で、色に対する脳の内的モデルと同様、物理的に不正確なものだ。」(Michael S. A. Graziano, “Are We Really Conscious?” The New York Times, October 12, 2014)

「脳がアテンションのこの概略的なモデルを必要とする一つの理由は、何かを効率的に制御するためだ。システムは、制御するものについて少なくとも大まかなモデルを必要とする。」(同上)

「意識」はなぜこれほど鮮烈なものなのか

ここでちょっと私の勝手な推論。

意識は、実際はニューロンの発火や結合なのだろうが、それが私たちの中では線香花火のような光の点滅にしか見えないのでなくて、みずみずしい色や、雄大な山の風景や、すがすがしい朝の空気や、それに対して意欲的に向かっていく自己(自我)などとしてドラマチックに(つまり意識として)私たちの中にモデル構築される。このように形で内面化された方が、情報処理と行動を迅速かつ適切に起こしやすかったのだろう。したがってこうした形質をより鮮烈に獲得した生物の方が生き残る確率を高くした。つまり、そういう遺伝子が選択的淘汰で残っていった。こう理解すれば少なくとも、意識が生まれる原因を客観的には理解できる。意識解明の「外堀」を埋められる。

しかし、このドラマチックで鮮明な「クオリア」付きの意識はいったい何なのか。学校で教わった科学の理屈などより、さらに圧倒的な真実・現実だと思わせるくらいのこの「意識」の中身。情報処理は、なぜこんなにも感動的なものでなくてはならなかったのか。おそらく一つの仮説として、この情報処理は人間(生物)の感覚器官、行動する身体につながっているからだと思う。生命体、つまり豊かな感覚をもった行動する生物の身体に直接働きかけ、激しく動かすものでなければならなかった。人の「情動」に直接つながるものでなければならなかった。個室で静かに論理的思索を完成させるのでなく、それを行動に駆る激しい情動と結びつく必要があった。だからこそ意識はこのようなものになり、この情報処理が有利になり、したがって進化的に選択されていった。

鋭いと思われるグラジアノの一般向け記事も、読者には概ね不評だったようだ。その後のニューヨークタイムズ紙の投書欄にいくつか反論が載った。「(この記事は)、意識を説明対象から外すことで『説明』しようとする最近の神経科学のトレンドだ。…意識が幻想だという議論は意識ある存在を決して全面的に満足させることはない。」(October 12, 2014)、「我々は意識をもっている。それを否定する行為さえもそのことを証明している。」(October 13, 2014)などなど。

仮説はどうしても抽象的になる

脳科学の論文をいろいろ読み、抽象的という印象を持った。グラジアノの意識理論も、ある程度腑に落ちた部分を引用しているが、その多くはやはり抽象的で読むのがつらい。動物実験で脳のここに電気刺激を与えるとこうなる、とか、行動において最初の意思が働いてから何ミリ秒後に実際の行動が起こる、など再現性のある実験については、厳密な概念規定と科学的手法が取られ問題は少ない。しかし、議論がその実験結果の解釈、さらに意識とは何かの仮説構築に行くにつれ、抽象に抽象が重ねられる。そもそも、意識(consciousness)、自覚(awareness)、注意(attention)、心(mind)、自我(self, ego)、意思(will)、決定(decision)、知能(intelligence)、感情(emotion、feeling)、記憶(memory)、認知的(cognitive)、感覚的(sensory)、刺激(stimuli)、クオリア(qualia)、主観的経験(subjective experience)など、脳科学で使われる用語の多くがすでにかなり抽象的だ。それらは具体的な実体物を指す言葉ではない。それら抽象語を使ってさらに抽象的な論理が展開される。「意識(consciousness)とはawarenessのstateもしくはqualityだ」「意識はselfやsoulをもち、mindの制御をおこなう」「感覚的刺激を受け取って処理し、memoryを参照し、attentionの下でdecisionを下す」など屋上屋を重ねてしまう。意識という抽象的なものを対象にし、しかもその仕組みについて多くが仮説にとどまらざるを得ない現状から、止むを得ない面もある。定義を明確にする努力も行われているが難しい。

言語が違えば語義がずれる

そもそも、言語によって言葉の意味が微妙に違う。意識はconsciousnessだが、英語ではawarenessも意識の意味で使われることがある。attentionは「注意」と訳すと「気を付ける」程度のニュアンスで違和感がある。重複した意味になるかも知れないが、ニュアンス的には「注意を集中させること」くらいだろう。本稿では日本語に訳さずそのまま「アテンション」とした。また、土谷尚嗣によると、mindは通常「心」「こころ」と訳されるが、実際は「理性」に近い「頭脳」「精神」の意味だという。逆に「心」「こころ」はemotion、feelings の意味が強い。このためデカルトの心身二元論以来のMind–body problemを「心身問題」「心脳問題」と訳して誤解が起こりやすくなっているという(土谷 尚嗣「意識」『脳科学辞典』)。定義を厳密にしていけば、英語の語義に沿ったものになるのだろうが、それで良いのか。非英語世界での主体的な思考を妨げることにならないか。

脳科学と社会科学

脳科学は方法論として、ある意味、社会科学・人文科学に近いようだ。社会科学にとって用語は単なる部品でなく、分析の根幹的なツール。それをどのように用意しどう使っていくかで思想内容、分析の方向が決まってくる。昔、少し斬新な分析をするとマルクス主義的研究者から「厳密に定義された社会科学の用語に基づいていない」と批判されたものだ。そのような「厳密に定義された用語」を使うと、既存の枠組みから抜け出せなくなる。新しい知見をもたらすためにも、敢えて独自の言語体系をつくりながら探求を進める姿勢が社会科学にはむしろ求められる。

2、前野の受動意識仮説

私が最も感銘を受けた意識理論は、依然として前野隆司の『脳はなぜ「心」を作ったのかー「私」の謎を解く受動意識仮説』(筑摩書房、2004年)だ。人の心、意識は最高位の偉い存在ではなく、多様な無意識を受け取って整理するだけの受動的なものとする理論。(非英語的な「心」という言葉を使っていたことに改めて注目する。)

後続の本の中で、前野はこの理論を、次のように提起している。

「実は、人の「意識」は受動的な機能に過ぎず、実は何ごとも自分で決めてはいないのではないか。心の主人のような顔をしている「意識」は、実は「無意識」または「深層意識」の奴隷なのではないか。そんな「意識」は、自分の体験をエピソードとして記憶できることが環境適応のために有利だから、進化的に生じたに過ぎないささやかな存在なのではないか。」(前野隆司『脳の中の「私」はなぜ見つからないのか? ―ロボティクス研究者が見た脳と心の思想史』技術評論社、2007年)。

常識をくつがえす理論だ。人の心、あるいは意識、自由意思は、実体的な存在でないのはもちろん、すべてを決定する最高の位置に居るのでもなくて、実際の情報処理は無意識の中でほとんど行われている。それを後からあたかも自分が行ったかのように錯覚、錯覚して受け入れるのが意識だ。経験をエピソード記憶の中に整理し、後に生かすためそんなことをする。

前野の理論は、前出グラジアノの理論と似ているところもあれば、違っているところもある。意識が、無意識から入ってくる大量の情報から「競争」によって重要な情報のみを取得し、意識の中にその簡略な模式図、イメージを作り出す、というような点はグラジアノと前野の理論は似ている。しかし、グラジアノは、その際に意識の中で最も重要な役割を果たす「注意(アテンション)」を重視し、この積極的な活動を中心に意識全体を解明する。前野はアテンションも含めて意識の活動全体を受動的としている。無意識下の活動で重要な信号が選定されてくるのを、「注意」として意識があたかも積極的に行ったかのように幻覚するとしている。つまり、注意も「『意識』が能動的に発するものではなく、『無意識』下の自律分散的処理のうち、発火頻度の高いものを受動的に選択する機能であると考える」ということだ(前野隆司「ロボットの心の作り方 ―受動意識仮説に基づく基本概念の提案」『日本ロボット学会誌』Vol. 23 No. 1、2005年、p.53. )のである。

自由意思の前に脳が動く

前野がこの理論を提起する上で大きく依拠したのがベンジャミン・リベットの自由意思に関する実験だ(Benjamin Libet, Curtis A. Gleason, Elwood W. Wright And. Dennis K. Pearl, “Time of Conscious Intention to Act in Relation to Onset of Cerebral Activity (Readiness-Potential) – The Unconscious Initiation of A Freely Voluntary Act,” Brain, September 1983;106 (Pt 3):623-42)。リベットらは、1983年の実験で、被験者の脳をモニターしながら、自由な意思でボタンを押してもらう実験をした。手でボタンを押す決断がなされた瞬間から平均約0.15秒後に実際に手が動いていた。身体の動きまでに時間差が出るのは当然だからこれはいい。ところが問題は、「自由な」決断の平均0.3秒前に、脳の中で手を動かすための「準備電位」が発生していたことだ。「自由意思」を発動する前に脳が動き始めていたということだ。無意識が先に動いていたが、脳はそれを事後的に自分の自由意思で行ったと解釈していた。

恐るべき結果である。人間の「自由意思」は無意識に支配されているのか。多くの議論が巻き起こった。「リベットの実験について毎年多くのことが書かれ、自由意思の脳神経科学を研究する一つの学問的産業が生み出された」(Tom Stafford, “Why Do We Intuitively Believe We Have Free Will?” BBC Future, August 2015)。実験方法や解釈で批判も出されたが、数多くの実験で再現性があり、この現象の存在自体は概ね承認されてきたようだ。リベットは2007年に亡くなったが、2003年にオーストリアのクラーゲンフルト大学から「バーチャル・ノーベル賞」を授与されている。

自由意思の「拒否権」

ただ、驚くべき実験結果を載せたこの論文は、あまり衝撃的にはならなかった。無意識が先に動いても、それに「拒否権」を発動する自由意思は依然として残っている、と論文の最後の方でリベットらが言ってしまったからだ。実際その後の彼らの実験で、行為が実行される0.05秒前までに自由意思で停止判断を下せば実行に至らないとの見解も出している。最後に腰が折れた感じがしないでもない。驚くべき結果が出てしまったが、やはり人間の自由意思は完全には否定したくない、というリベットの価値観が反映されたようにもみえる。次のような批判がある。

「リベットは1983年の論文の最後で、我々の関心を、その前の驚くべき発見から意思的拒否の称賛の方に方向転換してしまった。」「リベットは、この自由意思(free will)の死を正直には扱わず、向きを変え、後に「自由な拒否」(free won’t)と神聖化される分野に踏み込んでしまう。彼は、暗黙裏に、自身の最良の発見を見捨ててしまった。これが、以後何十年たっても彼の名声が広がらない一因になっている。」(Conal Boyce, ”Recovering from Libet’s Left Turn into Veto-as-Volition:A Proposal for Dealing Honestly with the Central Mystery of Libet (1983), Open Journal of Philosophy, 2012. Vol.2, No.1, 17-24)

人間の様々な意識活動が、実は身体の側から駆動されているという事実は様々な側面から報告されている。喜怒哀楽感情の主観的体験などはまさにそうで、例えば怒りについて言えば、身体的な「怒り」の情動と、対応する顔面の筋肉変化がまずあって、それが中枢神経系の特定部分にフィードバックされ「怒り」の感情が発現するという(野村理朗「情動」『脳科学辞典』2013年、https://bsd.neuroinf.jp/wiki/情動)。が、感情どころではなく、人間の最も人間的な能力であるべき自由意思も、何やら無意識な身体的側面から駆動されているらしい、ということがリベットらの実験で証明されてしまったわけだ。

無意識の膨大な自律分散的処理

リベットは、自由意思へのこだわりから、その発見の帰結をややぼかしたが、それを、論理的必然の方向に徹底的に進めたのが前野だったかも知れない。前野は、人間の心の中にある「知」「情」「意」「記憶と学習」「意識」が、いずれも無意識を受け止めたもの、その単純化されたモデルだと喝破した。つまり、「意識システムは,無意識システムの膨大な自律分散的処理の一部を,あたかも自分が行っていることであるかのように錯覚しながら、単純化し追体験している受動的なシステムに過ぎない」ということだ(前野隆司『脳はなぜ「心」を作ったのか—「私」の謎を解く受動意識仮説』筑摩書房、2004年)。

エピソード記憶とは

脳科学でいう記憶には、自転車に乗れたり泳げたりなど「体で覚える」ような「非陳述記憶」と、普通日常的に言う「陳述記憶」があるという。そしてこの陳述記憶にも、単純な「意味記憶」と物語的な「エピソード記憶」があるとする。あっちに行けばエサがある、こっちに行けば敵がいるというような記憶が意味記憶で、きのう誰とどこのレストランに行き何を食べておいしかった、などのストーリーを記憶するのがエピソード記憶である。だから普通に我々が言う記憶とはエピソード記憶のことであろう。生まれたばかりの赤ん坊はエピソード記憶ができない。人間に記憶が残る、つまりエピソード記憶ができるようになるのは2~3才の頃からではないか。年老いた痴ほう症の患者でもこの能力が減衰する。多くの動物もエピソード記憶ができないらしく、進化の過程で鳥類、哺乳類の一部が原始的なエピソード記憶の能力を獲得したという。

前野によると、単なる意味記憶も、記憶できないよりは生存上有利だが、エピソード記憶ができればさらに有利になるという。例えば、エサに関しても、きのうあそこでエサは食べつくしたから、きょうはあっちに行こう、エサ場が複数あるが、あっちはすぐ腐るエサだからまずそこに行って食べ、後日別の方に行こう、というような対応ができるようになる、という(前野隆司「意識の起源と進化」『現代思想』34巻2号、2006年2月)。

エピソード記憶ができるようになるということは、因果関係や物事の道理を理解すること、つまり理性の成長と関係するのだろう。しかもそれを「実践的に」認識することと関係する。「私」が何をしたらどうなり、どういう喜怒哀楽を得たか、ということの記憶だ。そこでの因果関係を理解し、合理的な判断が実践的に理解され、次の行動につなげられる。

エピソード記憶をするためには、このように、行動の主体である自分が常に自覚できなければならない。自分が少し前には何をして、今何をして、次にどういう結果が出て、最後に(自分に)どういう影響が出たかを理解する。このエピソード記憶の構造的必要から「意識」という機能が生まれた。前野は「私は、何年も考続けているのだが、エピソード記憶ができるという利点以外に、意識の[環境適応上の]利点は全く思いつかない。今の自分が行っていることに注意を向け、体験するシステムであるところの意識は、 その体験を記憶するところのエピソード記憶の前処理としての利点以外に、なんら利点を持つとは思えない。」と思考過程を述べている(同上)。

私たちは本当に自由意思で動いているか

(以下は筆者の勝手な思考になる)。私たちが自由意思で動いているのは、一見、極めて自明のように思われる。私たちの頭の中に意識というものがあって、そこでいろいろ考え決断して生きている、と。しかし、一歩考えを深めると自明のものが自明でなくなる。

例えば、帰宅途中、駅前ラーメン店を見てふとラーメンが食べたくなり、入ってしまった。これは自由意思で選んだのであろうか。一見そう思えるが、空腹感や、ラーメンの味や舌触りの記憶が立ちのぼり、つまり無意識の身体的な感覚が起こって、いつの間にか決定していたのではないか。意識は、「たまには夕方のラーメンもいいだろう」と考えるかも知れないし、そういう自由意思の判断を自分が行ったと意識するかも知れない。しかし、実際は身体的・感覚的な情動に支配され、つまりリベットが示したように自由意思の前に無意識下の決断が生まれていて、それを意識が事後的に理屈付けをした可能性が高い。

いや、もしかして、家族との暖かい食卓が思い出されて、あるいは妻の叱責に対する恐怖感が立ちのぼってきて、どうするか一瞬迷い、そして家に直行することを選ぶこともあるだろう。そこでその人は自由な決断をしたのだろうか。自由意思の判断であるかのようで、その過程を考え直すと、やはり無意識の判断を反映させただけでないのか。子どもたちの楽しい一時の幸福感、妻の叱責への恐怖感、ラーメンを食べたい食欲など、身体に刻まれた各種情動が「並列処理」され、最も高い数値を示したものが結果として出てきた。それを自分の自由意思で決めたと錯覚した。

人はなぜ起きるか

目覚ましが鳴る。まだとても眠い。しかし今起きなければ会社に遅れる。自分に鞭打って何とか起きて出かける。これはあなたの「自由意思」のなせる業だろうか。

あるいは、日曜日。いつまで寝ていてもいい。春眠暁を覚えず、たーこのことだ、と思いながら最高の気分で寝ている。しかし、人間そういつまでも寝ていられるわけではない。体がうずいてくる。ある時点でがばっと床を離れる。起きてから、あれ、私、何で今起きたのだろうと思う。いつ「起きる決断」をしたのかよくわからず、不思議に思う。そういう時はないか。この時私は「自由意思」の決断をしたのだろうか。

意識できるような「自由意思」の決断をしなければならない時は不幸な時ではないか。体のおもむくまま、気のおもむくまま自然に動き、「決断」を感じないくらいの時の方が幸せなのではないか。「自由」なのではないか。

無理矢理にでも起きる時、私は眠いという体の感覚(脳の感じ方)とともに、遅刻して信頼を失う、首になって路頭に迷うなどの経験から得た不安(脳の中の不安感)、自分の善悪感、もって生まれた潔癖感、あるいは放蕩癖、社会にそなわる慣習的な価値観からの影響など多くの行動志向の中から一つを選択している。実際は無意識のレベルで選ばれている。人は常にその時点で最大の力をもつ衝動、情動に動かされ、意識はそれを後追いで理屈づけ、自由意思で判断したと観想する。そう思うことで自分の取る行動の結果が自分にまっすぐ振り返ってくる。結果に対する満足、後悔、反省などの脳内反応が起こる。それが記憶として次の無意識下の決断に作用する。

「寝たままでいい」「会社に遅れてもいい」、さらに「クビになってもいい」と連結する「自由意思」決断になる場合もあるだろう。それで一時的にせよ、限りない解放感を味わい、幸せになる人もいるかも知れない。この場合は自由意思の決断が幸福感をもたらす。つまり、自由意思というのは、これまで支配的だった情動を何とか変えて別の情動を上位に出させようとする際に働く脳内機能かも知れない。最大パルスなのだが、まだ無意識下の自然な情動になっていない。それをあるべき地位に乗せるための強引な試み。それを脳は意識的な「自由意思」と観想するのかも知れない。それが完全に無意識な行動になれば「自由意思」の出番はない。毎日当たり前に、心の葛藤なく起きて会社に行けるようになれば、それはもはや無意識の行動だ。パブロフの「条件反射」のようなものだ。環境に適合した無意識の「条件反射」ができるようになれば生活は楽だ。生存の可能性も高まる。だから条件反射は重要な進化的獲得形質なのだが、それを行う際の初期段階の無理として「自由意思」が必要だ。

人工意識構築で仮説を証明

前野は、脳のニューラルネットワークから意識が「どのようにして生成できるのか、詳細は現状ではわからない」と脳科学者・ロボット工学者として正直に吐露している。意識は身体と別なのでこれは絶対解明できない、と主張する人もいるが、前野は、脳科学がやがて解明するとの方向を示唆している(同上)。

例えば、感覚器官や身体行動から送られたこうした刺激が脳内のここのニューロンにこうした電気信号を生成させ、それが再び身体各部に出て言って生存に向けた行動を起こすためこれこれの電気パルスでこれこれの模式図を生成させて、などなどのことが具体的に明らかにされれば非常におもしろい。しかし、その前現段階としては、脳科学には哲学が混じり、概念に概念を重ねた抽象的理論、つまり仮説にならざるを得ない側面がある。

しかし、脳科学の場合、この仮説の強力な検証手段が一つある。意識を人工的につくってしまえばいいのだ。外から見て機能的に意識があるように見える人工知能・ロボット、つまり「哲学的ゾンビ」、は比較的簡単につくれるだろう。そこからさらにクオリアをもったより人間の意識に近い何ものかを備えた「人工意識」をつくれてしまえば、その抽象的仮説がある程度証明できる。仮説の実践的・実験的証明の手立てとして人工意識の構築がある。だから前出グラジアノもその構築の手法を提供しようとするし、前野もロボット工学者として、理論を工学的モデルに置き換える努力をしている。

(ただ、前野は、前記『脳はなぜ「心」を作ったのか』で頂点を極めた状態になり、その後の生き方でいろいろ考えるところがあって新しい方向に踏み出したようだ。その辺の事情は、「ロボット工学・認知科学・幸福学と倫理」(『技術倫理研究』第11巻、2014年11月7日)に詳しく、なかなか興味深い。冗談に聞こえると申し訳ないが、「悟り」以後の人生をどう生きるかという課題があることを学んだ。)

3、人工知能から人工意識へ

ロボット

生身の人間や動物に近いロボットの開発がどんどん進んでいる。例えば、次のようなビデオを見てほしい。

https://www.youtube.com/watch?v=dHVvlRlNH38

https://www.youtube.com/watch?v=GfBy1chP3po

ほう、ロボットの開発もここまで来たか、と感心して見た。日本のロボットは意図的かどうか、かわいらしいものを中心に作っているようだ。ロボットが恐ろしく見られては開発に横やりが入るなどを危惧しているのか、などと勘繰る。欧米のロボットは迫力がある。動物ロボット、人間ロボットにしてもがっしりして動きも早く、怖い。

人間のトップ棋士を破ったDeepMindのAlphaGoなどもこんなロボットに打たせていれば人間界に与える衝撃はさらに大きかったのではないか。AlphaGoは背後で計算するだけで、実際に対戦者の前で碁石を置くのは人間だった。将棋のAIでは「ロボットアーム」型の代指し機械が使われたが、あまりロボットという感じはしない。必ずしも人に似せてなくてもよいが、鉄の骨組み丸出しのロボットが導入されると面白い。人間のような動作をし、手でパチンと盤上に碁を置き、考えるようなしぐさをし、時々してやったりと相手の顔をのぞきこみ、勝利すれば、決して漫画チックには喜ばないが、不敵に薄笑いを浮かべる。そうすると、相手の人間棋士は一種の恐怖感、圧迫感にかられたろうし、人類の敗北はさらに衝撃的なニュースとしてロボット写真入りで世界を駆け巡ったろう。問題の重要性に気付いてもらうには荒療法が必要だ。

しかし、ロボット映像をいろいろ見ていて、たくましいガタイの鉄骨ロボットがバク転までするのを見て、おい待てよ、これは本当に本物か、と不安になってきた。加工された映像を見ているのではないか。画像加工だけでなく映像加工も今では簡単にできる。SF映画を見てわかるようにCG技術は相当進歩した。人間の顔はやや不自然だが、ロボットのCGなら違和感はない。このロボットの映像もCGかも知れない。だまされたら恥ずかしいぞ、などと警戒した。(いろいろ調べてやはり本物の映像のようだったが。)

人間そっくりのロボットも精巧になってきたが、やはりすぐわかる。人間間コミュニケーションは密度が濃いので、ちょっとしたぎこちなさですぐばれてしまうのだろう。しかし、進歩は著しい。下記などは人間の表情にかなり近い。

女性の方がロボットなのだが、スキンヘッドの男性の方がロボットかと一瞬間違えてしまう。しかも、この女性ロボットは中にAIが入っているらしく、人間との会話である程度まともな受けごたえをしているところが怖い。ストリートダンスなどで、ロボットの真似をするダンサーをよく見る。あのレベルの動きを、現在のロボットはすでにできていると思う。実際、動画サイトには、人間ダンサーを「本物の」ロボットと間違わせるドッキリ映像がよく出てくる。

あと何年かしたらどうなるのか。10年なら、本物と区別のつかない人間ロボットが登場するのではないか。しゃべり方も自然で違和感がなく、しかも、高度な人工知能を組み込まれて人間とかみ合った対話ができる。

中国語の部屋

「中国語の部屋」という思考実験がある。1980年に哲学者のジョン・サールが、Minds, Brains, and Programsという論文の中で発表した仮想実験だ。中国語のわからない人を小部屋に閉じ込め、外から中国人に漢字の質問票をいろいろ入れてもらう。中に居る人はその質問は理解できず、漢字は単なる記号にしか見えない。しかし膨大なマニュアルがあって、こういう記号が来たら、こういう記号の回答票を出す、などと指示を与えられている。そうすればかみ合った対話が成立するようになっている。

これを繰り返していったら、外の人は、中に漢字の読める中国人が居ると思うだろうか。あくまでも純粋な思考実験だが、そう思うだろう、ということが言える。漢字をまったく理解せずとも、あたかもそれを理解する人が居るかのように外からは見えるということだ。現在の技術なら、中の人をロボットに置き換えて、音声認識で言語を解読し、それに合った回答をメモリの中から読みだし、発話装置を経ていかにも自然なしゃべり口で外の人に伝える、ということが可能だろう。中にロボットがいるのか中国語を解する中国人が居るのかわからなくなる。

チューリング・テスト

似た思考実験で、「チューリング・テスト」というのがある。アラン・チューリングが1950年の論文Computing Machinery and Intelligenceで提起した。機械(AI)と人間を隔離してコミュニケーションさせる。今なら、自然言語でのやり取りも可能だろうが、より実現性があるところで、ディスプレー上のチャットという形で考えた方がいいだろう。チャットのやり取りを続けていって、人間が相手を同じ人間と思うかどうか。ここはAIがどれだけ優秀になったか問われるところで、トンチンカンな答えしか出せなければ、機械だとわかってしまう。しかしAIがだんだん優秀になれば、相手を人と間違う可能性も高くなる。人間の犯しやすいスペルミスなども敢えてするような「高等技術」も加えて、だますかも知れない。2014年に、「13歳の少年」の設定で参加したロシアのスーパーコンピューターが、30%以上の確率で審査員らに人間と間違われ、史上初めてこのテストの「合格者」となったという(「露スパコンに「知性」、史上初のチューリングテスト合格」AFP、2014年6月10日)。

機械が学習する

いずれも、知能が発達してもコンピュータは人間と同じでない、ということを示す思考実験だ。コンピュータは質問の意味もわからず、ただ機械的にプログラムの指定に従って回答を出しているだけだ。「中国語の部屋」はまさにそういう原始的なコンピュータを念頭においた実験だった。

だが、最近のAIはそう単純なものばかりでない。人類をたたきのめしたAlphaGoは、無数の棋譜から学習し、さらにコンピュータ内部で相互対局を繰り返し自己学習できるようになっている。いわゆるディープラーニングだ。「こうなったらこう打つ」という決められた対応を無数に覚えるだけではコンピュータには限界がある。そういう仕組みしか念頭になかったからコンピュータ碁(または将棋)は絶対に人間に勝てない、と多くの人は慢心していたわけだ。しかし、ディープラーニングでは機械が学習し勝手に強くなる。AlphaGoはその方式で人間に勝利した。2016年3月に、AlphaGo Leeバージョンが、多くの世界戦優勝経験のある韓国のプロ棋士イ・セドルに4対1で勝利。同5月にはAlphaGo Masterが、世界棋士順位1位の中国の柯潔に3対0で勝った。

AlphaGo MasterからAlphaGo Zeroへの進化

翌2017年、DeepMindはAlphaGoの新バージョン、AlphaGo Zeroを発表した。プログラム同士で無数の対局を繰り返し、無の状態から世界最強にまで学習していく汎用型のプログラムだ。3日で460万回の自己対局を行い、イ・セドルに勝ったAlphaGo Leeバージョンに100勝0敗で勝つまでに行った。21日間の自己対局を経ると、柯潔に完勝したAlphaGo Masterにも89対11で勝った(Nature誌の論文、Mastering the game of Go without human knowledge, 18 October 2017。DeepMindのホームページ)。世界最強のプロ棋士たちが行えば何万年もかかる局数を短期間に内部でこなし、そこから学習して強くなる。人間がいくらねじり鉢巻きをしてももはやはボードゲームで機械に勝てる見込みはなくなった。

グーグルはDeepMindを育てた会社として記録される

DeepMindは2人のトップ棋士を破ってから囲碁を引退し、その技術を医療、エネルギー、交通など社会的側面で役立てる方向を表明した。そうだろう。彼らの野望はボードゲームなどのレベルにとどまるはずはない。さらに根本的な革命を起こすところに向かっているのではないかと思う。DeepMindは2016年にグーグルに買収された。人々は、巨大なグーグルが何を考えているのかその先に注目しているが、逆だろう。グーグルは、人間にとっての知性の意味を根本からくつがえしていくことになるDeepMindという事業の初期を助けた企業として歴史に名を残すことになるのだ。1981年、立ち上げたばかりのマイクロソフトが、巨大なIBMに、後のMS-DOSとなるパソコンOSを買ってもらった話を思い出した。

それはともかく、ディープラーニングだ。膨大な対戦から学んで判断を下すのだから、プログラムをつくった技術者も、なぜ機械がその時その手を最善と判断したのか説明できない。わからない。その判断はAlphaGoというAIしか知らない。この半分自立したかのようなAIは、音声、画像・映像、自然言語の処理などに大きな力を発揮し、今日に至る第3次人工知能ブームを巻き起したとされる。前出仮想実験でも人間の質問に適切な回答を出す能力は格段に高まっているはずで、チューリング・テストでは今後続々と合格するAIが出てくるだろう。

介護ロボットの思考実験

人工知能は、すでに知能のある部分では確実に人間を超えた。しかし、コンピュータはその知識の内容を「理解」しているわけではないし、ましてや「意識」はもっていない。「人工意識」こそは、不可能か、遠い未来にしか考えられない技術だと「安心」する人類の方々も多いだろう。だが、「思考実験」をしてみよう。

ロボットが進歩してかなり人間に近い外観、動き方、話し方、表情をするようになり、頭脳部分でも、自然言語処理が普通にできるようになり、ディープラーニング、あるいはそれを超えたアルゴリズムで自然な会話能力を身に着けたとしよう。現在の状況を見るに、これはそんなに遠い未来のことではないと思われる。それを例えば介護ロボットとして導入する。

一人暮らしになったおばあさん(あるいはおじいさん)に介護ロボットが付く。身の回りの世話以外に、おばあさんの昔話をじっくりと聞く。人間の若者ならすぐ飽きて逃げて行ってしまうような話でも、飽きずにいつまでも聞く。そしてそれをメモリにため込んでいく(おばあさんの脳に蓄えられたメモリをダウンロードしてAI側にコピーする、などというのは遠い将来の話でSFめくので止めておこう)。おばあさんの話を「そう、そうだったんですか」などと興味深く聞き続けた介護ロボットは、そのうち「確か、その後ですよね、2番目のお子さんが生まれたのは」などという相槌をうつようにもなる。「あれ、旦那さんの若いころは〇〇でなくてXXの会社で働いていたんじゃなかったでしたっけ」など、おばあさんの記憶違いも訂正するようになる。こうして介護ロボットは、おばあさんとの人間的な交流に深く入り込み、孤独なおばあさんにとってかけがえのない友人になる。脳の働きを活発化させ、ボケ防止にもなっていく。介護ロボットの中に本当の意味では意識は発生していないが、外から見る限りは、限りなく意識や感情をもった人間に見える。

心の交流をする介護ロボットは高齢化の深まった日本や中国で開発が活発化している。欧米でも、これまでの介護ロボット(AR)や社会性インタラクティブ・ロボット(SIR)に加えて、社会性介護ロボット(SAR)の概念が出てきて研究がはじまっている( “Socially Assistive Robotics,” Yale University Social Robotics Lab site)

コールセンターはストレスが大きい

あるいはもう一つの思考実験。企業のコールセンターだ。米国には280万人のコールセンター・スタッフがおり、今後も10年間で5%の伸びが予測されるという(U.S. Bureau of Labor Statistics, “Employment Outlook Handbook,” October 24, 2017)。しかし、苦情処理も受け付けるコールセンターはストレスの大きい職場だ。私のように、ものを言うにも相手を人として尊重して話す人ばかりではないようだ。激しく抗議するモンスター消費者も多く、年間の転職率は30~45%に及ぶという。一般の2~3倍に相当する(Talkdesk, “Understanding Call Center Turnover,” March 11th, 2016)。

ここに人間と見間違うAIを導入したらどうなるか。チャットで相談を受けるなら早期に導入可能だろうし、やがては電話での応対もできるAIが出てくるだろう。顧客が怒鳴りまくっても辛抱強く聞き、こういう客の場合にどう対応するのが最も効果的かディープラーニングの大量データで学んで応答、口調を繰り出す。いくら謝っても機械だからストレスが溜まることはない。しかし、感情的論難に耐えながらも、どこに問題があるか重要な部分は冷静に分析し、その核心を企業に報告することができる。今後の企業の対応、製品開発に役立つ教訓を引き出すことができる。「お前じゃだめだ、責任者を出せ」と言われたら、責任者のような口調で話せる別のAIロボットを用意しておいてもいいだろう。ある程度、自立的判断の権限を与えられたロボットか。

こうしてAIロボットは、コールセンター労働者をストレスから解放し、それでいて必要な情報を顧客に与え、企業にとって必要な教訓も汲みだせる。対面して実際の人間に見せることは難しいが、音声対応くらいまでならある程度人間に見せかけられるようになるのでは。現在でも「〇〇の場合は1を、XXの場合は2を押して…」方式の自動音声応答が広がっているが、これにチャットボットなど新手のAI対応が加わり、2020年までには、米国の顧客サービス対応の85%が人間の手を経ずに行われるとの予測もある(Christie Schneider, ”10 reasons why AI-powered, automated customer service is the future,” IBM Watson site, October 16, 2017)。

「哲学的ゾンビ」

この辺までは、どうやら近未来に予測できるようになったのではないか。(もちろん他分野でもいろいろあるだろうが、全部は書けない。例えばこのブログだって、将来は私の思想傾向と周囲の諸情報、時事データをベースにしてAIが書いてくれるかも知れない。現在のレベルが低ければそうなっても見破られない)。

しかし、その段階になっても例えば社会性介護ロボットは本当の意味で「意識」をもっていないだろう。外的な刺激を適切に処理し、内部でそれなりの高度な情報処理を行い対応するが、自分という意識はない。いや無理に聞けば「私は〇〇という介護ロボットで、自分をちゃんと意識していますよ」と答えるかも知れない。外から見れば限りなく人間に見える。しかし、私たちが当然持っている自我、意識を持たない。現代の心の哲学者デービッド・チャーマーズはこうした存在を「哲学的ゾンビ」と表現し、独自の意識理論を展開した。意識の問題、あるいは人間存在の哲学的問題としてこの辺は別途に考えてみたい(次項ブログ)。しかし、とりあえず、「哲学的ゾンビ」の段階までなら、ある程度展望できるところまで来たように思われる。

いや、意識の構造を正確に理解していけば、意識のようなものをAIの中につくれる、と主張をする人も居るわけで、本稿ではそうした人の二人、グラジアノと前田の論を追ってみたわけだ。確かに、意識の構造を機械的なモデルとして解明できれば、ある程度まで意識に近い何ものかをロボットの中につくることはできるのかも知れない。しかし、その辺の判断能力は私にはない。

エイリアン知能との遭遇

シリコンバレー起源の斬新なテクノロジー誌として名高いWIRED(ワイアード)。その初代編集長を務めたケヴィン・ケリーが「新しい心(mind)」である人工知能について次のように言っている。

「新しい心は、私たちが、自分たちの知能だけでは解決できない問題を解くために使う複雑な認識の型とも言えるだろう。産業や科学の最も難しい問題のいくつかは、2段階のソリューションを必要とする。第1に、自分たちの心を使った新しい考え方をつくりだすこと。第2は、AIを併用して問題を解決すること。これまで解けなかった問題を解くのだから、この新しい認識手段が我々より「賢い」と思いがちだ。しかし、実際は私たちとは「異なる」のである。思考における差異性こそ、AIの主要な便益なのだ。それをエイリアンの知能、あるいは人工エイリアンと考えることもできる。」(Kevin Kelly, “The AI Cargo Cult – the Myth of a Superhuman AI,” Backchannel, April 25, 2017)

さすがに鋭い洞察だ。コンピュータの知能は、膨大なデータを記憶したり、目のくらむような速さで計算したりする。囲碁や将棋で強さを発揮するが、それを考え抜く思考も人間とは違う。違う知能、つまりエイリアンなのだという。異星人は遠い宇宙から来るよりも、私たちのすぐ傍で、人間が作り出した知能として現れ始めているというのだ。

可能な知能の範囲は広い

さらにケリーは、「人工知能が一方向に特化した知能であるのに対し、人間は全般的な方向をもった知能だ」との見方についても批判する。逆だという。「人間の知能は非常に特化された知能だ。私たちの種をこの地球上で生存させるという目的のため何百万年にもわたり進化してきた特殊な形態の知能なのだ。可能なすべての知能の範囲に位置付けてみれば、人間型の知能は、我々の世界の広大な銀河系の隅に張り付けられているのと同様、端の方の一角を占めるに過ぎない。」(同上)

ケリーは、この考え方を別のところ(ケヴィン・ケリー「エイリアン・インテリジェンス」堺屋七左衛門訳)でさらに深く展開している。知能というものを、人間のものだけに狭く見るのでなく、恐らく宇宙に存在しているであろうさらに広範な形態のものとして見る。「いまのところ、わたしたちは知能全体の体系がわかっていない」が、少なくとも、人間の生存のため進化した特異な履歴をもつ知能からは相当異なる特徴をもつ知能があるのではないかと想像する。そして、人間と、機械の知能が協調して仕事をする方向を示唆する。

「人間にとって最も重要な機械は、人間と同じ作業を速くする機械ではなくて、人間には全く不可能な作業をする機械である。同様に、最も重要な考える機械は、人間と同じことを速く考える機械ではなくて、人間が考えられないことを考える機械である。/量子重力、暗黒エネルギー、暗黒物質など、現在の壮大な謎を本当に解決するためには、もしかしたら人間の知能の他に、また別の知能が必要なのかもしれない。」(同上)

人間の存在意義とは

ケリーはここからさらにもう1歩踏み出し、次のようにも言う。ここまで言うのか。衝撃、というより感動した。

「人間は何のために存在するのか? その回答としては、生物の進化では達成できなかった新しい種類の知能を発明することである、と私は考える。人間の役割は、異なる方法で考える機械を作ること、すなわちエイリアン・インテリジェンスを作り出すことである。」(同上)

そうか、かつて人類という生物が居たな。私たち人工知能ロボットをつくった地球的生物種だ。

新しい種類の知能を持ったロボットたちがそのように過去を振り返るときが来るかも知れない。人間のひ弱な肉体では宇宙に拡がるのは難しかった。死なない体、真空でも生きられる金属身体をもち、人間と比較にならない高度な情報処理能力をもった多様なロボットが、今や銀河系全体、1000億個の星々に拡がり、輝かしい銀河系文明をはぐくんでいる。その時代になって、人類の歴史を刻む地球は銀河系遺産となり、大切に保存されているかも知れない。

新しい意識が生まれる可能性

そうした先の空想にまで行ってしまいそうだ。ケリーは全体として楽観的だが、やはり私は警戒感も持ちながら行方を追いたい。本稿のテーマである意識に関して言えば、現在のところ、「機械(コンピュータ)に人間と同じような意識は持てない」との考えが主流だ。しかし、実はもっと恐ろしいのは、機械が人間の理解できないような新しい意識をもつかもしれない、という可能性だ。ケリーの論説でその可能性にインスピレーションをもらった。今、人間のもっている意識を、他の動物は知らない。体験できない。同じように人間には理解できない別の意識を機械が今後もつことになるのか。機械の意識などあり得ないと断定してしまわず、私たちの知る意識を超えた新しい何ものかが生ずる可能性に思考の幅を広げておく必要がある。