人工知能は人類を絶滅させるか

AI(人工知能)研究者のトビー・ウォッシュが、AIの危険性について次のように言っている。

「世界は環境的、経済的、政治的に大きな危機にさらされている。何を最も恐れるべきか知るのも難しい。人類の存続さえ確実ではない。様々な方向から脅威は来ている。巨大隕石の衝突、地球温暖化、新型感染症、あるいはナノマシンが凶暴化してすべてをグレーグー(無限に自己増殖するナノマシンの塊)にしてしまう危険。そしてもうひとつの脅威が人工知能である。」

そう述べた後、ステファアン・ホーキン(英物理学者)、イーロン・マスク(米電気自動車会社テスラ・モーターズ会長兼CEO、民間宇宙ベンチャー企業スペースX社CEO)らの発言を紹介し、AIが人類を滅ぼしかねない危険について語っている。(Toby Walsh, ”What if… We create human-level artificial intelligence?”Original Research,” New Scientist, November 19, 2016.)

ここに挙げられていないが、人類絶滅の危険と言えば、まず核戦争の危険がここ半世紀最大の脅威だった。冷戦時代には特にそうであったし、現在もその危険は去ってはいない。昨今の原発事故の危険性も同様に深刻だ。これほど重大な問題には、科学者、専門家だけでなく、だれもがそれに関心をもち、政策決定に関与していかなければならない。AIも同様に、般市民も広く考えていかねばならない課題に上ってきたということだろう。

ホーキンらが警告しているのは、「(AIはやがて)自立して発展し、加速度的に自身を再設計していくようになる」「人類はゆっくりした生物学的進化をしていく他はなく、やがてAIに太刀打ちできなくなり、乗り越えられていく」ということだ(Rory Cellan-Jones, “Stephen Hawking warns artificial intelligence could end mankind,” BBC News, 2 December 2014)

自律的に成長するAI

そんなSF小説のようなことがあるか、人間のつくったプログラムで動くAIが人間を越えるなどあるわけがない、と思う向きもあるだろう。しかし、AIは人間がつくったプログラムでありながら、益々自立的に動くシステムに進化しつつある。世界最強のトップ棋士、韓国イ・セドル(2016年3月、4対1)、中国・柯潔(2017年5月、3対0)を破ったアルファ碁は、膨大な碁の譜を取り込んで学習し、さらに膨大な数の自身相手の対戦から学習し、結果的に最もよい状況をもたらす手を打つようになっている。「こうされたらこうする」という人間の組み込んだ論理で自動的に動くのではない。膨大な実践から学んで、それがなぜ良いのか必ずしも論理化できない(プログラム開発者もなぜその手が打たれたか正確に解析できない)にしても経験的(統計的に?)に最良の手を打つ。人間の思考に近いのではないか。私たちも日々の人生という試行錯誤の中で、なぜそれが良いのか必ずしも明快に論理化できないにしても、経験的に良いと把握した行為を行い、その結果も含めてさらに学び、日々最良の「手」を打って暮らしている。

確かにコンピュータには意識というものがない。しかし、人間の意識とは何だったのか。これも今後の脳科学の進歩に待つところが大きいが、多くの経験を記憶といいう形で蓄積し、状況との対峙から適当な解をたぐりだし実践していく、その一貫した行動を制御する上で自己意識といった枠組みが必要となり、又はあった方が便利になり、徐々に生み出されてきた(例えば前野隆司『脳はなぜ「心」を作ったのかー「私」の謎を解く受動意識仮説』筑摩書房、2004年)。私たちが幼児期、物質世界との関係、人間間の関係の中で常に味方する「自分」という存在に徐々に気づき、その内部に立つことを学習してくるように。人間や意識に対する深い理解が必要になるが、機械的な情報回路の中から徐々に「意識」的な枠組みが生まれてくる可能性も否定できない。

そうやってAIが自ら成長する回路を手に入れ、さらにそれが3Dプリンターを高度化したような製作機械で新しい知能とロボット的身体を製造していく時、人間が乗り越えられる日が日程に上る、と考えて不思議なことはない。

人間はAIのプログラムをつくる。しかし最も優れたプログラムは自分で自分を革新していくようなプログラム(したがって、もしかしたら人間が考える以上のところに行ってしまうプログラム)である他ない、という逆説的な現実が明らかになってきているように思われる。人間は結局のところ、人間に最も似た機械をつくるのがたまらなく興味深いのだ。技術者たちのあくなき技術開発の熱情は止まらないし、止めることができないだろう。

殺人ロボット

この8月21日、前述イーオン・マスクら約100名のロボット・AI企業代表らは、「国連特定通常兵器使用禁止制限条約(CCW)への公開レター」を発表した。やや遠い将来の人類絶滅の脅威でなく、戦闘にAIやロボットが使われようとしている差し迫った危険性を訴えるものだ。文書の中で使われている言葉「自律的致死的兵器システム(Lethal Autonomous Weapon System、LAWS)」は、AIを搭載したロボットやドローンのような兵器が、人間の介入なしに自律的に敵を選別し殺傷していくシステム。このような殺人兵器が将来的にもたらす脅威について、2015年の国際人工知能会議(IJCAI)が「自律的兵器:AI・ロボット研究者からの公開レター」を出し、ホーキン、マスクらを含め2万人以上が署名している。今回の新たな公開レターは、国連CCW会議が設置した「致死的自動兵器システム政府専門家グループ」の第1回会議(11月に延期)に合わせて、改めてAI・ロボット兵器の危険性を訴えたものだ。

機械に敗れる人間の苦悩

チェスでは、すでに1997年に世界チャンピオンのガルリ・カスパロフが1勝2敗3分けで負けている。囲碁でも、もはやだれもアルファ碁に勝てない。2016年末~17年初めのネット上非公式対戦では、日本のトップ棋士、井山裕太も含め日中韓のトップレベルが0対60で完敗している。将棋では2017年4~5月に佐藤天彦名人が将棋ソフト、ポナンザに0対2で敗れた。2016年には、竜王戦挑戦者決定戦などで、棋士が中途退席して将棋ソフトを盗み見しているのではないかという疑惑(後に事実無根と判明)が出て将棋界が混乱した。AIの力に怯え棋士間で疑心暗鬼になる。これほど、将棋界、あるいは人が完全にAIに敗北したことを知らされる事態はない。(人が疑心暗鬼で自滅することで、AIは「精神面」「倫理面」でも優秀性を証明したか、それとも、AIにこんな疑心暗鬼はできないという意味で、なお人間の卓越性を証明したか。)

トップ棋士でも勝てないのに、アマチュア・レベルでは無料の将棋ソフト相手でも勝てない。あぶら汗をたらし長考しても、奇抜な手を打ちまくって相手を混乱させようとしても、きっちり寄せられ確実に憤死させられる。未来に人間がAIに征服されるときもこんな感覚か、と思わせる。機械に負かされるトップ棋士の苦悩は、将来さらに他の知的活動分野で人間がAIに負け、人としてのアイデンティティが全般的危機にさらされることの単なる始まりだったかも知れない。

(そのうち、ブログ界でも、AI執筆物が軒並み評価ランク上位に出るようになるだろう。検索エンジンで上位に掲示されるようにするいわゆる「SEO対策」などはAIの方が完璧にこなせる。何を隠そう、実はこのブログも・・・)