AIが人の論文を査読する未来

査読の功罪について様々な議論があり、またネット時代の新しい査読の在り方も種々提案されている。しかし、それらすべてをひっくり返す未来展望を、さすがと言うべきかテクノロジー文化誌の『ワイアード(Wired)』が出している。日本語版に翻訳されているこの記事も鋭いが、翻訳されていない投稿記事で、生態経済学誌Ecological Economics編集者ジャンネ・ハッキネンが書いているのもなかなか鋭い(Janne I. Hukkinen, “Peer Review Has Its Shortcomings, But Ai Is A Risky Fix,” Wired, digital version, January 30, 2017)

学術誌編集プロセスへのAI導入

現在、多くの学術雑誌出版社が査読を含む編集過程をコンピュータ化しつつある。Ecological Economicsを発行する大手学術出版社エルゼビア(本社オランダ、2017年現在約2500学術誌43万論文を出版)も、EVISEという学術誌編集・出版システムを稼働させている。

EVISEは2015年に、ハッキネンの学術誌Ecological Economicsで試験的稼働をはじめた。論文原稿が届くとまず剽窃(コピペ)がないかどうかを調べるシステムでチェック。次いで、原稿の内容からだれに査読を頼めばいいか査読者データベースで調べる。Scopusという別のソフトウェアとつないで、査読者の業績が適切か、利益相反などの問題がないかも調べる。査読中も著者、編集者、査読者間の交信を管理し、採否の最終決定もこのソフトウェアから著者に伝達される。

幸いなことに、査読は依然として人間の研究者によって行われ、採否決定も人間の編集者によって行われているようだ。現段階では、査読・編集過程の周辺的な支援業務を行うソフトウェアと言えるだろう。しかし、このシステムを使う中でハッキネンは、AIがさらに重要な役割を担っていく未来を予感する。企業ガバナンスや規制のしっかりしていないところでAIに過度な役割が与えられる可能性があるし、「コンピュータ化された編集管理をより効率的かつ魅力的にする要求が、査読を段階的にAIの方に近づけつつある」と言う。可能性として次のような未来を展望する。

「AIの役割は、査読者の選定と原稿採否の判断という、まさに人間の編集者が今日最も時間をかけている局面で増大していくだろう。学習アルゴリズムは、査読者がどんな研究をしていたかデータベースを調べ、編集者、査読者の過去のすべてのコメントを分析し、初稿から最終稿への変化のパターンを確認するなどして、投稿から採否決定までの全査読過程を管理できるようになると考えるのが自然だろう。さらに、査読を人間から分離することにより、オープンアクセスを求める研究者と、それに抵抗する商業出版社の間の緊張を和らげるだろう。」

人がAIに合わせる

ハッキネンは、当面AIは査読の「アシスタント」として使われるとの現実的見方をする一方、その先で、AIが深く査読にかかわるようになる時のことを、実際の編集者らしく具体的に予測している。

「論文が人間でなくAIに査読されると知ったなら、科学論文の書き方はどう変わるだろうか。AIは論理に優れているが、価値を考慮する能力はやや低い。科学的には同等な二論文を社会的意義の観点からランク付けするようなことは苦手だ。AI主導の査読体制は、複雑な人間でなくコンピュータが判断するので客観性が増すなど利点もあるが、欠点もある。AIは新知見の意義を判断できないかも知れない。しかし、どちらに転ぶとしても、とにかくAIは著者の査読ゲームへの対処法を変えていくだろう。」

現在、すでに企業の求人活動などでは、書類選考の段階でAI的なソフトウェアが使われている。求職者は履歴書を「査読」するソフトにひっかかるにはどういう履歴書を書けばいいのか、いろいろ苦慮する。就活支援講座の中でそうしたノウハウ伝授が行われる。研究者も、そのような「AIの目に留まる」論文執筆ノウハウを身に着けることが必須になるかも知れない。

AIと人の棲み分け、科学でも

ハッキネンが次のように言っていることも面白い。「なぜ人間は論文を書くことに苦労しているのか。これまで学界や学術誌は、論文をどう書けばいいかの方法を整備してきたが、そうした指示に従うのはAIの得意とするところだ。一つのAIが科学論文を書き、別のAIがその品質をチェックするなどのことも可能でだろう。」

論文を論文らしく見せるにはいろいろテクニックがある。簡単なところでは、できるだけ「である」調を使い、持ってまわった表現をし、分野に会ったボキャブラリーを使い、その分野の学界や学術誌が定めたフォーマットに従い、句読点の打ち方、参考文献の表記の仕方その他細かいインストラクションに沿って書く。こういった側面をきちんとするのはコンピュータの方が得意だろう。自然科学では厳密な実験とその正確な分析が必要だ。社会科学でも文献調査、統計、聞き取り調査なども用いながら現実的歴史的な事実を明らかにし、そこから論理的な推論をしていく。論理性もコンピュータは比較的得意だ。文献、統計、その他データはウェブ上に豊富にあり、実験データの整合性をチェックするソフトなどもすでにある。文章の展開過程もAIは難なくこなすだろう。まず問題の所在を明らかにし、過去の「先行研究」を振り返る中で、欠けていた点を指摘し、それについてこういう観点から迫るのが本研究である、と論文の意義を論じ……など独特の仁義の切り方が学界にはある。それも、言語処理能力が進めば、AIが比較的容易にクリアするだろう。最も根幹となる着想の独創性、仮説の構築などの点は人間でないと難しいが、論文らしい体裁にする手法はある程度AIが担える。

すでに10年以上も前に、論文らしい体裁の文書をAIが勝手に自動作成するソフトSCIgenがつくられ、学術誌や学術会議組織者らをだましていた。そのつくられた「論文」を見ると、確かにそれらしい英文になっており、どっちにしても難しい技術系論文など読んでも意味不明なので、こんなものかと素通りしてしまいそうだ。これでつくったでたらめ発表論文を2005年の「第9回世界システミクス・サイバネティクス・インフォマティクス研究集会(WMSCI)」に提出したところ、受理された。2012年には、大手学術出版社シュプリンガーの学術誌に、同ソフトで自動作成された少なくとも85本のでたらめ論文が掲載されていることが暴露されたりしている。

今のところ悪ふざけだが、考えてみると深刻な問題だ。さらに洗練されたAIソフトが開発されたらどうなるのか。

企業社会でも、単純な仕事はどんどんAIに取って代わられ、人間は本当に創造的な仕事に移る、移らざるを得ないと言われる。研究の世界でも同じことだ。人間は科学で、発想やアイデア、基本的な仮説・理論といった最も根幹的な所での独創性が求められるようになる。それを査読に通るような体裁での論文に仕上げる「単純作業」はAIが行う。あるいはそれをAIが徹底して支援してくれる。

査読やれるなら科学も

ハッキネンは、単に査読の問題にとどまらず、それが品質を保証するところの科学そのものの問題にも踏み込んで、次のように言う。

「AI査読でつくりだされる新たな知識はだれのものか。AIは人間の介入なしに自由に新知識を研ぎ澄ませることができる。AIと人間の知性は微妙に異なるから、自律的AIシステムが、新知識を判定する独自基準を生み出すと考えるのは理にかなう。人間が自身で獲得したと思えない新知識は、人間文化の基礎を揺るがすだろう。」

国連などへの科学技術アドバイザーをつとめるBart Kolodziejczykは、査読を代替するAI開発の現状を俯瞰した上で「次世代の査読者はシリコンででてきている」と予言する。そして「AIが現行査読制度の問題を解決できるとして、…当然に想定されてくる次の問いはこれだ。AIに査読ができるなら、いつから自分で論文を書き始めるのか。」

新薬発見の分野ではAIが実用の段階に近づいてきたとの報告もある。これまで偶然の発見や無数の試行錯誤によってしか見つからなかった病気と化学物質の関係、新物質とその薬効などが、ビッグデータとAIの力でシステマチックに探査できるようになった。

システムバイオロジー研究機構(SBI)の北野宏明は、AI(人工知能)にノーベル医学生理学賞を取らせるプロジェクトに取り組んでいる。AIは、大量の科学論文などビッグデータと人間の認知を越える論理回路を導入すれば、仮説の作成を含め科学上の新発見をさせることができるという。ノーベル賞は人間にしか与えられないことがわかったので、発見者がAIだと気づかれず受賞してしまうことを目指すという。確かに現在、コンピュータ科学の革新技術ブロックチェーンの発案者「サトシ・ナカモト」が、実在の人物かグループか不明なのだが、これがAIだったとしてもおかしくないわけだ。

こうした科学的発見を行うAI開発の現状と今後の可能性を総観したアンドリー・マノチらは、結論部分で、まずはそんなに心配するな、と我々をなぐさめて(?)くれる。

「しばらくは冷静にしていられるだろう。依然としてAIはその設定、訓練、稼働に人を必要としている。機械学習アルゴリズムに入れるデータは人間の研究者が手作業で準備しなければならず、仮説を生成し改良するプロセスも人間を必要とする。しかしながら、これはSF小説ではない。人工知能はついに、科学というこれまで人を最も特徴づけてきたと思われる分野で人間を越える世界が展望されてきたことに、興奮と脅威を感じざるを得ない。」

AIが科学を担う未来

こうして査読の在り方を考えてくる中で、科学そのものがどうなっていくのか、根本的な問いにつきあたる。科学論文の多くは、すでに数式だらけで常人が理解できないものになっている。それをさらに進めてAIしか理解できないレベルに進むのが当然なのかも知れない。人間が「ハゲタカ・ジャーナル」で訳の分からない論文を量産する中、AIが着実に真理探究を行ってくれれば歓迎すべきことだ。