人工知能の未来とその人生における意味への開かれた議論に参加するためのインタビュー集。新刊『人工知能のアーキテクトたち』は8月25日発売！

Text by editor

MAKE編集チームが企画・制作を行った書籍を紹介します。

●書籍紹介

真の汎用技術として社会を大きく変えつつある人工知能（AI）。本書は、AIの最前線に立ち続けている23人の研究者、起業家へのインタビュー集です。聞き手は『テクノロジーが雇用の75%を奪う』などの著書を持つマーティン・フォード。インタビュー対象は、ジェフリー・ヒントン、ヨシュア・ベンジオ、ヤン・ルカン、デミス・ハサビス、ジェフリー・ディーン、フェイフェイ・リー、アンドリュー・エン、ニック・ボストロム、レイ・カーツウェルなど、いずれもこの分野の中心人物です。議論の内容は、深層学習の成果、人間レベルのAIの実現の可能性、中国の存在、さらに雇用への影響やユニバーサルベーシックインカムにいたるまで幅広く、これらについての異なる立場からの見解を知ることで、AIの過去、現在、そして未来を、多面的に、より深く理解することが可能になります。

●書籍概要

Martin Ford　著、松尾豊　監訳、水原文　訳
2020年08月25日発売予定
四六判上製／680ページ
ISBN978-4-87311-912-0
定価3,520円
◎全国の有名書店、Amazon.co.jpにて予約受付中です。

●はじめに（マーティン・フォード）

人工知能（AI）は、SFの世界から私たちの日常生活の現実へと急速に移行しつつある。スマートフォンなどの電子機器は、私たちの話す言葉を理解し、私たちと会話し、さらに流暢に言語間の翻訳もしてくれるようになった。AIを採用した画像認識アルゴリズムの能力は人間をしのぎ、自動運転車や医用画像からがんを見つけ出すシステムなどに使われ始めている。大手報道機関で存在感を増しつつあるオートメーテッド・ジャーナリズムが未加工のデータから自動的に生成する明快なニュースストーリーは、人間のジャーナリストの書くものとほとんど区別がつかない。

こういったごく一部の例を見るだけでも、AIが今後の世界を形作る鍵となることは明白になってきた。これまでの細分化されたイノベーションとは異なり、人工知能は真の汎用技術となりつつある。別の言い方をすれば、人工知能は—電力のような—公益サービスへと進化しているのだ。今後あらゆる業種、あらゆる経済セクターに浸透していき、ほとんどすべての科学的・社会的・文化的分野で活用されるようになるだろう。

この本の目的は人工知能という領域を—それがもたらす利益や危険性を含めて—浮き彫りにすることであり、そのために幅広い内容を深く掘り下げた対談を、世界中の著名なAI研究者や起業家たちとの間で行った。その人たちの中には、私たちが目にしている技術革新の礎となる重要な貢献を行った人たちもいれば、AIやロボット工学や機械学習といった分野の最先端をいく企業を立ち上げた人もいる。

ある領域で活躍している人々の中から最も著名で影響力のある人物を選び出すことは、もちろん主観的な作業だ。そしてAIの発展に重要な貢献をした、あるいは現在まさに貢献しつつある人物が、他にも大勢いることは間違いない。それでも、この分野に深い知識のある人物に依頼して現在の人工知能研究を作り上げた最重要人物のリストを作ってもらったとすれば、大部分の名前がこの本でインタビューした人物と重なることは間違いないだろう。ここで取り上げた男女は、真の意味での機械知能のアーキテクトたちであり、さらに言えば、もうすぐ始まろうとしている革命の先導者たちなのだ。

この本に収録された対談はおおむね自由な雰囲気で、しかし人工知能が進歩し続けるに従って私たちが直面する、以下のような目前の課題への回答を引き出すことを意図して行われた。さまざまなAIの手法や技術の中でどれが最も有望なのか、そして今後数年間でどのようなブレークスルーが達成されようとしているのか？真の意味で考えるマシン—あるいは人間レベルのAI—が実現する可能性はあるのか、またそのようなブレークスルーが起こるのはどれくらい先になりそうなのか？私たちが本当に懸念すべき、人工知能にまつわるリスクあるいは脅威は何なのか？そして私たちは、そのような懸念にどう対処すべきなのか？政府による規制の果たすべき役割は？　AIは経済や労働市場に大変動を引き起こすのか、それともそのような懸念は杞憂なのか？いつの日か超知能マシンが人間の支配を逃れて私たちを脅かすおそれがあるのか? AIの「軍拡競争」について、あるいは専制的な国家—特に中国—に先行を許すことを、私たちは心配すべきなのか？

もちろん、これらの質問の答えを本当に知っている人は誰もいない。誰にも未来は予測できないからだ。しかし、この本で私が対談したAIのエキスパートたちは、技術の現状について、そしてこれから出現するであろうイノベーションについて、他の誰よりもよく理解している。彼らの多くは数十年にわたる経験を有し、今まさに始まろうとしている大変革を引き起こすにあたって重要な役割を担ってきた。そのため彼らの考えや意見には、十分に尊重すべき価値がある。人工知能の領域やその将来に関する質問に加えて、私は彼らひとりひとりの生い立ちや経歴、そして現在興味を持っている研究分野についても語ってもらうよう努めた。彼らのさまざまな来歴や名を成すまでの多様な経路は、読者にとっても大いに興味深く、参考となるものだろうと私は信じている。

人工知能は数多くの下位区分を含む幅広い研究領域であり、この本でインタビューした研究者の多くは複数の分野での研究経験がある。また、例えば人間認知の研究など、別の領域を深く経験してきた人物もいる。それは承知のうえで、以下に示す非常に大雑把なロードマップでは、この本でインタビューした人々と、AI研究における最も重要な最近のイノベーションやこの先に待ち受ける課題との関連を示そうと試みた。各個人に関するより詳細な関連情報については、インタビューの直後に掲載した人物紹介を参照してほしい。

画像認識や顔認識、自動翻訳、そして囲碁におけるアルファ碁（AlphaGo）の勝利など、ここ十年ほどで私たちが目にした劇的な進歩の大部分は、深層学習（ディープラーニング）あるいは深層ニューラルネットワークと呼ばれる技術によるものだ。人工ニューラルネットワーク（脳の中の生物学的なニューロンの構造や相互作用を大まかに模倣するソフトウェア）の歴史は、少なくとも1950年代までさかのぼる。この種のネットワークのシンプルなバージョンは、初等的なパターン認識タスクが行えたため、人工知能の黎明期に研究者の間でもてはやされた。しかし1960年代までに—AI初期の先駆者のひとりであるマーヴィン・ミンスキーからの批判もあって—ニューラルネットワークは人気を失い、研究者たちが別の手法を採用するにつれて、ほぼ完全に見限られてしまった。

1980年代に始まる約20年の間、ごく少人数の研究者のグループがニューラルネットワークの技術を信じて研究を続けていた。その主要なメンバーだったのが、ジェフリー・ヒントン、ヨシュア・ベンジオ、そしてヤン・ルカンだ。この3名は、深層学習の礎となる数学理論に多大な貢献をしただけではなく、この技術の重要なエバンジェリストとしても活躍した。彼らは力を合わせて、多層の人工ニューロンから構成される、はるかに洗練された—「ディープ」な—ネットワークの構築手法を改善していった。古代のテキストを受け継いで書写してきた中世の修道僧のように、ヒントンとベンジオとルカンはニューラルネットワークを暗黒時代の中で守り通した。そして数十年にわたる指数関数的なコンピューティングパワーの増大と、利用可能なデータ量の爆発的な増加が相まって、ついに「深層学習のルネッサンス」が到来する。その進歩は、2012年には革命となって花開いた。ヒントンの指導するトロント大学の大学院生のチームが大規模な画像認識コンテストに参加し、深層学習を用いて圧勝したのだ。

その後数年で、深層学習はいたるところに浸透していった。グーグル（Google）、フェイスブック（Facebook）、マイクロソフト（Microsoft）、アマゾン（Amazon）、アップル（Apple）などあらゆる主要なテクノロジー企業や、バイドゥ（Baidu）やテンセント（Tencent）など先端的な中国企業は、この技術に莫大な投資を行って自分たちのあらゆる事業分野に活用している。マイクロプロセッサーやグラフィックス（あるいはGPU）チップを設計するエヌビディア（NVIDIA）やインテル（Intel）などの企業も、事業分野を再構築し、ニューラルネットワークに最適化されたハードウェアの製造を急いでいる。深層学習は—少なくともこれまでの—AI革命を主導してきた技術なのだ。

この本には、ヒントン、ルカン、ベンジオという3人の深層学習の先駆者をはじめ、この技術の最前線で活躍する非常に高名な研究者たちとの対談が含まれている。アンドリュー・エン、フェイフェイ・リー、ジェフリー・ディーン、そしてデミス・ハサビスは、ウェブ検索やコンピュータービジョン、自動運転車、そしてより一般的な知能の分野で、ニューラルネットワークを推進してきた人物だ。また彼らは、深層学習技術に関する教育や研究機関の運営、そして起業活動の指導者としても知られている。

この本には、深層学習に懐疑的、あるいは批判的とも言える立場を取る人々との対談も収録されている。彼らもみな、過去10年間に深層ニューラルネットワークが目覚ましい成果を上げたことは認めているが、深層学習は「工具箱の中のひとつのツール」にすぎず、進歩を続けるためには人工知能の他領域からアイディアを取り込む必要があると論ずる人が多い。その中でもバーバラ・J・グロースやデイヴィッド・フェルッチは、自然言語理解の問題に注力している。ゲアリー・マーカスとジョシュア・テネンバウムは、人間認知の研究にキャリアの大部分を費やしてきた。オーレン・エツィオーニやスチュアート・J・ラッセル、そしてダフニー・コラーなど、AIのジェネラリストや確率論的手法の活用に注目してきた人々もいる。この最後のグループの中で、特に有名な人物がジュディア・パールだ。彼は、AIと機械学習における確率論的（あるいはベイジアン的）手法への取り組みに対して、2012年にチューリング賞—コンピューターサイエンスのノーベル賞と呼ばれている—を受賞している。

以上は深層学習に対する考え方に基づいた非常に大まかな分類だが、私が対談した中には、より特化した分野に注力してきた研究者もいる。ロドニー・ブルックス、ダニエラ・ルス、そしてシンシア・ブリジールは、ロボット工学を先導する著名な人物だ。ブリジール、そしてラナ・エル・カリウビは、情動を理解しそれに反応するシステム、つまり人と社会的に交流する能力を持つシステム構築の先駆者でもある。ブライアン・ジョンソンは、究極的には科学技術を利用した人間認知の強化を目指す、カーネル（Kernel）というスタートアップ企業を創業している。

すべての対談に際して、私は特に関心が高いと思われる3つの分野について、彼らの意見を聞き出そうと試みた。最初は、AIやロボット工学が労働市場や経済にどのような影響を与える可能性があるのか、ということだ。私自身の考えを示しておく。ほとんどすべての定型的で代わり映えのしないタスクが—ブルーカラー的な仕事もホワイトカラー的な仕事も関係なく—次第に人工知能によって自動化できるようになるため、格差の拡大は避けられず、少なくとも特定の職種に関しては、完全に雇用が消失することも十分にあり得るだろう。私はこの問題を、2015年の自著『ロボットの脅威人の仕事がなくなる日』（邦訳日本経済新聞出版社）の中で考察している。

私がインタビューした人々は、このような経済的大変動の可能性について、またその解決策となり得る政策について、さまざまな視点から語ってくれた。この主題についてさらに深く掘り下げるため、私がインタビューしたのがマッキンゼー・グローバル・インスティテュート（McKinsey Global Institute:MGI）の会長を務めるジェイムズ・マニカだ。AIとロボット工学の研究者として経験を積み、最近になって組織や職場にこれらの技術が与える影響を分析する仕事に転じたマニカは、比類のない視点を示してくれた。マッキンゼー・グローバル・インスティテュートはこの分野の研究におけるリーダー的存在であり、この対談には今後の労働市場における大変動の本質を解き明かす重要な手がかりが数多く含まれている。

私が全員に投げかけた2番目の質問は、人間レベルのAI—一般的に汎用人工知能（AGI）とも呼ばれる—への道のりに関するものだ。そもそもの始まりから、AGIは人工知能という研究領域の究極の目標だった。私は次の3つについて、それぞれの人がどう考えているか知りたかったのだ。本当の意味で考えるマシンが実現する可能性、そのために乗り越える必要のあるハードル、そして達成時期について。みな重要な見識を示してくれたが、私にとっては3名の人物へのインタビューが特に興味深かった。デミス・ハサビスは、ディープマインド（DeepMind）で行われている取り組みについて話してくれた。ディープマインドはAGIに特化した企業の中では最大手で、資金も最も潤沢だ。かつてIBMのワトソン（Watson）開発チームを率いていたデイヴィッド・フェルッチは、現在は言語の理解を通してさらに一般的な知能の実現を目指すスタートアップ企業、エレメンタル・コグニション（Elemental Cognition）社のCEOを務めている。また現在グーグルで自然言語関連のプロジェクトを統括しているレイ・カーツワイルは、この話題について（他の多くの話題についても）重要なアイディアを披露してくれた。カーツワイルは2005年に出版された『ポスト・ヒューマン誕生コンピュータが人類の知性を超えるとき』(邦訳NHK出版)の著者としてよく知られている。2012年に出版された機械知能に関する彼の著書『How to Create a Mind』（未邦訳）がラリー・ペイジの目に留まり、それが彼のグーグル入社のきっかけとなった。

（中略）

3番目の議論は、人工知能の発展がもたらすさまざまなリスクを、近い将来と遠い未来の両面から取り上げた。すでに明らかになっている脅威のひとつとして、相互接続された自律システムのサイバー攻撃やハッキングへの脆弱性がある。AIが今後ますます私たちの経済や社会に組み込まれていくにつれて、この問題の解決は私たちが直面する喫緊の課題のひとつとなるだろう。もうひとつ、目下の懸念材料は、機械学習アルゴリズムに人種や性差による偏見が入り込むおそれがあることだ。私がインタビューした人物の多くはこの問題への対処の重要性を力説し、現在この分野で行われている研究について話してくれた。また何人かの人は、そのうちAIが制度的な偏見や差別と闘うための強力な道具となってくれるだろう、といった楽観的な見通しを示してくれた。

多くの研究者が強い危機感を抱いていたのが、完全自律兵器という妖怪だ。人工知能コミュニティに属する人の多くは、AIを搭載した殺傷能力のあるロボットやドローンが、人間が判断に関与することなく致死的なアクションを起こすならば、ゆくゆくは生物兵器や化学兵器と同程度に危険な不安要素になりかねないと懸念している。2018年7月、160を超えるAI企業と全世界から集まった2400名の研究者—その中にはここでインタビューした人々も多く含まれている—が、そのような兵器を絶対に開発しないことを約束する公開誓約書に署名した。この本のいくつかの対談でも、AIの兵器利用によって引き起こされる危険を取り上げている。

それよりもはるかに未来的な、そして理論上の危険として、「AI価値整合問題」と呼ばれるものがある。これは、真の知能を持つ—もしかすると超知能を持つ—マシンが人間の支配を逃れたり、人類に悪影響を及ぼす決定をしたりするのではないか、という懸念だ。この恐怖は、イーロン・マスクなどの人物から常軌を逸したかのような発言を引き出している。私がインタビューした人物のほとんどが、この問題について一家言を持っていた。この懸念について十分にバランスの取れた検討を加えるため、私が対談したのがオックスフォード大学人類の未来研究所（Future of Humanity Institute:FHI）所長のニック・ボストロムだ。ボストロムはベストセラーとなった書籍『スーパーインテリジェンス超絶AIと人類の命運』（邦訳日本経済新聞出版社）の著者であり、その中で彼は人類よりもはるかに賢いマシンが実現したとすればどのような危険が生じるか、注意深く考察している。

（中略）

この本の対談に参加できたことは、私にとって非常な名誉だった。私がインタビューした人物はみな思慮深く、理路整然としていて、自分が作り出そうとしている技術が人類の利益のために活用されるよう全力を傾けていることがわかってもらえると思う。また、幅広い合意はほとんど存在しないこともわかるだろう。この本にはさまざまに異なる（時には鋭く対立する）見識や意見、予測が満ちている。そのメッセージは明確だ。人工知能は広く開かれた分野なのだ。この先どんなイノベーションが行く手に控えているか、どんな頻度で発生するか、またどんな具体的な用途に応用できるか、すべては深い不確実性のとばりに隠されている。これから起こるかもしれない巨大な変動が、このように基本的な不確実性を伴っているからこそ、人工知能の未来とその人生における意味について実りある開かれた議論に参加することが重要だ。この本が、そのような議論に役立つことを願っている。