【 DeepMind CEO ハサビス氏 】汎用人工知能（AGI）実現 に 向けた AI業界 ...
https://qiita.com › 投稿 › 人工知能
2017/07/28 - PDF ）Demis Hassabis'Correspondence information about the author Demis HassabisEmail the author Demis Hassabis, .... イギリス人 でも アメリカ人 でもなく、さらに UKUSA協定に参加している国の国民 でもない 私たち 日本人 ...
- 汎用人工知能（AGI） (*)
（ The VERGE 誌 インタビュー記事 ）
by James Vincent ( Jul 19, 2017, 12:00pm EDT) DeepMind’s founder says to build better computer brains, we need to look at our own
論考の概要 ）
この論考 では、DeepMind社 は、次のような姿勢のもとで、（認知神経科学・システム神経科学 および 心理学 を 含む 総称としての）Neuroscience （ 以下、計算論的脳神経科学と略記 ）の学術成果 を 活用しながら、（汎用）人工知能の設計・開発 を 進めてきた と 主張している。
その上 で、同論考では、（汎用）人工知能の設計・開発の取り組み と 脳神経科学 が、過去、現在、そして 今後の将来 の 各時期ごと に、どのような距離感のもと、互いに影響を及ぼしあってきた（or 及ぼしあっていくべき）（な）のか を、同社の姿勢（上記を参照）と照らし合わせながら、丁寧に概観している。
（ なお、ここで、（自然が生み出した）「脳」とは、人間以外の動物 を含む 脳 を 指している ）
まず最初 に、DeepMind社 が （汎用）人工知能の設計・開発 を 推し進めるに際して、（計算論的）脳神経科学の学術成果 と どのように向き合い、そこから 何を学び取ってきたのか が
述べられている部分 を 要約してみます。
（ DeepMind が 取らない姿勢 ）
自然が生み出した 脳 の 動作原理 を 再現すること を 目指してはいない。
関心 を 寄せているのは、脳 が 情報 を 処理して、知的な機能 を 発現させる 仕組み で ある。
「仕組み」とは、具体的には、「アルゴリズム」（algorithms）、「座組み・機構」（architectures）、「機能」（functions）、「（情報）表現」（representations）で ある。
しかし、脳の忠実な再現 を 目指しているわけではないため、上記の「アルゴリズム」等 が、脳内 で 実際に 物理的（器質的）にどう実現（実装 implement）されているのか には、それほど関心 が ない。
物理的な実現（実装）過程 には関心を寄せずに、その「計算理論」としての抽象度でみた「アルゴリズム」や「アーキテクチャ（機構）」に着目することで、その「仕組み」を、シリコンなどの機械的な計算基盤 の 上に 転用（transfer）する ことを心がけている。 （なお、上記の場合、人間やその他の動物の脳とは異なる物質材料の上で、上記の仕組みを実装することに伴う、人工知能開発 特有の検討課題 が 生じてくる）
上記の意味で、脳の神経回路 を 人工的な計算機の演算回路のレベル で、忠実に再現すること を 目標 に かかげている Blue Brain Project や _Esser et.al,(2016) らのneuromorphic computing systemとは、方向性 が 異なる。
（ DeepMind が 取る姿勢 ）
【 着想の源泉として活用 】 人間や動物の脳 が 情報 を 処理する過程（仕組み）についての知見 から、人工知能のアルゴリズムを考案・設計する上での着想とひらめき（インスピレーション inspiration ） を 得ている。
【 アルゴリズムの妥当性の判断基準 】 検討・開発中の人工知能のアルゴリズム と 似た情報処理過程 が、脳内で行われていること が 確認された場合、汎用的な知能システム（overall generalintelligence system）を構成する機能部品として、（その人工知能アルゴリズムの）方向性 が 間違っていない と 判断できる「ひとつの強力な根拠」（strong support for its plausibiity）が 見つかった と、捉えている。
その場合、検討・開発中の当該アルゴリズム が まだ、期待する動作パフォーマンス を 示すに至っていなくとも、（脳内で類似のアルゴリズムが現実に稼動しているため、）そのアルゴリズム が 所望のパフォーマンス に 到達するまで、人的・金銭的その他の経営資源 を 積極的に追加投入する意思決定 を 行っている。
DeepMind に とって の 「脳の動作原理」 に関する Neuro-science 知見 の 位置づけ
人工知能の開発を命題とする実務的・現実的な観点に立つと、人工知能アルゴリズムとしての妥当性の傍証を得るために、脳の動作アルゴリズムとの類似性 を 過度に執着しすぎるのは、過剰であると考える。
工学的・実用的観点からは、うまく動くアルゴリズムは、良いアルゴリズムであり、成功である。
そのため、（我々の眼の前にある唯一、成功した汎用人工知能の実例である）脳 の中 で 実際に稼動しているアルゴリズム は、汎用「人工」知性の設計・開発する立場 から 見て、模範的な先例 であり、先導役（guide）ではあるが、何が何でも、その仕組み を 人工的に、忠実に 再現しなければならないような、要求仕様（strict requirement）ではない。
次に、
（汎用）人工知能の設計・開発 の 取り組み と
脳 が 情報 を 処理する仕組み を 解明する 計算論的脳神経科学 の 取り組みが、過去・現在
今後の将来の 各時期ごと に、どのような距離感のもと、互いに影響を及ぼしあってきた（or 及ぼしあっていくべき）（な）のか を、述べている部分 を まとめていきます。
（ 作成中 ）
内容 を どこまで、額面どおり 受け取る べきか ？
ところで、この時期 に、なぜ DeepMind は AI業界についての現状認識 と 将来展望 を、あえて社外に公開する 行動 に踏み切った の でしょうか。
DeepMind社 が、
・ AI業界 の 現状 を どう評価・総括していて、
・ 人工知能の将来 について どのような展望 を描いているの かを、今回、論文 と 対談インタビュー という形 で 社外に公開した こと それ自体 が、取り上げるべき ひとつの分析対象 と なりえます。
いま、このタイミング で、AI業界 の 現状評価と将来展望 を 社外 に発信した その意図 と 狙い（目的） は 何か ？
この点 を 、一歩立ち止まって、考える意味 が あるかもしれません。
その際 に ポイント となる のは、
・ 「いま、このタイミング」とは、DeepMind社 と そのステークホルダー に とって、どのような 時期 であるのか ？
・ 彼らはいま、どのような 状況 におかれているのか ？
・ いま、この論文 と インタビュー を 発信すること で、彼ら は、社会 に向けて、どのような メッセージ を 発信しようとしているのか ？
・ 上記のメッセージ を 社外 に 発信すること で、彼らは、彼らが置かれた 状況と文脈 を、どう変化させよう と 望んでいる のか ？
・ つまり、この論文 と 対談記事 は、いかなる性格 を 持つ 情報発信 なのか ？
です。
以上のポイント について、根拠に裏打ちされた 仮説 を 積み上げた上 で、この文章 を どう読むべきか、その行間 から 何を読み取るべきか、を、慎重に見極める 必要 が あるのかもしれません。__
事によると、この論文と対談インタビューの 狙い は、
・ DeepMind社 が 今後に向けて 手を打っている 布石や施策から、ライバル他社 や 社会 の 目を逸らさせること で、
・ いま、DeepMind が 真に追求している 開発の方向性や課題設定 を 察知されて、気付かれる リスク を 低減 する こと にある など、
DeepMind社 に 向けられる 社外からの眼差し を、ある一定の方向 へと 誘導して、収斂させる こと を 狙った、世論操作・情報操作のオペレーション の一環 である 可能性 も ゼロでは ありません。
このため、この手の文章 に 過度に 振り回されることなく、予断なし で、同社の動向 を 注視し、観察し続ける 姿勢 が 求められます。
もしかしたら、そこまで深読みする 必要はなく、文書で示されているように、
・ DeepMind社外 の 人工知能研究者 と 計算論的神経科学者 が、いまよりもっと積極的に、互いに知見 を 融通させて、相互交流 を 深めて欲しい、
・ そうすること で、汎用人工知能の設計概念 について、より確かで有望なアイデア が、DeepMind社外 から いまより多く 提案される可能性 が 高まり、
・ そのような可能性 が 高まること で、
・ DeepMind社 が あまりにも 時代に先行しすぎる が ゆえに、その取り組み から 生まれた成果 が、産業界 や 親会社であるGoogleの事業の消費者や法人パートナー から 受け入れられない（市場がまだ熟していない）といった状況 を 変えたい
・ 裏返して見れば、世の中の汎用人工知能研究開発の水準 が、人工知能研究と脳研究の知見が本格的に融合すること で、DeepMind社が期待するように 今後、スムーズ に 深まり、発展していかない場合、同社 の 事業環境 は 彼らが望む環境 に なりえない かもしれない ことに対する 焦り と 不快感
が、素直に発信されているだけ なのかもしれません。
いずれの見方 も 根拠となる 傍証材料 が 必要 ですので、今後、色々な角度から、様々な材料 と あわせて、この文書 を 吟味してみる 価値 が ありそう です。
今回、この記事 では、上述の背景分析などの事前の準備 を 行う前 に、「事実 として」、DeepMind社 が 2017年6〜7月 に、どういう内容 を 発信しているかという 「事実確認」 を 行う視点 で、つまりは、語られている内容 を DeepMind社の公式見解 として、公式ベース の 対外見解 として 受け止める姿勢で読み込んで いきたいと思います。
私たち は DeepMind に 追いつき、追い越さなければならない
ところで、
・ 汎用人工知能 は 実現されるべき で あり、
・ DeepMind社 は その方向 に向かってひた走る 課題設定力 と 目標達成力 を 兼ね備えた 素晴らしい会社です。
しかし 私たちは ここで、同社 が ロンドンに拠点 を 構える、Google という 米国企業の一部である という認識 を 忘れてはいけません。__
AI開発 及び AI関連技術の産業化 を めぐる 競争 は 、国力をめぐる競争 であり、世界秩序における覇権 を 左右する 国家間 の 競争 であるから です。
イギリス人 でも アメリカ人 でもなく、さらに UKUSA協定に参加している国の国民 でもない 私たち 日本人 は、DeepMind社 や Amazon、Apple、（Wall St.からの経営評価と株式時価評価 は 振るわないが、Watson事業を擁する）IBM と GE が、AI技術 を あまねく産業界全域に浸透させる上 で 貢献してくれる こと を 好感をもって 歓迎しつつも、同時に、我が国（民間および防衛）産業界 が 世界の市場競争 から 放逐されてしまう ほどまで に、日本企業 より 技術開発 と 技術の事業化 の 両面 で、大きく 先を歩んでしまうこと は、適度な皮膚感覚 をもって 警戒すべき です。
その上で、我々は、いま苛烈な勢い で 深層学習領域における優れた論文 を 量産している 中国 を 横目で 睨みながら、先行する アメリカのAI Tech.企業 が 公開した論文 （真に画期的な技術成果は公開されること は 稀有だと認識しつつ）を 集めて、咀嚼し、明確に記述されていない部分 は 状況文脈 から リバースエンジニアリング すること で、我の伎倆 を 磨いていく 必要 が あるのだと 考えます。
あたかも、著名な文化人 を 羨望の眼差し で 崇拝する かのような 物腰 で、DeepMind や Watson の 動向観測情報 を 追いかける のではなく、みずから 力をつけていく 努力 を 続けるなかで、好敵手 であり、ときにパートナーシップ相手 となりうる 友人 たち の 動向 を 気にかける のが、生存本能 を もった人間 さらには 人間集団 として、健全である のでは ないでしょうか。
【 調査 】「脳の動作原理 の研究」と 「（汎用）人工知能の研究開発」 間の 知見交流 〜 これまでの交流実績の状況 と 今後のあり方 に 関する認識実態の現況からリンク3ヶ月前
