ディープラーニング革命

テレンス・J・セイノフスキー/監訳 銅谷賢治 「ディープラーニング革命」メモ  

ディープラーニング革命

ディープラーニング革命

 

テレンス・J・セイノフスキー  監訳 銅谷賢治
ディープラーニング革命」メモ

第1部 新たな着想による知能

第4章 脳型コンピューティング
----------------------------------------------------------------------------------
【まとめ】
認知科学における言語への古典的アプローチは記号表現に基づいていたが、抽象概念は論理プログラムで定義するのは困難。
・並列で機能し、例から学習する単純な処理ユニットからなるネットワークが、認知機能を理解するための優れた方法。
・計算神経科学:ニューロンの働きは、情報を伝える信号処理であり、計算の理論こそが自然を理解しようとする際のミッシングリンク
----------------------------------------------------------------------------------


・1980年当時、人工知能分野で支配的だったパラダイム:知的活動を体系化するため、記号や論理、ルールを使うプログラムを書くのが基本。
認知心理学者たちは人間の認知機能、言語について理解するためこの方法を採用していた。
・ジェフリー・ヒントンは、並列で機能し、例から学習する単純な処理ユニットからなるネットワークが、認知機能を理解するための優れた方法だと信じた。


認知科学における言語への古典的アプローチは記号表現に基づく。
・「コップ」は、コップの概念を表す記号であり、あらゆるコップを表す。
・記号の良い点:複雑な概念を圧縮した上で操作できること。
・記号の問題点:圧縮されすぎているため、現実世界に対応づけしにくいこと。
・なにがコップでなにがコップでないかを特定したり、画像のなかのコップを認識できる論理プログラムは存在しない。
・正義・平和のような抽象概念は、論理プログラムで定義するのはさらに困難。
 ↓↓↓
<別のアプローチ>
・非常に多くのニューロンの活動パターンによりコップを表現し、概念の間の類似点と相違点をとらえられるようにすること。
・記号に、その意味を反映する豊かな内部構造が与えられる。
・1980年代には、このような内部表現をつくる方法を誰も知らなかった。


・1980年代、ネットワークモデルで知的活動を実現する可能性を信じていた世界中の科学者たちは、孤立しながらも努力を続け、独自のネットワークモデルの開発を進めた。
●クリストフ・フォン・デア・マルスブルク
・発火してスパイクを生じる人工ニューロンを結合することでパターン認識を行うモデルを開発。
・画像の中の顔認識が可能になることが示された。

NHK放送化学研究所の福島邦彦
・ネオコグニトロンを発明。
・視覚系アーキテクチャに基づく多層ネットワークモデルで、畳み込みフィルタと単純な形のヘッブ型シナプス可塑性を用い、ディープラーニングネットワークの先駆け。

●テウヴォ・コホネン
・類似する入力を集めて2次元マップ上での分類を学習する自己組織化ネットワークを開発。
・入力に対する分類ラベル(正解)を用意する必要がないのが利点。

●ジューディア・パール
・確率論的ネットワークを体系化する初期の有望な試みである「信念ネットワーク(beliefnetwork)」を提唱。
・ネットワークのユニットの連結に確率を用いる。

<ネットワークベースのモデルの致命的な欠陥>
・実世界の問題を解決できるほど有用に機能したものがなかった。

 

・ディビッド・マーはボトムアップの戦略に従い、光が電気信号へ変換される網膜から取り組みを始めた。
・網膜中の信号がどのように物体の特徴を符号化し、視覚野がどのように物体表面や境界を表現するかを追求。
立体視のためのフィードバック構造をもつ再帰型ニューラル・ネットワークを構築。
→物体の奥行きを検知できた


・ジョージ・ブール:論理と確率の数学的な理論の基礎となる思考法則の研究→「ブール論理」
・論理表現の操作に関するブールの洞察は、デジタルコンピューティングの心臓部で、人工知能の研究の出発点。
・確率論は現代の機械学習の核心部で、現実世界の不確実性について、論理よりもうまく説明できる理論。
・ブールもまた、機械学習の祖の1人。


・脳を理解するという問題のアプローチ:非線形相互作用をもつニューロンのネットワークの式を書き下ろし、それを解析する。
ニューラルネットワークの方程式は非線形で、解析解をもたない。


無脊椎動物の神経系のほうが、より進化している生物種の神経系よりも複雑。
無脊椎動物は少ない数のニューロンで生き延びなければならないため、ニューロンそれぞれが高度に特殊化している。
・行動という視点がなければ、神経科学は何の意味もなさない。


シナプスは脳の基本的な計算要素であり、シナプスの種類の多様性がそれに役立っている。
・脳の理解には、自然がどのようにはるか昔から進化を通して問題を解決し、進化のはしごを上るたびにその解決策を種から種へわたしてきたのかを理解しなければならない。
・脳のイオンチャンネルは、何十億年も前に細菌で進化した機構。


・脳の回路には「目的」がある。
・この世界で生き残るため、見たり動き回ったりするための計算上の問題を解くという目的。
ニューロンの働きとは、情報を伝える信号処理であり、計算の理論こそが自然を理解しようと
する際のミッシングリンク
→「計算神経科学」