ありのままに生きる

社会不適合なぼっちおやじが、自転車、ジョギング等々に現実逃避する日々を綴っています。

ディープラーニング革命

テレンス・J・セイノフスキー/監訳 銅谷賢治 「ディープラーニング革命」メモ  

ディープラーニング革命

ディープラーニング革命

 

 

 ディープラーニング革命を読み終えた。

 本書の著者はニューラルネットワーク研究の第一人者の方で、その創成期から現在までの歴史を振り返りつつ、ニューラルネットワークに関わる研究や成果を紹介・解説している。

 

 コンピュータ科学も脳の神経科学的なこともたいして知らないので、深く理解することはできなかったけれど、人間の脳や知能、意識の研究をすることは知的興奮に溢れているんだろうなあと感じた(それに参加できる頭脳はもちあわせていないけど...)。

 

 ディープラーニング機械学習の一分野で、ディープニューラルネットワーク(人間の脳の神経細胞のなす回路を模したネットワーク)が、データから学習する。

 ディープラーニングを用いた囲碁のソフトは、碁の基本的なルールだけを与えられ、何百万回も自分自身と対戦して強くなり、もはや人間では太刀打ちできないくらいに強くなったようだ。

  ディープラーニングは自動運転や自動翻訳、音声認識など様々なことに応用されて成果をあげているけれど、まだまだ人間の知能や意識、心は分からないことだらけで、だからこそ面白い。

 

 著者が最後に述べているのは、自然は個の人間よりも賢いが、人間が束になってかかれば、いつか知能の謎を解き明かすことが出来るかもしれないということだ。

 自然科学全般に言えることだろうけど、自然に学びつつ、その背後にある仕組みを明らかにしようとする挑戦は、ずっと続くのだろう。

 

テレンス・J・セイノフスキー  監訳 銅谷賢治
ディープラーニング革命」メモ

 

第3部 テクノロジーと科学の衝撃

第18章 ディープインテリジェンス
----------------------------------------------------------------------------------
【まとめ】
・人間は自然のなかでトップレベルの学習者で、現代文明を可能にしたのは、読み・書き・学習。
・自然の中には、人工的システムのお手本になる知的行動があふれている。
・自然は人間個人よりも賢が、人間という種の全体であれば、いつか知能という謎を解くことができるかもしれない。
----------------------------------------------------------------------------------
●知能の進化
・人間は自然のなかでトップレベルの学習者。
・人間は「教育」というテクノロジーをつくりあげた。
・読み書きという発明により、本が印刷され、読まれることで、口伝よりも多くの知識を蓄積し、それを次世代に受け継ぐことが可能となった。
・現代文明を可能にしたのは、読み・書き・学習。


●私たちはどこから来たのか
・ヒト属の系統がチンパンジーから枝分かれしたのは約600万年前。
チンパンジーは知的能力が極めて高いが、その知能は人間の知能とは異なる。
・30億のDNA塩基対のなかで、人間とチンパンジーの違いは1.4%。
・DNAの90%は解読法がわからない。
・人間とチンパンジーの違いのほとんどは、分子レベルにある。
・分子レベルでの差は非常に微細。
→自然は私たちよりも賢い。


●生命の倫理
・オーゲルの第一法則:細胞内の基本的な反応は、その反応の触媒となる酵素を進化させた。
酵素は反応の促進だけでなく、他の分子との相互作用で反応を調節可能。
→細胞の効率性と適応性が高まる。
・はじめに巧妙な反応経路を用意し、それから酵素を追加、経路のバックアップをつくり、その反応経路を徐々に洗練させる。
・コアプロセスがなければ、どれも意味をなさない。
・コアプロセスは、細胞でいえば、DNAの管理と複製。


単細胞生物は、さまざまな条件に適用し、多くの特殊進化を遂げた。
大腸菌のようなバクテリアは、食料源に向かい、濃度勾配の高いほうへ進むためのアルゴリズムを発達させた。
バクテリアは勾配を直接検出するには小さすぎるため、周期的にランダムな方向転換をする走化性を使う。
・濃度が高いときは泳ぐ時間を長くすることで、バクテリアは確実に勾配の高いほうに進むことができる。
バクテリアは、生物学者よりも賢い。
生物学者は、なぜパクテリアがこれほど幅広い環境で生存可能なのか解明できていない。
・多細胞の動物では、さらに複雑な知能のかたちが見られる。


強化学習を支える時間差分学習アルゴリズムにより、極めて複雑な行動が実現しうる。
・人間では、大脳皮質のディープラーニングによりさらに複雑化されている。
・自然の中には、人工的システムのお手本になる知的行動があふれている。
アルゴリズム生物学(algorithmic biology):コンピュータ科学と生物学にまたがる新しい科学分野
 生物システムが用いる問題解決戦略をアルゴリズムという表現法で説明を試みている。


ディープラーニングはコスト関数の最適化に頼る。
・自然のコスト関数とは?
・「適応度」:進化におけるコストの逆数
・この概念は、環境もしくは最適化するシステムの具体的な制約条件が揃ってはじめて意味をもつ。
・脳が備えている、行動を制御するある種の生得的なコスト
 →食べ物、温度、安全、酵素、生殖などの欲求
強化学習:将来獲得できる報酬を最適化するための行動をとる。
・生存に関わる報酬の他、最適化の対象となりうる報酬はより幅広い。
・なんらかの普遍的コスト関数は内在するのか?


・脳が働く仕組みを説明できる、エレガントな概念的枠組みはない。
・学習アルゴリズムは、統一的な概念を見つけるのによい場所。
ディープラーニングネットワークが、現実的な問題を解決する方法を深めていくなかで、より多くのヒントがみつかるだろう。
・自然は、人間個人と比較して賢いかもしれないが、人間という種の全体であれば、いつか知能という謎を解くことができるかもしれない。