ﾃﾚﾝｽ・J・ｾｲﾉﾌｽｷｰ／監訳 銅谷賢治 「ディープラーニング革命」ﾒﾓ
テレンス・J・セイノフスキー 監訳 銅谷賢治
「ディープラーニング革命」メモ
第２部 さまざまな学習方法
第11章 神経情報処理システム（NIPS)カンファレンス
----------------------------------------------------------------------------------
【まとめ】
・ディープラーニングを軌道に乗せたのはビッグデータで、インターネット上の何百万ものラベル付きデータがなければ、大規模なディープラーニングネットワークの学習は不可能。
・機械学習で勝者となるのは多くのデータを持つ者で、フェイスブックは人々の好みや友達、写真などのデータを誰よりも持っている。
・フェイスブックは我々の心の理論を構築し、我々の好みや政治的傾向を予測可能で、フェイスブックのほうが、我々のことを我々自身よりも知るようになるかもしれない。
----------------------------------------------------------------------------------
・NIPSをつなぎとめてきたのは、生物学に発想を得た学習アルゴリズムにより、自分たちが計算上の難題を解決しようとしているのだという空気。・ディープラーニングを軌道に乗せたのはビッグデータ。
・インターネット上の何百万もの画像をはじめとしたラベル付きデータがなければ、大規模なディープラーニングネットワークの学習は不可能。
・機械学習で勝者となるのは、多くのデータを持つ者。
・フェイスブックは人々の好みや友達、写真などのデータを誰よりも持っている。
・膨大なデータを利用し、フェイスブックは我々の心の理論を構築し、我々の好みや政治的傾向を予測可能。
・フェイスブックのほうが、我々のことを我々自身よりも知るようになるかもしれない。
・ディープラーニングは、ハイテク業界でビッグデータをもっているほぼすべての企業に導入されている。
・ニューラルネットワークの学習におけるブレイクスルーは３０年ごとに起きる。
・１９５０年代：パーセプトロン
１９８０年代：多層パーセプトロンの学習アルゴリズム
２０１０年代：ディープラーニング
・短期間で急進歩し、長期間の緩やかな漸進的進歩が続く。
・急激な進歩の期間のインパクトが、ブレイクスルーが起こるたびに増大している。
・最新の発展はビッグデータの活用で加速された。
・NIPSの歴史は、この日に備えるためのものだった。
