ありのままに生きる

社会不適合なぼっちおやじが、自転車、ジョギング等々に現実逃避する日々を綴っています。

ディープラーニング革命

テレンス・J・セイノフスキー/監訳 銅谷賢治 「ディープラーニング革命」メモ  

ディープラーニング革命

ディープラーニング革命

 

 人工知能について知りたいと思い、良さそうな本があったので購入した。ちょっとずつ読んでいこう。 

テレンス・J・セイノフスキー  監訳 銅谷賢治
ディープラーニング革命」メモ

第1部 新たな着想による知能
第1章 機械学習の台頭
----------------------------------------------------------------------------------
【まとめ】
ディープラーニング機械学習の一分野で、ディープニューラルネットワークがデータから学習し、無知の状態から、新たな環境のなかで目的を満たすのに必要な技を徐々に獲得する。
・同じ学習アルゴリズムを多種多様な問題の解決に用いることができ、問題ごとに違うプログラムを書くより効率的。
ディープラーニングは、自動運転や自動翻訳、音声認識囲碁・チェスプログラム、物理・天文学のデータ分析、教育分野などに広く利用されている。
----------------------------------------------------------------------------------


・コンピュータはたいていの大人とほぼ同程度に画像の中の物体を認識できるようになっている。
・コンピュータの視覚で制御された車の自動運転は平均的な16歳の若者よりも安全。
・これらのコンピュータは物の見方や運転方法を教えられたわけではなく、自身の経験から学んだ。
・進化の源は、湧き出る大量のデータ。
・データが新たな原油で、学習アルゴリズムが製油所となり未加工データから情報を抽出する。
・情報を使い知識をつくる→知識は理解に→理解は知恵となる。
ディープラーニング


ディープラーニング
機械学習の一分野
・ルーツは数学、コンピュータ科学、神経科
・ディープニューラルネットワーク(脳の神経回路のなす回路を模したネットワーク)が、データから学習する。
・無知の状態から、新たな環境のなかで目的を満たすのに必要な技を徐々に獲得する。

・起源は1950年代に誕生した人工知能(AI)に遡る。
・当時のAIをつくる方法
 ①論理とコンピュータープログラムに基づくもの
 ②データから直接学習するという考え方

・コンピュータの能力が貧弱な時期は、論理こそが問題解決の効率的な方法。
・問題ごとにプログラムが必要で、問題が大きいほどプログラムも大きくなった。
・今日はコンピュータの処理能力が強大になり、膨大なビッグデータを利用可能。
・学習アルゴリズムを用いた問題の解決が、より速く・正確・効率的になった。
・同じ学習アルゴリズムが多種多様な問題の解決に用いることができる。
→問題ごとに違うプログラムを書くよりずっと少ない労力で済む解決策


◎自動運転の学習
DARPA主催の2005年のグランド・チャレンジを制した自動運転車のスタンリーは、機械学習によりカリフォルニア州の砂漠をわたる方法を学習した。
・スタンリーを砂漠じゅうを走らせることで、スタンリーは自分で視覚センサーや距離センサーからの入力から、どう運転するか計画することを学習した。
・自動運転車の特別な点:どれか1台が稀な出来事を経験すれば、その学習経験を他のすべての自動運転車にも伝えられること。
集団知能の一つの形。


◎自動翻訳の学習
・自動翻訳は、人工知能にとっての聖杯、究極の目標の一つ。
・翻訳には文章を理解する能力が必要。
・グーグル翻訳はディープラーニングを使い、自然言語間の翻訳精度が飛躍的に向上した。
・コンピュータによる従来手法:まとめて翻訳できる語の組み合わせを検索する
ディープラーニング:文章全体の依存関係を探す


音声認識の学習
人工知能のもう一つの聖杯は音声認識
・複数話者に対する音声認識ベンチマークテストにて、120の層をもつディープラーニングネットワークが人間と同程度の成績を上げている。
・自動翻訳、音声認識、コンピュータの他の認知能力のブレイクスルーを後押ししたのは、ビッグデータ


囲碁の学習
・2016年3月、囲碁の世界タイトルを18回獲得したイ・セドルが、ディープマインド社のアルファ碁との5番勝負で負けた。
・アルファ碁:碁を打つプログラムで、ディープラーニングネットワークにより盤面を評価し、可能な手を検討する。
囲碁の実現可能な局面数は10の17乗で、宇宙全体の原子の個数より大きい。
・アルファ碁が使う学習システムは「時間的貢献度分配問題」を解くのに使われるシステム。
<時間的貢献度分配問題>
・どの手が勝利に貢献したか、どの手が敗因となったのかを判断する
・アルファ碁は、大脳基低核と同じ学習アルゴリズムを使い、自分自身との対戦を際限なく繰り返すことで学習した。


アルファ碁ゼロは、碁のルールのみからスタートし、碁の打ち方を学び、アルファ碁を100対0でこてんぱんにした。
アルファ碁ゼロはアルファ碁よりも100倍の速さで学習し、コンピュータ処理能力は10分の1しか使っていない。
・人間の知識を完全に無視することで、アルファ碁ゼロは超・超人となった。
・最新版のアルファゼロからは碁の専門知識も取り除かれた。
・アルファゼロはさらに速く学習し、アルファ碁ゼロに圧勝した。
・学習パラメータを一つも変えていないアルファゼロが、チェスの指し方を超人レベルで学習し、誰もやったことのない異質な駒の動かし方をした。
・アルファゼロは、最強のチェスプログラムに全勝した。


◎より高い知能を身につける方法の学習
・「知能」も「意識」も定義するのが難しい。
流動性知能>
・それまでの知識に頼らず、推論とパターン認識を用い、初めての状況で新しい問題を解決する際の知能。
・発達曲線に従い、成人期の初期にピークを迎え、加齢とともに減少。

<結晶性知能>
・それまでの知識に依存する知能であり、標準化IQテストで測られる
・かなりの高齢となるまで、年齢とともに時間をかけて漸近的に増加。

・アルファ碁は、狭い領域ではあるが、流動性知能と結晶性知能の両方を示す。
・その領域に限り、驚くほどの創造性も見せる。


・アルファ碁で使用している強化学習アルゴリズムは、多くの問題に適用可能。
・この学習方式は、一連の手をすべて打ち終えた後の勝者に与えられる報償のみに依存。
・この方法で序盤の打ち方を改善できる。
強化学習と強力なディープラーニングネットワークを組み合わせ、特定領域ごとの知能を多数生み出せる。


・人間のプレーヤーの知能が機械で増強される状況が増えている。
ディープラーニングは、あらゆる種類の人の知能を強化する。


・人間では探索不能な物理学や天文学の巨大なデータセットを分析するため、機械学習が使われるようになってきている。
ディープラーニングによりデータ解析の手法を大きく増強可能。


ソーシャルメディアのサイトで明かした情報は、当人専属のデジタル・アシスタントを作り出すのに使われる。
・デジタル・アシスタントは、この世界の誰よりも当人のことを知っていて、何一つ忘れず、実質的に仮想的な分身となる。


・教育分野でのテクノロジーの利用(エドテック:EdTech)は急激に進歩しており、個々の生徒に対応した教育への移行は自動運転よりも早く進めることが可能。
・懸念材料は、デジタル・アシスタントやデジタル教師の内部ファイルへのアクセスを誰に許すか。


・本書の二つの絡み合うテーマ
 ①人間の知能がどのように進化してきたか
 ②人工知能がどのように進化していくか
・2種類の知能の大きな違いは、①は何百万年かけて進化したのに対し、②は十年単位の軌跡で進化していること。