ﾃﾚﾝｽ・J・ｾｲﾉﾌｽｷｰ／監訳 銅谷賢治 「ディープラーニング革命」ﾒﾓ
テレンス・J・セイノフスキー 監訳 銅谷賢治
「ディープラーニング革命」メモ
第17章 自然は私たちよりも賢い
----------------------------------------------------------------------------------
【まとめ】
・強化学習との組み合わせで、目標達成のために多数の選択が必要な複雑な問題の解決が可能で、これが問題解決の本質であり、知能の基本。
・生得的であるのは文法ではなく、経験から言語学習する能力と、豊かな認知的文脈の中で発せられた言葉の高次の統計的特性を吸収する能力。
・一般的に通用する知能を発達させるうえで、最も中心的役割を果たすのが学習。
----------------------------------------------------------------------------------
●オーゲルの第二法則
・進化はあなたよりも賢い
・意識的知覚は氷山の一角。
・脳の働きの大部分は省みることができない。
・鋭敏な視力をもつ中心窩は１度の範囲しか見ることができない。
・目の位置を素早く変えることができるため、目に映るすべてが高解像度であるという幻想を抱いている。
・周辺視野は、空間解像度は低いが明るさ・動きの変化には敏感。
・視覚野には、空間内の動きだけを認識する。
・コンピュータ・ビジョンには、完全で正確なモデルは不要かもしれない。
・脳が表現するのは外界のごく限られた部分だけ。
・瞬間ごとの、目の前の作業を行うために必要な部分に限定。
→報酬の獲得に寄与する可能性のある感覚入力の個数を絞り込むのも楽。
・視覚系：情景に含まれる各物体の値を示す報酬系からの信号など、他の流れから得た情報を統合する。
・運動系：感覚器官を能動的に動かして情報を探す。
→目や耳を動かして、報酬を得られる行動につながる情報を集める。
・脳は、長い時間をかけ、環境に対して漸進的に適応しながら進化してきた。
・自然には、古い脳のシステムを捨てる余裕がなかった。
・今ある設計図をいじり、場合により、新しい制御用の層を付け足した。
・遺伝子重複：複製した遺伝子を自身に組み込み、片方の遺伝子が突然変異を起こして新機能を得られるようにする方策。
・全ゲノムの重複も起こりえて、その場合は完全に新しい種がうまれることもある。
●ノーム・チョムスキーへの反証
・行動主義者：感覚という入力を、運動という出力に変換するものとして行動にアプローチする心理学者。
・連合学習：行動主義で最も注目されたもので、報酬の提示についてさまざまなパターンを使い動物を訓練することで、多くの学習法則が発見された。
・ディープラーニングで明らかになったこと：
脳の神経回路網と同様、モデルのニューラルネットワークも、チョムスキーが「神秘主義」とはねつけて「一般化」が可能。
・文の自動構文解析の問題も機械学習により解決された。
・強化学習との組み合わせで、目標達成のために多数の選択が必要な複雑な問題の解決が可能。
→問題解決の本質であり、知能の基本。
●想像力の貧困
・生得的であるのは文法ではない。
・生得的であるのは、経験から言語学習する能力と、豊かな認知的文脈の中で発せられた言葉の高次の統計的特性を吸収する能力。
・単語の語順よりも、単語の意味や単語同士の関係性に基づく意味論のほうが重要。
・単語は、脳のなかで豊かな内部構造により表現されている。
●ブラックボックスへの反証
・行動主義と認知主義は、どちらも脳を無視するという同じ過ちを犯していた。
・行動主義者：内部を見ることにより惑わされるのを嫌がり、脳に指針を求めないことを行動主義の誇りと考えた。ブラックボックスの入出力を綿密に制御すれば、どんな現象も説明可能な行動の法則を発見できると信じた。
・認知主義者：心の内部表現を発見できると信じ、行動主義を退けた。彼らが構築した内部表現は、信用できない直感と日常心理学に基づいていた。
・ブラックボックスの内部状態は極めて複雑。
・内部表現と行動の法則を発見するのは、すこぶる難しいこと。
・行動の法則の発見には、脳の助けを最大限かりる必要がある。
・ディープラーニングネットワークは、脳のアーキテクチャーの全般的特徴と脳の機能の全般的原則に注目したことから進展が得られたという好例。
・試行ベースのタスクでは、習慣的行動の背後のメカニズムは明らかにできるが、認知的行動の背後のメカニズムはわからない。
・感覚にも運動にも関連しない内部活動（意識的思考と無意識的処理を含む）を研究するための新しい手法が必要。
・脳画像法を用いた実験により、自然に起こる休息状態での脳の活動がわかってきた。
・脳画像法、特にfMRI（機能的磁気共鳴画像法）は、「神経経済学」という新分野を生み出した。
●マーヴィン・ミンスキーへの反証
・脳は、だたじっとして抽象的思考を生み出しているのではない。
・脳は身体のあらゆる部位と密接につながっている。
・各部位は、感覚受容器と運動効果器を通して外界と密接につながる。
・生物学的な知能は、身体に組み込まれている。
・脳は、外界との関わりを通して、長い成熟のプロセスを経て発達してきた。
・学習は、発達と同時に起こるプロセスであり、大人になってからも続く。
・一般的に通用する知能を発達させるうえで、最も中心的役割を果たすのが学習。
・人工知能における最も難しい未解決問題の一つが「常識」。
・常識は、子供には著しく欠けていて、ほとんどの大人において、外界で長年の経験を積んだ後にようやくゆっくり現れるもの。
・感情と共感能力も、知能の重要な側面。
・感情は、局所的な脳の状態により決定できない行動に対し、脳に準備させる、大域的な信号。
