- 人工知能・AI
ニューラル・コンピュータとは何か
はじめに (ニューラル・コンピューターとは何か?)
講座紹介
■概要
現在のニューラル・ネットワークのモデルは、基本的には、次の三種類です。
・DNN (Deep Neural Network: Full Connect Perceptron )
・CNN (Convolutional Neural Network )
・RNN (Recurrent Neural Network )
ここにきて、第四のモデルとしての「ニューラル・コンピュータ」に注目が集まっています。
それは、画像認識が得意なCNNや、自然言語処理のようなSequence to Sequenceの処理が得意なRNNのように、特定の課題にフォーカスしたモデルではなく、むしろ、外部メモリーを活用する現在のコンピュータのアーキテクチャーそのものを、ディープ・ラーニング技術の知見を生かして拡張しようとする意欲的なものです。
興味深いのは、そのアーキテクチャーが挑戦している課題は、上記の三つのモデルでは解くのが難しかった、ヒューリスティックな、あるいは、論理的な「推論」を機械に実行させることです。
講演では、GoogleのDeepMind チームがNatureに公開した論文の解説を行います。
次の資料を参照ください。
「可微分ニューラルコンピュータとは何か(1) 概論」
http://maruyama097.blogspot.com/2017/03/blog-post_17.html
「可微分ニューラルコンピュータとは何か(2) システム概観」
http://maruyama097.blogspot.com/2017/03/blog-post_18.html
現在のニューラル・ネットワークのモデルは、基本的には、次の三種類です。
・DNN (Deep Neural Network: Full Connect Perceptron )
・CNN (Convolutional Neural Network )
・RNN (Recurrent Neural Network )
ここにきて、第四のモデルとしての「ニューラル・コンピュータ」に注目が集まっています。
それは、画像認識が得意なCNNや、自然言語処理のようなSequence to Sequenceの処理が得意なRNNのように、特定の課題にフォーカスしたモデルではなく、むしろ、外部メモリーを活用する現在のコンピュータのアーキテクチャーそのものを、ディープ・ラーニング技術の知見を生かして拡張しようとする意欲的なものです。
興味深いのは、そのアーキテクチャーが挑戦している課題は、上記の三つのモデルでは解くのが難しかった、ヒューリスティックな、あるいは、論理的な「推論」を機械に実行させることです。
講演では、GoogleのDeepMind チームがNatureに公開した論文の解説を行います。
次の資料を参照ください。
「可微分ニューラルコンピュータとは何か(1) 概論」
http://maruyama097.blogspot.com/2017/03/blog-post_17.html
「可微分ニューラルコンピュータとは何か(2) システム概観」
http://maruyama097.blogspot.com/2017/03/blog-post_18.html
授業一覧
はじめに (ニューラル・コンピューターとは何か?) お試し視聴 | 08:32 |
---|---|
Differentiable Neural Computer |
19:29 |
ニューラルネットワークの基本的モデルとメモリー利用スタイル (DNN, CNN, RNN, Attention) |
14:33 |
コンピュータとシステムのアーキテクチャーの変化 |
04:00 |
DNCシステムの概観 |
09:17 |
DNCが取り組んだ三つの課題 |
14:59 |
Methods DNCの実装の詳細 |
26:42 |
人工知能研究のパースペクティブ |
15:34 |