Open 2017.07.26
crash.academy
はじめに （ニューラル・コンピューターとは何か？）
■ 動画紹介
■概要
現在のニューラル・ネットワークのモデルは、基本的には、次の三種類です。
・DNN (Deep Neural Network: Full Connect Perceptron )
・CNN (Convolutional Neural Network )
・RNN (Recurrent Neural Network )
ここにきて、第四のモデルとしての「ニューラル・コンピュータ」に注目が集まっています。
それは、画像認識が得意なCNNや、自然言語処理のようなSequence to Sequenceの処理が得意なRNNのように、特定の課題にフォーカスしたモデルではなく、むしろ、外部メモリーを活用する現在のコンピュータのアーキテクチャーそのものを、ディープ・ラーニング技術の知見を生かして拡張しようとする意欲的なものです。
興味深いのは、そのアーキテクチャーが挑戦している課題は、上記の三つのモデルでは解くのが難しかった、ヒューリスティックな、あるいは、論理的な「推論」を機械に実行させることです。
講演では、GoogleのDeepMind チームがNatureに公開した論文の解説を行います。
次の資料を参照ください。
「可微分ニューラルコンピュータとは何か（１） 概論」
http://maruyama097.blogspot.com/2017/03/blog-post_17.html
「可微分ニューラルコンピュータとは何か（２） システム概観」
http://maruyama097.blogspot.com/2017/03/blog-post_18.html
現在のニューラル・ネットワークのモデルは、基本的には、次の三種類です。
・DNN (Deep Neural Network: Full Connect Perceptron )
・CNN (Convolutional Neural Network )
・RNN (Recurrent Neural Network )
ここにきて、第四のモデルとしての「ニューラル・コンピュータ」に注目が集まっています。
それは、画像認識が得意なCNNや、自然言語処理のようなSequence to Sequenceの処理が得意なRNNのように、特定の課題にフォーカスしたモデルではなく、むしろ、外部メモリーを活用する現在のコンピュータのアーキテクチャーそのものを、ディープ・ラーニング技術の知見を生かして拡張しようとする意欲的なものです。
興味深いのは、そのアーキテクチャーが挑戦している課題は、上記の三つのモデルでは解くのが難しかった、ヒューリスティックな、あるいは、論理的な「推論」を機械に実行させることです。
講演では、GoogleのDeepMind チームがNatureに公開した論文の解説を行います。
次の資料を参照ください。
「可微分ニューラルコンピュータとは何か（１） 概論」
http://maruyama097.blogspot.com/2017/03/blog-post_17.html
「可微分ニューラルコンピュータとは何か（２） システム概観」
http://maruyama097.blogspot.com/2017/03/blog-post_18.html
■ コンテンツ一覧
- はじめに （ニューラル・コンピューターとは何か？） (00:08:32) >>
- Differentiable Neural Computer (00:19:29) >>
- ニューラルネットワークの基本的モデルとメモリー利用スタイル （DNN, CNN, RNN, Attention) (00:14:33) >>
- コンピュータとシステムのアーキテクチャーの変化 (00:04:00) >>
- DNCシステムの概観 (00:09:17) >>
- DNCが取り組んだ三つの課題 (00:14:59) >>
- Methods DNCの実装の詳細 (00:26:42) >>
- 人工知能研究のパースペクティブ (00:15:34) >>
■講師・スピーカー紹介
- 丸山 不二夫
- 東京大学教育学部卒業。一橋大学大学院社会学研究科博士課程修了。稚内北星学園大学学長、早稲田大学大学院情報生産システム研究科客員教授等を歴任。オープンソースのコミュニティ活動に積極的に参加。日本Javaユーザー会名誉会長。日本Androidの会名誉会長。クラウド研究会代表。 近年では、日本のIT業界がグローバルな技術イノベーションの一翼を担うことを目標に、連続講演会「マルレク」を主宰し、クラウドコンピューティングや人工知能などの技術について講演を行っている。
丸山事務所(マルレク)： http://www.digital-life365.com/
日本Androidの会： https://www.android-group.jp/
過去の講演資料： https://goo.gl/XM5YsT
2016 年9月更新
関連動画
