GO DEEPER

scikit-learn 全部理解せよ

kaggle
Deep Learning Monitor
Google Research Blog
MatConvNet
HELLO CYBERNETICS
IoTニュース
JetsonHacks
cvpaper.challenge
御殿場基礎科学研究会

・NVIDIA関連
-[0]さくら、TITAN X搭載GPUサーバサービスの新規提供を一時停止 NVIDIAのライセンス条件変更で - ITmedia NEWS
-[1]NVIDIA GeForceソフトウェアお客様使用ライセンス
-[2]NVIDIA、過去に国立研究機関へのGeForce導入妨害の疑い -WirelessWire News
-[3]NVIDIAが規約変更によりGeForceのデータセンター利用を制限。大学などの研究活動にも大ブレーキ - WirelessWire News
-[4]みんな、これからは深層学習にはGeForceではなくRadeonを使おう - shi3zの長文日記

========== Framework==========
TensorFlow
TensorFlow Object Detection API
TensorFlow Dopamine
Keras
PyTorch
Chainer
ChainerMN
DarkNet
Caffe2
FAIR Detectron
Theano
CNTK
Neural Network Console

========== Data Sets ==========
THE MNIST DATABASE of handwritten digits
Fashion-MNIST
CIFAR
Caltech101
ImageNet
The PASCAL Visual Object Classes Homepage
COCO - Common Objects in Context
The KITTI Vision Benchmark Suite
WildDash Benchmark
animeface-character-dataset
kill_me_baby_datasets

========== Machine Learning ==========
機械学習をゼロから1ヶ月間勉強し続けた結果
ディープラーニングに入門するためのリソース集と学習法(2018年版)
AI技術をぱっと理解する (基礎編)
Coursera - Machine Learning
CS231n: Convolutional Neural Networks for Visual Recognition | Stanford University
機械学習を納品するのは、そんなに簡単な話じゃないから気をつけて
パターン認識と機械学習の学習

The Elements of Statistical Learning : Data Mining, Inference, and Prediction Second Edition
Statistical Learning with Sparsity : The Lasso and Generalizations

解説・講義資料 | 神嶌敏弘先生
東京工業大学 渡辺澄夫先生
ご注文は機械学習ですか?
ディープラーニングブログ
ビジネスに活用するためのAIを学ぶ | Think IT ※誤字・誤記など散見されるため注意して読むこと

【Neural Network】

ニューラルネットワークの動物園:ニューラルネットワーク・アーキテクチャのチートシート(前編)
ニューラルネットワークの動物園:ニューラルネットワーク・アーキテクチャのチートシート(後編)
2016年のディープラーニング論文100選
2017年のディープラーニング論文100選
DeepLearning研究 2016年のまとめ

【初期化】

Xavierの初期値 Heの初期値の考察
ニューラルネットにおける変数の初期化について
・dying ReLU について学ぶ 1, 2, 3,

【最適化】

勾配降下法の最適化アルゴリズムを概観する
勾配降下法の最適化アルゴリズム
高卒でもわかる機械学習 (4) 誤差逆伝播法の前置き
高卒でもわかる機械学習 (5) 誤差逆伝播法 その1
高卒でもわかる機械学習 (6) 誤差逆伝播法 その2
誤差逆伝播法(バックプロパゲーション)

【正規化】

Batch Normalization: Accelerating Deep Network Training by Reducing Internal Covariate Shift
Batch Normalizationの理解

【正則化】

●Stochastic Depth
Deep Networks with Stochastic Depth

●Swapout
Swapout: Learning an ensemble of deep architectures

●Shake-Shake Regularization
Shake-Shake Regularization

●ShakeDrop
ShakeDrop regularization

【Data Augmentation】

[Data Augmentation 第1回] mixup 事始め
[Data Augmentation 第2回] mixup 少量データでの効果測定 (画像編)
[Data Augmentation 第3回] mixup 少量データでの効果測定 (センサーデータ編)
Random Erasing Data Augmentationを試す

AutoAugment: Learning Augmentation Policies from Data

【Pooling】

●Global Average Pooling
Network In Network

【可視化】

Grad-CAM(GradCAM)の論文を流し読む
深層学習は画像のどこを見ている!?CNNで「お好み焼き」と「ピザ」の違いを検証

【Capsule Network】

Dynamic Routing Between Capsules

【CNN】

2016年の深層学習を用いた画像認識モデル
畳み込みニューラルネットワークの最新研究動向(〜2017)
Res netと派生研究の紹介
Convolutional Neural Networksのトレンド
ImageNetによる事前学習について再考した論文 「Rethinking ImageNet Pre-training」を読んだ
Rethinking ImageNet Pre-Training
Explaining and Harnessing Adversarial Examples
DeCAF: A Deep Convolutional Activation Feature for Generic Visual Recognition

■Image Recognition

●AlexNet
ImageNet Classification with Deep Convolutional Neural Networks

●VGG-16, 19
Very Deep Convolutional Networks for Large-Scalse Image Recognition

●VGG-S,M,F
Return of the Devil in the Details: Delving Deep into Convolutional Nets

●GoogLeNet
Going Deeper with Convolutions
References
-[1]Know your meme: We need to go deeper.
-[2]Provable Bounds for Learning Some Deep Representations
-[3]On Two-Dimensional Sparse Matrix Partitioning: Models, Methods, and a Recipe.
-[4]Large Scale Distributed Deep Networks
-[5]Scalable Object Detection using Deep Neural Networks
-[6]Rich feature hierarchies for accurate object detection and semantic segmentation(R-CNN)
-[7]Improving neural networks by preventing co-adaptation of feature detectors
-[8]Some Improvements on Deep Convolutional Neural Network Based Image Classification
-[9]ImageNet Classification with Deep Convolutional Neural Networks (AlexNet)
-[10]Backpropagation Applied to Handwritten Zip Code Recognition
-[11]Gradient-Based Learning Applied to Document Recognition
-[12]Network in Network
-[13]Acceleration of Stochastic Approximation by Averaging
-[14]OverFeat: Integrated Recognition, Localization and Detection using Convolutional Networks
-[15]Robust Object Recognition with Cortex-Like Mechanisms
-[16]Scaling Up Matrix Computations on Shared-Memory Manycore Systems with 1000 CPU Cores
-[17]On the importance of initialization and momentum in deep Learning
-[18]Deep Neural Networks for Object Detection
-[19]DeepPose: Human Pose Estimation via Deep Neural Networks
-[20]Segmentation as Selective Search for Object Recognition
-[21]Visualizing and Understanding Convolutional Networks

Inception-v4, Inception-ResNet and the Impact of Residual Connections on Learning
[Survey]Inception-v4, Inception-ResNet and the Impact of Residual Connections on Learning

●Residual Network (ResNet)
Deep Residual Learning for Image Recognition

Residual Network(ResNet)の理解とチューニングのベストプラクティス

●WideResNet
Wide Residual Networks

●PyramidNet
Deep Pyramid Residual Networks

●ResNeXt
Aggregated Residual Transformations for Deep Neural Networks

●RoR
Residual Networks of Residual Networks: Multilevel Residual Networks

●Xception
Xception: Deep Learning with Depthwise Separable Convolutions

[DL輪読会]Xception: Deep Learning with Depthwise Separable Convolutions

●FractalNet
FractalNet: Ultra-Deep Neural Networks without Residual

●DenseNet
Densely Connected Convolutional Networks

●SqueezeNet
SqueezeNet: AlexNet-level accuracy with 50x fewer parameters and <0.5MBmodel size

●MobileNet
MobileNets: Efficient Convolutional Neural Networks for Mobile Vision Applications

●SENet
Squeeze-and-Excitation Networks

●NASNet
Leaning Transferable Architectures for Scalable Image Recognition
References
-[70]Neural Architecture Search with Reinforcement Learning

●AutoML
Neural Architecture Search with Reinforcement Learning
Large-Scale Evolution of Image Classifier

■Object Detection

TensorFlow Object Detection API
Detectron

物体検出についての歴史のまとめ
Object Localization and Detection

●R-CNN
Rich feature hierarchies for accurate object detection and semantic segmentation
EdgeBoxes: Locating Object Proposals from Edges

●Fast R-CNN
Fast R-CNN

●Faster R-CNN
Faster R-CNN: Towards Real-Time Object Detection with Region Proposal Networks

●Single Shot Multibox Detector
SSD: Single Shot MultiBox Detector

YOLO & YOLOv2 & YOLOv3

●FPN
Feature Pyramid Networks for Object Detection

RetinaNet
Focal Loss for Dense Object Detection

[DL輪読会]Focal Loss for Dense Object Detection

■Semantic Segmentation

ディープラーニングにおけるセマンティックセグメンテーションのガイド2017年版
Semantic Segmentation of Point Clouds using Deep Learning

Large-scale Point Cloud Semantic Segmentation with Superpoint Graphs
SEGCloud: Semantic Segmentation of 3D Point Clouds
Unstructured point cloud semantic labeling using deep segmentation networks

●FCN
Fully Convolutional Networks for Semantic Segmentation

●U-Net
U-Net: Convolutional Networks for Biomedical Image Segmentation

●Mask R-CNN
Mask R-CNN

■CNN-SLAM

CNN-SLAM: Real-Time Dense Monocular SLAM
第41回関東CV勉強会 CNN-SLAM

【RNN】

わかるLSTM 〜 最近の動向と共に
LSTMネットワークの概要
State-of-the-Art を達成したニューラル機械翻訳 2017年
人工知能時代の音楽制作への招待 - Google Magenta 解説&体験ハンズオン (自習編)

【Attention】

【GAN】

はじめてのGAN
Geometry Score 〜GANの性能評価〜
High-Resolution Image Synthesis and Semantic Manipulation with Conditional GANs
Everybody Dance Now

●Adversarially Learned One-Class Classifier for Novelty Detection
ディープラーニングによる異常検知手法ALOCCを実装した
GitHub
Adversarially Learned One-Class Classifier for Novelty Detection

【Neural Machine Translation】

State-of-the-Artを達成したニューラル機械翻訳2017年
Attention is All You Need
Understanding Back-Translation at Scale

【Deep Q-Network】

最近のDQN

【Deep Boltzmann Machines】

Deep Boltzmann Machines

【SVM】

サポートベクターマシン - 産総研 赤穂先生
SVM、ニューラルネットなどに共通する分類問題における考え方 - Hello Cybernetics
サポートベクターマシンの概要

【カーネル法】

カーネル法入門 1.カーネル法へのイントロダクション - 統数研 福水先生

【アンサンブル学習】

アンサンブル学習(Ensemble learning)とバスケット分析(basket analysis)

【強化学習】

ゼロからDeepまで学ぶ強化学習

【転移学習】

Improving predictive inference under covariate shift by weighting the log-likelifood function

【情報幾何学】

情報幾何で見る機械学習 -産総研 赤穂先生
情報幾何と機械学習 -産総研 赤穂先生
情報幾何への入門と応用
情報幾何学と幾何学的力学系理論のための融合ノート
情報幾何学と統計多様体の幾何学

【Topological Data Analysis・位相的データ解析】

移送と集合
位相的データ解析の基礎と応用
位相的データ解析の現在
Persistence Weighed Gaussian Kernel for Topological Data Analysis
パーシステンスホモロジーと機械学習
パーシステンス図の逆問題
トポロジカルデータアナリシスと時系列データ解析への応用

Julien Tierny - Home Page
Julien Tierny - Topological Data Analysis Class
TTK - the Topology ToolKit
HomCloud

【その他】

状態空間モデルの考え方・使い方

 

========== Computational Fluid Dynamics ==========

【界面追跡】

【界面捕獲】

【MPS】

【SPH】

【Lattice Boltzmann】

【Non-Newtonian Fluid】

公開日:
最終更新日:2018/11/29