深度學習及其優化方法概述(PPT 54頁)

Outline
深度學習的概念
DL訓練過程
自動編碼器
稀疏自動編碼器
Loss Function一般形式
數學概念
優化方法
優化方法-Momentum
優化方法-Nesterov
優化方法-Adagrad
優化方法-Adadelta
優化方法-RMSprop
優化方法-Adam
優化方法-Adamax
優化方法-Nadam
優化方法-Visualization of algorithms
優化方法-建議
..............................