傳送門: https://www.cnblogs.com/greentomlee/p/.html
github: Leezhen2014: https://github.com/Leezhen2014/python_deep_learning
在第二篇中介紹了用數值微分的形式計算神經網絡的梯度,數值微分的形式比較簡單也容易實現,但是計算上比較耗時。本章會介紹一種能夠較為高效的計算出梯度的方法:基于圖的誤差反向傳播。
根據 deep learning from scratch 這本書的介紹,在誤差反向傳播方法的實現上有兩種方法:一種是基于數學式的(第二篇就是利用的這種方法),一種是基于計算圖的。這兩種方法的本質是一樣的,有所不同的是表述方法。計算圖的方法可以參考feifei li負責的斯坦福大學公開課CS231n 或者theano的tutorial/Futher readings/graph Structures.
之前我們的誤差傳播是基于數學式的,可以看出對代碼編寫者來說很麻煩;
這次我們換成基于計算圖的;
文章標題:動手實現深度學習(5):計算圖的實現
鏈接URL:http://m.kartarina.com/article4/dsogeoe.html
成都網站建設公司_創新互聯,為您提供網站維護、微信公眾號、網站制作、營銷型網站建設、虛擬主機、網站收錄
廣告
聲明:本網站發布的內容(圖片、視頻和文字)以用戶投稿、用戶轉載內容為主,如果涉及侵權請盡快告知,我們將會在第一時間刪除。文章觀點不代表本網站立場,如需處理請聯系客服。電話:028-86922220;郵箱:631063699@qq.com。內容未經允許不得轉載,或轉載時需注明來源:
創新互聯