<output id="yn1pw"></output>
    <wbr id="yn1pw"></wbr>

    <form id="yn1pw"><legend id="yn1pw"></legend></form>

  1. 更多課程 選擇中心

    嵌入式培訓
    達內IT學院

    400-111-8989

    移動嵌入式端是如何進行深度學習的?

    • 發布:嵌入式培訓
    • 來源:嵌入式問答
    • 時間:2017-08-31 14:54

    隨著深度學習的發展,神經網絡模型也越來越復雜,那么移動嵌入式端是如何進行深度學習的?怎么樣的模型才能算深度學習呢?

    常用的模型中VGG系列網絡的計算量可以達到30-40GOP(1GOP=109運算)。這些神經網絡通常運行在GPU上,但是如果我們要在移動/嵌入式端也實現深度學習,那么這樣巨大的模型是絕對跑不動的。移動/嵌入式端的計算能力往往只有桌面級GPU的1/100到1/1000,換句話說在GPU上一秒40幀的深度學習CV算法在移動/嵌入式端一秒只有0.04-0.4幀,這樣的性能會極大影響用戶體驗

    在移動/嵌入式端跑深度學習模型,除了運行速度之外,能效比也是關鍵指標。能效比指的是一次運算所需消耗的能量,它決定了移動/嵌入式端運行深度學習算法時電池能用多久。能效比與深度學習模型息息相關,我們下面將會看到深度學習模型的大小會決定運行算法時的片外內存訪問頻率,從而決定了能效比。

    怎樣的模型才能算深度學習呢?為了深度學習模型時不僅要看模型計算量還要看模型大小。模型計算量是衡量深度學習是否適合在移動或嵌入式端計算的最重要指標,通常用GOP單位來表示。例如,流行的ResNet-18的計算量大約是4GOP,而VGG-16則為大約31GOP。移動和嵌入式端的硬件計算能力有限,因此模型所需的計算量越大,則模型在移動端運行所需要的時間就越長。

    為了能讓使用深度學習的應用順暢運行,模型運算量當然是越小越好。除此之外,深度學習每次運算都是需要花費能量的,模型運算量越大則完成一次inference需要的能量也就越大,換句話說就是越費電。在電池量有限的移動和嵌入式端,模型一次inference所花費的能量必須精打細算,因此深度學習模型計算量不能太大。

    深度學習模型大小主要決定的是該模型做一次inference所需要的能量。那么模型大小與inference所消耗的能量有什么關系呢?首先,我們知道,深度學習模型必須儲存在內存里面,而內存其實還分為片上內存和片外內存兩種。

    因此,我們為了減小能量消耗,必須減少片外內存訪問,或者說我們需要盡可能把模型的權重數據和每層的中間運算結果存儲在片上內存而非片外內存。這也是為什么GoogleTPU使用了高達28MB片上內存的原因。

    然而,移動端和嵌入式系統使用的芯片不能成本太高,因此片上內存容量很有限。這樣的話我們就必須從深度學習模型大小方面想辦法,盡量減小模型尺寸,讓模型盡可能地能存儲在片上內存,或者至少一層網絡的權重數據可以存在片上內存。

    預約申請免費試聽課

    填寫下面表單即可預約申請免費試聽!怕錢不夠?可就業掙錢后再付學費! 怕學不會?助教全程陪讀,隨時解惑!擔心就業?一地學習,可全國推薦就業!

    上一篇:選擇嵌入式培訓班的注意事項
    下一篇:零基礎報名嵌入式培訓學習怎么樣?

    想學嵌入式開發,嫌自學時間長怎么辦?

    嵌入式開發學習難不難?

    嵌入式Linux學習有哪些法則呢?

    怎樣學習嵌入式開發呢?

    • 掃碼領取資料

      回復關鍵字:視頻資料

      免費領取 達內課程視頻學習資料

    • 視頻學習QQ群

      添加QQ群:1143617948

      免費領取達內課程視頻學習資料

    Copyright ? 2021 Tedu.cn All Rights Reserved 京ICP備08000853號-56 京公網安備 11010802029508號 達內時代科技集團有限公司 版權所有

    選擇城市和中心
    黑龍江省

    吉林省

    河北省

    湖南省

    貴州省

    云南省

    廣西省

    海南省

    高清在线不卡一区二区_2019最新国产高清不卡a_亚洲欧洲日本aⅴ 百度 好搜 搜狗
    <蜘蛛词>| <蜘蛛词>| <蜘蛛词>| <蜘蛛词>| <蜘蛛词>| <蜘蛛词>| <蜘蛛词>| <蜘蛛词>| <蜘蛛词>| <蜘蛛词>| <蜘蛛词>| <蜘蛛词>| <蜘蛛词>| <蜘蛛词>| <蜘蛛词>| <蜘蛛词>| <蜘蛛词>| <蜘蛛词>| <蜘蛛词>| <蜘蛛词>| <蜘蛛词>| <蜘蛛词>| <蜘蛛词>| <蜘蛛词>| <蜘蛛词>| <蜘蛛词>| <蜘蛛词>| <蜘蛛词>| <蜘蛛词>| <蜘蛛词>| <蜘蛛词>| <蜘蛛词>| <蜘蛛词>| <蜘蛛词>| <蜘蛛词>| <蜘蛛词>| <蜘蛛词>| <蜘蛛词>| <蜘蛛词>| <蜘蛛词>| <蜘蛛词>| <文本链> <文本链> <文本链> <文本链> <文本链> <文本链>