• <bdo id="qgeso"></bdo>
        • <strike id="qgeso"></strike>
        • <sup id="qgeso"></sup><center id="qgeso"></center>
        • <input id="qgeso"></input>

          阿里巴巴開源深度學習訓練框架EPL 可支持10萬億參數超大模型

          首頁 > 熱點 > > 正文

          日期:2022-03-08 15:22:52    來源:榕城網    

          3月4日消息,阿里巴巴宣布完全開源支持10萬億模型的自研分布式深度學習訓練框架EPL(Easy Parallel Library,原名whale),進一步完善深度學習生態。

          EPL由阿里云機器學習平臺PAI團隊自主研發,PAI是面向開發者和企業的機器學習/深度學習工程平臺,提供包含數據標注、模型構建、模型訓練、編譯優化、推理部署在內的AI開發全鏈路服務,內置140多種優化算法,具備豐富的行業場景插件,為用戶提供低門檻、高性能的云原生AI工程化能力。

          EPL是PAI團隊一次面向大規模深度學習分布式自動化訓練的探索,EPL希望能夠簡化深度學習模型從單機訓練到分布式開發調試的流程。EPL通過對不同并行化策略進行統一抽象、封裝,在一套分布式訓練框架中支持多種并行策略,并進行顯存、計算、通信等全方位優化來提供易用、高效的分布式訓練框架。

          EPL適合不同場景的模型,在阿里巴巴內部已經支持圖像、推薦、語音、視頻、自然語言、多模態等多樣性的業務場景。同時,EPL也支持不同規模的模型,最大完成了10萬億規模的M6模型訓練,相比之前發布的大模型GPT-3,M6實現同等參數規模能耗僅為其1%。最新測試結果顯示,使用EPL的流水+數據并行對Bert Large模型進行優化,相比于數據并行,訓練速度提升了66%。

          阿里云資深技術專家九豐表示,“近些年,隨著深度學習的火爆,模型的參數規模飛速增長,同時為訓練框架帶來更大挑戰。為應對這個問題,我們研發了EPL,EPL功能也隨著業務需求的迭代逐漸完善。未來,我們將在軟硬件一體優化、全自動策略探索等幾個探索性方向上持續投入精力。今天,我們將EPL完全開源,希望和深度學習訓練框架的開發者或深度學習從業者之間有更多更好的交流和共建,持續完善深度學習生態。”

          免責聲明:市場有風險,選擇需謹慎!此文僅供參考,不作買賣依據。

          關鍵詞:

          下一篇:線下門店運營往數字化方向「內卷」,鞋服品牌如何捍衛主戰場?
          上一篇:齊樂無窮虛擬人“ViVi子涵”亮相北京消費季 現場互動令人大開眼界

           
          国产三级日本三级日产三级66,五月天激情婷婷大综合,996久久国产精品线观看,久久精品人人做人人爽97
          • <bdo id="qgeso"></bdo>
              • <strike id="qgeso"></strike>
              • <sup id="qgeso"></sup><center id="qgeso"></center>
              • <input id="qgeso"></input>
                主站蜘蛛池模板: 亚洲欧洲无码av不卡在线| 国产男女无遮挡猛进猛出| 免费观看一级欧美在线视频| 中文字幕日韩精品一区二区三区| 高清不卡毛片免费观看| 春色www在线视频观看 | 国产成人亚洲综合欧美一部| 亚洲乳大丰满中文字幕| ww4545四虎永久免费地址| 欧美多人性受xxxx喷水| 国产精品亚洲片在线观看不卡 | 芭蕉私人影院在线观看| 福利一区二区三区视频午夜观看| 性无码专区无码| 免费播放春色aⅴ视频| 99视频都是精品热在线播放| 老司机福利深夜亚洲入口| 日韩欧美在线观看一区| 国产午夜激无码av毛片| 久久久久人妻精品一区三寸蜜桃| 色戒7分27秒大尺度在线| 成年女人毛片免费播放人| 再深点灬舒服灬太大了动祝视频| yy4080李崇端60集视频| 狠狠色噜噜狠狠狠狠69| 国产草草影院ccyycom软件| 亚洲乱码一区av春药高潮| 黑白配hd视频| 樱桃视频影院在线观看| 国产麻豆精品高清在线播放| 亚洲国产福利精品一区二区| 欧美极品另类高清videos| 欧美人与动人物xxxx| 国产麻豆精品原创| 亚洲中文字幕无码专区| 91原创视频在线| 最美情侣中文字幕电影| 国产chinesehd精品酒店| 久久亚洲最大成人网4438| 黄色a三级免费看| 日韩亚洲专区在线电影|