• <bdo id="qgeso"></bdo>
        • <strike id="qgeso"></strike>
        • <sup id="qgeso"></sup><center id="qgeso"></center>
        • <input id="qgeso"></input>

          阿里巴巴開源深度學習訓練框架EPL 可支持10萬億參數超大模型

          首頁 > 熱點 > > 正文

          日期:2022-03-08 15:22:52    來源:榕城網    

          3月4日消息,阿里巴巴宣布完全開源支持10萬億模型的自研分布式深度學習訓練框架EPL(Easy Parallel Library,原名whale),進一步完善深度學習生態。

          EPL由阿里云機器學習平臺PAI團隊自主研發,PAI是面向開發者和企業的機器學習/深度學習工程平臺,提供包含數據標注、模型構建、模型訓練、編譯優化、推理部署在內的AI開發全鏈路服務,內置140多種優化算法,具備豐富的行業場景插件,為用戶提供低門檻、高性能的云原生AI工程化能力。

          EPL是PAI團隊一次面向大規模深度學習分布式自動化訓練的探索,EPL希望能夠簡化深度學習模型從單機訓練到分布式開發調試的流程。EPL通過對不同并行化策略進行統一抽象、封裝,在一套分布式訓練框架中支持多種并行策略,并進行顯存、計算、通信等全方位優化來提供易用、高效的分布式訓練框架。

          EPL適合不同場景的模型,在阿里巴巴內部已經支持圖像、推薦、語音、視頻、自然語言、多模態等多樣性的業務場景。同時,EPL也支持不同規模的模型,最大完成了10萬億規模的M6模型訓練,相比之前發布的大模型GPT-3,M6實現同等參數規模能耗僅為其1%。最新測試結果顯示,使用EPL的流水+數據并行對Bert Large模型進行優化,相比于數據并行,訓練速度提升了66%。

          阿里云資深技術專家九豐表示,“近些年,隨著深度學習的火爆,模型的參數規模飛速增長,同時為訓練框架帶來更大挑戰。為應對這個問題,我們研發了EPL,EPL功能也隨著業務需求的迭代逐漸完善。未來,我們將在軟硬件一體優化、全自動策略探索等幾個探索性方向上持續投入精力。今天,我們將EPL完全開源,希望和深度學習訓練框架的開發者或深度學習從業者之間有更多更好的交流和共建,持續完善深度學習生態。”

          免責聲明:市場有風險,選擇需謹慎!此文僅供參考,不作買賣依據。

          關鍵詞:

          下一篇:線下門店運營往數字化方向「內卷」,鞋服品牌如何捍衛主戰場?
          上一篇:齊樂無窮虛擬人“ViVi子涵”亮相北京消費季 現場互動令人大開眼界

           
          国产三级日本三级日产三级66,五月天激情婷婷大综合,996久久国产精品线观看,久久精品人人做人人爽97
          • <bdo id="qgeso"></bdo>
              • <strike id="qgeso"></strike>
              • <sup id="qgeso"></sup><center id="qgeso"></center>
              • <input id="qgeso"></input>
                主站蜘蛛池模板: 久久狠狠高潮亚洲精品| 国产午夜精品一区二区三区 | 永久免费AV无码网站性色AV| 日本在线观看成人小视频| 国产精品无码久久综合网| 交换年轻夫妇5| 一区视频在线播放| 羞羞漫画页面免费入口欢迎你| 最新亚洲人成无码网www电影| 国产精品爽黄69天堂a| 任你躁在线播放视频| 9久久免费国产精品特黄| 狠狠色噜噜狠狠狠狠97不卡| 天堂俺去俺来也WWW色官网| 亚洲视频aaa| 91精品一区二区| 欧美性猛交xxxx黑人| 国产精品一区二区av不卡| 亚洲av无码兔费综合| 成人免费黄色网址| 国产情侣一区二区| 春丽全彩×全彩番中优优漫画| 国产成人亚洲欧美激情| 久久亚洲精品无码gv| 色吊丝二区三区中文字幕| 成年无码av片在线| 国产探花在线精品一区二区| 乱色精品无码一区二区国产盗| 高清无码视频直接看| 欧美老肥妇BBWBBWBBWPICS| 国产精品无码一区二区三区免费| 亚洲国产av美女网站| 黄色大片在线播放| 欧美一级视频精品观看| 国内国外精品影片无人区| 亚洲国产精品专区| 99ri在线精品视频| 欧美日韩国产在线观看一区二区三区| 国内精品视频一区二区三区八戒| 亚洲欧美一区二区三区在线| 爽爽爽爽爽爽爽成人免费观看|