阿里云宣布支持Llama2全種類訓練部署 |
|
時間:2023-07-26 14:03 | |
![]() 惠州銷毀公司7月25日 報道:7月25日,阿里云推出了針對Llama2全類別版本的訓練和部署方案。為了方便開發者,阿里云機器學習平臺PAI對Llama2系列模型進行了深度適配,并提供輕量級微調、全參數微調、推理服務等場景的最佳實踐方案。 此外,阿里云還牽頭發起了AI模型社區魔搭Modelscope,在該社區上供給了Llama2類別模型,開發者允許在該社區上進行模型開發。 開發者允許在魔搭社區的Llama2模型頁面點擊“Notebook快速開發”,從而一鍵拉起阿里云機器學習平臺PAI,對模型進行云上開發和部署。此外,在其他平臺下載的Llama2模型,也允許使用阿里云PAI進行開發。 在阿里云上,開發者允許通過輕量級Lora微調或全參數微調來實行Llama2模型的微調。完成微調后,PAI支持開發者通過Web UI及API的方式部署Llama2,使模型允許通過網頁或嵌入應用與使用者交互。 與本地單機訓練Llama2相比,在阿里云上兌現對超大尺寸模型的深度開發更加簡單便捷,而且預置環境免運維,操作簡單,同時開發者可以獲得充沛的AI計算資源和極致彈性。 相比之下,本地單卡GPU只能兌現Llama270億參數版本的輕量級Lora微調和推理,更大尺寸版本及更深度訓練均很難支撐。 最近,Llama2大語言模型發布開源,覆蓋70億、130億及700億參數版本。Llama2可以免費用于思索場景和月活7億用戶以下的商業場景,為企業和開發者提供了大模型思考的新工具。 (投訴) |
|
上一篇:馬斯克重回世界首富寶座 超過LVMH集團CEO阿爾諾 下一篇:七部委整治地產亂象 鋼市影響不大 |