(資料圖片)

華為6月30日正式宣布開源盤古70億參數的稠密模型、盤古Pro MoE 720億參數的混合專家模型和基于昇騰的模型推理技術。這是華為首次開源大模型。

目前，盤古Pro MoE 72B模型權重、基礎推理代碼，已正式上線開源平臺?；跁N騰的超大規(guī)模MoE模型推理代碼，也已正式上線開源平臺。盤古7B相關模型權重與推理代碼將于近期上線開源平臺。華為邀全球開發(fā)者、企業(yè)伙伴及研究人員下載使用。

華為表示，此舉是華為踐行昇騰生態(tài)戰(zhàn)略的又一關鍵舉措，推動大模型技術的研究與創(chuàng)新發(fā)展，加速推進人工智能在千行百業(yè)的應用與價值創(chuàng)造。

達睿咨詢創(chuàng)始人馬繼華介紹，盤古70億參數的稠密模型是全參數稠密結構，適合通用場景微調，能夠靈活部署在邊緣設備上。盤古Pro MoE 72B模型，采用混合專家架構，在保持推理效率的同時實現接近千億級稠密模型的性能，比較適合高復雜度任務。華為差異化模型參數規(guī)模梯度覆蓋制造業(yè)、金融等不同場景需求，開源目的是推動大模型的行業(yè)應用落地。

馬繼華認為，目前來看，人工智能領域的技術開放與生態(tài)共建非常重要，通過開源能夠迅速形成產業(yè)優(yōu)勢，從而達成領跑，讓人工智能飛輪效應得以發(fā)揮。

關鍵詞：