97人人爽|97碰在线视频|三年片在线|中文字幕一区二区三区三区四区

?
當前位置：首頁 / 新聞資訊 / 行業資訊

中國電信發布全球首個單體稠密萬億參數語義模型Tele-FLM-1T

發布日期：2024-06-20     495 次

6月19日消息，據“中國電信”官微發文，中國電信人工智能研究院（TeleAI）聯合北京智源人工智能研究院發布全球首個單體稠密萬億參數語義模型Tele-FLM-1T，成為國內首批發布稠密萬億參數大模型的機構。

面對大模型訓練過程中算力消耗巨大的挑戰，TeleAI與智源通過深度研發，結合模型生長和損失預測等關鍵技術，成功推出了Tele-FLM系列模型。這一系列模型在算力資源的使用上，僅消耗了業界普通訓練方案的9%，展現出極高的算力能效。

1.png

通過使用112臺A800服務器，TeleAI團隊在短短4個月內完成了3個模型總計2.3T tokens的訓練，全程無需任何調整和重試，充分證明了模型訓練的穩定性和收斂性。

值得一提的是，Tele-FLM-1T版本即將開源，此舉旨在為社區提供訓練萬億稠密模型的技術參考，有效解決萬億模型訓練收斂難等問題，進一步推動大模型技術的進步。

TeleAI不僅在技術創新上不斷突破，還積極通過開源方式推動大模型技術的普及和國產化進程。他們接連開源了7B、12B、52B參數規模的大模型，這些模型在開源社區中引發了廣泛討論和使用，開源模型下載量已超過萬次，吸引了超過40萬用戶。

2.jpg


上一篇: 消息稱臺積電研究新的先進芯片封裝技術 矩形代替圓形晶圓
下一篇: 新研究表明星鏈衛星正吞噬地球臭氧層

為您精選

最新文章

尋找更多銷售、技術和解決方案的信息？

?
關于綠測

廣州綠測電子科技有限公司（簡稱：綠測科技）成立于2015年11月，是一家專注于耕耘測試與測量行業的技術開發公司。綠測科技以“工程師的測試管家”的理念向廣大客戶提供專業的管家服務。綠測科技的研發部及工廠設立于廣州番禺區，隨著公司業務的發展，先后在廣西南寧、深圳、廣州南沙、香港等地設立了機構。綠測科技經過深耕測試與測量領域多年，組建了一支經驗豐富的團隊，可為廣大客戶提供品質過硬的產品及測試技術服務等支持。

綠測工場服務號
綠測工場服務號
綠測科技訂閱號
綠測科技訂閱號
020-2204 2442
Copyright @ 2015-2024 廣州綠測電子科技有限公司 版權所有 E-mail：Sales@greentest.com.cn 粵ICP備18033302號