97人人爽|97碰在线视频|三年片在线|中文字幕一区二区三区三区四区

?
當前位置：首頁 / 新聞資訊 / 行業資訊

AMD 推出自家首款小語言模型“Llama-135m”

發布日期：2024-09-30     356 次

9 月 29 日消息，AMD 在 Huggingface 平臺公布了自家首款 " 小語言模型 "AMD-Llama-135m，該模型具有推測解碼功能，擁有 6700 億個 token，采用 Apache 2.0 開源許可，附模型地址如下。

1.jpg

據介紹，這款模型主打 " 推測解碼 " 能力，其基本原理是使用小型草稿模型生成一組候選 token，然后由更大的目標模型進行驗證。這種方法允許每次前向傳遞生成多個 token，而不會影響性能，從而顯著減少 RAM 占用，實現效率提升。

AMD 表示，這款模型在四個 AMD Instinct MI250 節點訓練了六天，其 " 編程專用版本 " 變體 AMD-Llama-135m-code 則額外耗費了四天時間進行微調。


上一篇: 美國加州州長否決人工智能安全法案SB1047
下一篇: AI大師本ThinkPad P1 AI 2024 AI元啟版加速專業領域內容創作 通過ISV認證

為您精選

最新文章

尋找更多銷售、技術和解決方案的信息？

?
關于綠測

廣州綠測電子科技有限公司（簡稱：綠測科技）成立于2015年11月，是一家專注于耕耘測試與測量行業的技術開發公司。綠測科技以“工程師的測試管家”的理念向廣大客戶提供專業的管家服務。綠測科技的研發部及工廠設立于廣州番禺區，隨著公司業務的發展，先后在廣西南寧、深圳、廣州南沙、香港等地設立了機構。綠測科技經過深耕測試與測量領域多年，組建了一支經驗豐富的團隊，可為廣大客戶提供品質過硬的產品及測試技術服務等支持。

綠測工場服務號
綠測工場服務號
綠測科技訂閱號
綠測科技訂閱號
020-2204 2442
Copyright @ 2015-2024 廣州綠測電子科技有限公司 版權所有 E-mail：Sales@greentest.com.cn 粵ICP備18033302號