97人人爽|97碰在线视频|三年片在线|中文字幕一区二区三区三区四区

?
當前位置：首頁 / 新聞資訊 / 行業資訊

Exacluster展示業界首批基于英偉達H200 GPU的AI集群

發布日期：2025-01-13     445 次

11.jpg

1月12日消息，基于生成式AI的搜索引擎技術初創公司ExaAILabs首席執行官 Will Bryk于當地時間周五宣布，該公司已經部署了 Exacluster，這是業界首批基于英偉達（Nvidia）H200 GPU 的集群之一。該集群將用于構建一個AI搜索引擎，號稱可以比谷歌（Google）搜索更好地理解用戶需求，并返回更好的搜索結果。

據介紹，Exacluster采用了 18 個基于 NVIDIA H200 的 8卡服務器（exa 表示 Quintillion，或 10^18），即擁有 144 個 H200 GPU，具有 20TB HBM3E 內存（每個 GPU 141GB HBM3E），可提供 569958 TOPS（約 570 PetaTOPS）的組合計算性能。同時，該集群還集成了192 個 96 核CPU（共計 3456 個CPU內核），并配備了 36TB 的 DDR5 內存和 270TB 的 NVMe 固態存儲。該集群將被將用于訓練 ExaAI 的神經網絡，總體的功耗為 100kW。

該集群依然采用的是標準空氣冷卻方案，因此為了解決散熱問題，該集群當中的每個機架只安裝兩臺這樣的機器，以確保所有服務器都能得到足夠的冷卻。

據Will Bryk介紹，Exacluster的成本約為500萬美元，這也意味著其每臺服務器價格約為27.78萬美元。值得一提的是，英偉達也是ExaAILabs公司的主要投資者之一，此外Lightspeed 和 YCombinator也是其投資者。


上一篇: 京東發布AI京醫大模型 業內首個 準確率達99.5%
下一篇: 烽火通信全國產化RISC-V車規級MCU芯片有望今年量產

為您精選

最新文章

尋找更多銷售、技術和解決方案的信息？

?
關于綠測

廣州綠測電子科技有限公司（簡稱：綠測科技）成立于2015年11月，是一家專注于耕耘測試與測量行業的技術開發公司。綠測科技以“工程師的測試管家”的理念向廣大客戶提供專業的管家服務。綠測科技的研發部及工廠設立于廣州番禺區，隨著公司業務的發展，先后在廣西南寧、深圳、廣州南沙、香港等地設立了機構。綠測科技經過深耕測試與測量領域多年，組建了一支經驗豐富的團隊，可為廣大客戶提供品質過硬的產品及測試技術服務等支持。

綠測工場服務號
綠測工場服務號
綠測科技訂閱號
綠測科技訂閱號
020-2204 2442
Copyright @ 2015-2024 廣州綠測電子科技有限公司 版權所有 E-mail：Sales@greentest.com.cn 粵ICP備18033302號