高通Cloud AI 100、AMD EPYC™ 7003系列處理器和技嘉服務器解決方案 共同推動AI推理突破每秒千萬億次運算

科技評論139閱讀模式

AI無疑已經成為推動下一代用戶體驗的驅動力。無論是快速瀏覽喜愛的社交應用,還是基于數萬次AI推理提供的在線購物推薦,幾乎每一項移動終端體驗都與AI密不可分。目前,這些平臺每天承載著數百萬的用戶量,這又意味著什么呢?它們需要海量性能出眾的高密度服務器,來提供滿足上述平臺持續運行所需的AI推理性能。

目前,通過與AMD最新的EPYC? 7003系列處理器和技嘉科技的最新G292-Z43服務器解決方案相配合,高通技術公司正助力性能出眾的機架式服務器滿足高性能需求。上述企業在硬件技術專長領域的結合,帶來了頂級性能并為現代化數據中心樹立全新標桿。高通技術公司尖端的Cloud AI 100能夠與技嘉服務器系統完美適配,這將推動眾多出色的AI用例在高速數據分析、個性化推薦、智慧城市和5G通信等領域的普及。

技嘉G292-Z43服務器將支持兩臺AMD EPYC? 7003系列處理器用于處理負載,以及多個高通Cloud AI 100 PCI-E卡用于支持需要密集計算的應用來支持AI推理。高通Cloud AI 100推理加速器支持高達400 TOPS的算力,還擁有突破性的性能功耗比,并且僅通過單個高通Cloud AI 100 PCI-E卡即可實現。試想一下,如果每臺技嘉服務器最多可搭載16個高通Cloud AI 100 PCI-E推理卡,即可提供高達每秒6.4千萬億次運算(400 TOPS x 16,1 POPS等于1000 TOPS)。這是首次基于高通技術公司AI技術的解決方案突破每秒千萬億次運算(POPS)大關。更值得注意的是,每個服務器機柜可管理超過19個上述服務器單元,從而輕松實現超過100 POPS的算力,這充分體現了高通技術公司在AI領域的強勁實力。欲了解相關參數,請參考以下信息圖。

高通Cloud AI 100、AMD EPYC™ 7003系列處理器和技嘉服務器解決方案 共同推動AI推理突破每秒千萬億次運算-圖片1

更具體來看,單個算力為400 TOPS的HHHL(半高,半長)高通Cloud AI 100 PCI-E推理卡每秒可以支持19,000張圖像進行Resnet50模型分類推理,相當于一臺服務器機柜每秒可處理超過600萬張圖像。如此強大的AI性能有望在全球市場增強并規?;瘮U展AI體驗。我們衷心感謝AMD和技嘉科技為實現這一驚人成就所付出的努力。

高通Cloud AI 100 PCI-E卡和搭載AMD EPYC? 7003系列處理器的技嘉服務器即將面市,請參考文末產品圖獲取更多信息。

高通Cloud AI 100、AMD EPYC™ 7003系列處理器和技嘉服務器解決方案 共同推動AI推理突破每秒千萬億次運算-圖片2

高通Cloud AI 100、AMD EPYC? 7003系列處理器和技嘉服務器解決方案 共同推動AI推理突破每秒千萬億次運算

高通Cloud AI是高通技術公司和/或其子公司的產品。

AMD、AMD剪頭標識、EPYC以及其他相關產品由Advanced Micro Devices注冊。

 
  • 本文由 米粒 發表于 2021年12月20日11:46:42
  • 轉載請務必保留本文鏈接:http://www.bjmhhq.com/113980.html
科技

毒性堪比眼鏡蛇 亂摸水母會出人命!

抖音之前很流行的“水母手勢舞”你會嗎?張開手掌再捏住手指向后拉,收回手指,張開手指,你就可以得到一只簡略版的水母~ 然而不是所有的水母都這般可愛無害,比如今天的主角&mdash...

發表評論

匿名網友
:?: :razz: :sad: :evil: :!: :smile: :oops: :grin: :eek: :shock: :???: :cool: :lol: :mad: :twisted: :roll: :wink: :idea: :arrow: :neutral: :cry: :mrgreen:
確定

拖動滑塊以完成驗證