我的賬戶
中國電子DIY

科技成就未來

親愛的游客,歡迎!

已有賬號,請

如尚未注冊?

中國電子DIY之家 社區首頁 資訊 科技前沿

主攻算力短板 創新奇智發布提升GPU處理性能論文

2019-4-3 19:38

創新奇智CTO張發恩今天,創新奇智在京舉行媒體溝通會,創新奇智CTO張發恩解讀了在DAC合作發表了關于提升GPU處理性能的研究論文。據了解,在2019第56屆設計自動化大會,張發恩等人聯合發布了一篇論文《Efficient GPU ...

創新奇智CTO張發恩


今天,創新奇智在京舉行媒體溝通會,創新奇智CTO張發恩解讀了在DAC合作發表了關于提升GPU處理性能的研究論文。

據了解,在2019第56屆設計自動化大會,張發恩等人聯合發布了一篇論文《Efficient GPU NVRAM Persistence with Helper Warps》,該論文首次提出一種方法,通過在GPU上使用NVRAM存儲的有效并且易于使用的事務處理系統。



張發恩談到,在人工智能時代,算法、算力與數據是三個最重要的要素,科學家和工程師將GPU應用于人工智能模型訓練和推理后,帶來了巨大的算力提升。

不過,他認為在某些場景下,GPU性能并沒有完全發揮,創新奇智要做的事情就是彌補算力的短板。例如,智能貨柜和渠道陳列平臺每天都要為客戶處理數百萬張高清圖片;工業視覺平臺需要在車間產線實時處理超清圖片;智慧園區平臺需要同時處理多路高清攝像頭視頻數據等等。

張發恩告訴網易智能,不僅僅是在落地應用的過程中,在模型訓練中也需要更為迅速的對大量的數據進行處理,這就對計算機系統整體計算性能的提升,尤其是異構計算主要構成-GPU性能的提升提出了更為緊迫的要求。

為了解決這個問題,張發恩們提出使用Helper Warp(暫簡單譯為輔助調度單位)將持久性移出事物執行的關鍵路徑,從而減輕延遲的影響。在帶寬限制為1.6GB/s和12GB/s的情況下,該機制分別實現了4.4倍和1.5倍的加速,并且預計即使在NVRAM帶寬高達數百GB/s的某些情況下,也將保持速度優勢。

他將論文的主要貢獻總結為三點,首先,提出了在GPU上使用NVRAM存儲的有效并且易于使用的事務處理系統。其二,提出使用Helper Warp,利用GPU的閑置計算資源來緩解寫入帶寬的限制。其三,建立了一種在不同的程序下能夠自適應地啟用Helper Warp(輔助調度單位)達到性能提升。



鮮花

握手

雷人

路過

雞蛋
這個人很懶,什么也沒留下...
粉絲3 閱讀1110 回復0
關注我們
中國電子DIY官方微信

客服電話:000-000-0000

客服郵箱:776513803@qq.com

周一至周五 9:00-18:00

公司地址:深圳市南山區美麗灣大廈B座

Powered by Discuz! X3.4@ 2001-2013 Comsenz Inc.