文章摘要: 第六屆RDMA程式設計大賽由國際高效能運算及AI諮詢委員會主辦而國際高效能運算及AI諮詢委員會(HPC-AI Advisory Council)也一直致力於這一技術的應用和推廣
在雲端計算與分散式儲存普及之前,計算與儲存一直算是制約企業IT快速演進的重要瓶頸,而隨著技術的不斷推移,大資料時代的到來,人工智慧技術的快速採用,使得傳統的TCP/IP協議下的傳統網路成爲了下一個重大的阻礙擺在技術人員面前。
值得一提的是,幾年之前,在高效能運算以及AI領域,以 RDMA技術為核心的高速網路已經得到了一定範圍的應用。而隨著大資料與人工智慧的持續發展,RDMA也更為廣泛的在企業內得到實施。
但與之相對應的是,RDMA技術的推廣還不充分,相關的技術人才還有所欠缺。而國際高效能運算及AI諮詢委員會(HPC-AI Advisory Council)也一直致力於這一技術的應用和推廣,為此已經在國際上多次舉辦相關的技術競賽,在國內與之相關的第六屆大學生RDMA程式設計挑戰賽也開啟戰幕。
什麼是RDMA?
RDMA是Remote Direct Memory Access的縮寫,這一技術全稱為遠端直接數據存取,是爲了解決網路傳輸中伺服器端資料延遲而產生的。其中,在技術上傳統意義上的DMA方式,是一種完全由硬體執行I/O交換的工作方式.在這種方式中, DMA 控制器從CPU 完全接管對匯流排的控制,資料交換不經過CPU ,而直接在記憶體和IO裝置之間進行。
這裏必須提到的是,普通的網絡卡整合了支援硬體校驗和的功能,並對軟體進行了改進,從而減少了傳送資料的拷貝量,但無法減少接收資料的拷貝量,而這部分拷貝量要佔用CPU 的大量計算週期。
過去,普通網絡卡首先需要把收到的資料包快取到系統上,資料包經過處理後,相應資料被分配到一個TCP 連線;然後,接收系統再把主動提供的TCP 資料同相應的應用程式聯絡起來,並將資料從系統緩衝區拷貝到目標儲存地址。
與普通網絡卡的工作原理不同,RDMA 是通過網路把資料直接傳入計算機的儲存區,將資料從一個系統快速移動到遠端系統儲存器中,而不對作業系統造成任何影響,這樣就不需要用到多少計算機的處理功能.它消除了外部儲存器複製和文字交換操作,因而能騰出匯流排空間和CPU 週期用於改進應用系統性能. 通用的做法需由系統先對傳入的資訊進行分析與標記,然後再儲存到正確的區域。
瞭解HPC-AI Advisory Council
HPC-AI Advisory Council是國際高效能運算及AI諮詢委員會,這一協會於2008年在美國成立,據瞭解已經超過400多的企業和科研機構加入這一學會。作為一個全球性的組織,HPC-AI Advisory Council主要針對HPC與AI領域,並且將其工作地點擴散到了亞洲和歐洲。
國際高效能運算及AI諮詢委員會主席Gilad Shainer介紹說,今年在美國、澳大利亞、西班牙和中國HPC-AI Advisory Council都將組織研討會共同討論HPC與AI的應用。此外,在全球還會舉辦幾場相關的應用競賽,第六屆中國RDMA學生程式設計挑戰賽就是其中的一場。
Gilad Shainer還表示,在過去的RDMA競賽中,需要參賽隊伍針對Spark在RDMA上進行優化,亦或是Tensorflow、 MXNet等在RDMA上的優化,在中國包括科大訊飛、京東、商湯科技、曠視科技以及中國計算機學會高效能運算專業委員會都建立了良好的合作關係。
此外,Gilad Shainer認為,目前全球資料量正在飛速增長,對於數據處理而言,HPC與AI本質上都是在解決數據處理問題,AI作為一種技術應用到實際場景中才具有意義,而在這一過程中,數據流動也是必不可少的關鍵一環,所以RDMA的作用也在凸顯。
第六屆大學生RDMA挑戰賽
如今,「人工智慧」已呈現出強大的發展勢頭,如何利用高效能運算推動人工智慧是近年來業界聚焦的熱點。據瞭解,第六屆大賽的競賽題目將緊貼世界超算產業的發展趨勢,重點圍繞數據處理的加速、基於RDMA技術對NoSQL應用進行效能優化和提升等主題展開,強調賽題與實際應用相結合。
此外,今年大賽走入校園的巡講環節也將全面升級,實現國內主要省市高校的全覆蓋。國際高效能運算及AI諮詢委員會將邀請資深的RDMA工程師和來自人工智慧領域頂尖企業的研發人員為渴望學習RDMA和人工智慧相關知識的學生提供免費的培訓,機會難得。
第六屆RDMA程式設計大賽由國際高效能運算及AI諮詢委員會主辦,並獲得了包括中國高效能運算專業委員會、China Grid、清華大學,HPCTC、 Mellanox、Microsoft、NVIDIA、SenseTime(商湯科技)等國內外多家知名機構及明星企業的大力支援。大賽評委由來自於國內外HPC和人工智慧領域程式設計專家組成。
中國計算機學會高效能運算專業委員會祕書長張雲泉表示,歷屆RDMA程式設計挑戰賽皆在選拔並培養高校中最頂尖的技術人才,推進RDMA在超算和AI領域的應用和下一代應用技術的開發。作為本屆大賽的核心支援機構,高效能運算專業委員會將一如既往地為競賽提供鼎力支援,共同助力中國超算的發展。
清華大學的陳康副研究員認為,高效能運算領域一直是新思想、新技術的孵化地,各種創新的成果以及應用都在這裏產生。RDMA程式設計挑戰賽已成為選拔RDMA相關技術達人的重要平臺。通過參加競賽,學生能夠深入接觸HPC和AI領域最前沿的各項技術和計算工具,鍛鍊以技術實踐解決熱點問題的綜合能力和協作溝通能力。
http://www.buzzfunnews.com/20180620045.html
每日頭條即時更新,請上:http://www.buzzfunnews.com
沒有留言:
張貼留言