5月22日消息(岳明)在昨天舉行的“GIIC——2024 GPU Infrastructure Innovation Conference暨第四屆中國IDC 行業(yè)DISCOVERY大會”上,中國工程院院士、紫金山實驗室榮譽主任兼首席科學家劉韻潔應邀出席,并發(fā)表《確定性網絡為AI大模型發(fā)展提供重要支撐》主旨演講。
劉韻潔指出,互聯(lián)網在消費領域取得了巨大成功,但隨著向生產領域和實體經濟的逐漸滲透,傳統(tǒng)互聯(lián)網“盡力而為”的網絡能力已經很難滿足需求,確定性是下一代網絡必須面對和解決的問題。這種確定性不僅僅是實體經濟和AI人工智能的需求,在消費互聯(lián)網中也需要。以蘋果推出的可穿戴電子設備產品——Apple Vision Pro為例,有12個攝像頭,5個傳感器,6個麥克風,可以在12毫秒內把一幅高清圖像展現在面前,而這就需要確定性網絡能力。
在大模型領域,大模型對算力的需求更為迫切,2012年到2023年,算力需求增加了數十萬倍,最近五年GPU的算力增加了90倍,但整個網絡的帶寬才增加了10倍,這個差距現在預示著將來對整個網絡帶寬的能力、通訊能力提出更高要求,缺口會越來越大。
數據要素確權也是個重要應用領域,怎么把數據要素利用好、管理好,把安全性保護好是非常具有挑戰(zhàn)性的問題。沒有數據要素,中國在AI方面也會遇到很大的障礙;如果不能對數據要素進行很好的隱私保護和防護,這些數據要素就沒法共享,沒法流通,AI的發(fā)展就會遇到障礙。
另外,在大算力時代,分布式算力是必然選擇,“不可能集中在一個地方來做算力,電力問題就解決不了?!睂Υ?,我國提出了“東數西算”的布局,但如何把這種算力布局服務到全國各個行業(yè)、各個大模型?網絡問題怎么解決?這就面臨一個很大的挑戰(zhàn)——怎樣實現遠距離無損的傳輸?
劉韻潔指出,遠距離無損傳輸是一項必須攻克的難題,其中RDMA是一種非常關鍵的技術,微軟的算力中心70%都是采用RDMA無損協(xié)議進行互聯(lián)。華為的試驗數據顯示,100GE環(huán)境下,8節(jié)點VGG16模型訓練RDMA性能是TCP- IP協(xié)議的8倍多。“因為AI高端芯片對中國的封鎖,中國單點算力的差距跟美國會越來越大。在網絡能力方面,英偉達GB200相較于H100又有了成千上百被的提升,說明什么問題?每個芯片在互聯(lián)網能力方面大大提升,所以GPU算力跟網絡帶寬的需求量增長速度,對網絡帶寬的需求量會急劇增長?!?
- 以太網如何在人工智能網絡領域超越InfiniBand
- 光纖終端盒與光纖接線盒:有什么區(qū)別?
- 1U與0U水平電纜管理器:哪種適合您的機架?
- 霍尼韋爾推出全新樓宇管理人工智能平臺
- 一季度中國智能眼鏡出貨量同比增長116.1%;三星定檔7月9日紐約發(fā)布會:折疊屏與智能手表領銜登場——2025年06月19日
- 智能IP廣域網AI WAN打造AItoX引擎,加速運營商業(yè)務新增長
- 2025 MWC上海:華為助力全球運營商加速發(fā)展5G-A,共筑AItoX新價值
- 到2029年,美國邊緣計算市場規(guī)模將達到435.9億美元
- 網絡賦能:工業(yè)4.0時代智能工廠的核心驅動力
- 建筑管理的未來:把握趨勢,引領變革
免責聲明:本網站內容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿,凡在本網站出現的信息,均僅供參考。本網站將盡力確保所提供信息的準確性及可靠性,但不保證有關資料的準確性及可靠性,讀者在使用前請進一步核實,并對任何自主決定的行為負責。本網站對有關資料所引致的錯誤、不確或遺漏,概不負任何法律責任。任何單位或個人認為本網站中的網頁或鏈接內容可能涉嫌侵犯其知識產權或存在不實內容時,應及時向本網站提出書面權利通知或不實情況說明,并提供身份證明、權屬證明及詳細侵權或不實情況證明。本網站在收到上述法律文件后,將會依法盡快聯(lián)系相關文章源頭核實,溝通刪除相關內容或斷開相關鏈接。