近日,騰訊云在存儲(chǔ)領(lǐng)域的論文入選并行編程領(lǐng)域頂級(jí)會(huì)議PPOPP 2025。通過(guò)設(shè)計(jì)面向小型對(duì)象的、感知訪問(wèn)關(guān)聯(lián)性的內(nèi)存緩存系統(tǒng)AC-Cache,成功解決小型對(duì)象存儲(chǔ)場(chǎng)景中的負(fù)載不均衡問(wèn)題,實(shí)測(cè)顯示,該系統(tǒng)可降低80.2%尾部延遲并提升5倍以上訪問(wèn)吞吐量。
據(jù)悉,作為并行編程領(lǐng)域的國(guó)際頂級(jí)學(xué)術(shù)會(huì)議,PPoPP(Principles and Practice of ParallelProgramming)致力于推動(dòng)理論基礎(chǔ)、技術(shù)、語(yǔ)言、編譯器、運(yùn)行時(shí)系統(tǒng)、工具和實(shí)踐等并發(fā)和并行系統(tǒng)領(lǐng)域的突破性研究,該會(huì)議持續(xù)聚焦兩大前沿議題:優(yōu)化并行編程生產(chǎn)力,強(qiáng)化異構(gòu)硬件協(xié)同,同時(shí)解決超大規(guī)??茖W(xué)計(jì)算與企業(yè)級(jí)負(fù)載衍生的新型并行工作負(fù)載挑戰(zhàn)。
當(dāng)前高速網(wǎng)絡(luò)技術(shù)持續(xù)升級(jí),導(dǎo)致網(wǎng)絡(luò)帶寬與存儲(chǔ)帶寬性能代差不斷擴(kuò)大,存儲(chǔ)訪問(wèn)已成為核心性能瓶頸。在此背景下,騰訊云聯(lián)合廈門大學(xué)提出了AC-Cache,一個(gè)基于訪問(wèn)關(guān)聯(lián)性構(gòu)建的面向小型對(duì)象的內(nèi)存高效緩存系統(tǒng)。
目前,AC-Cache 前沿技術(shù)已在在Github - nankeys/ACCache: ACCache PPoPP25 上開(kāi)源,并在騰訊云 GooseFS 產(chǎn)品中得以應(yīng)用。
騰訊云數(shù)據(jù)加速器GooseFS(Data Lake Accelerator Goose File System)是搭建在對(duì)象存儲(chǔ)COS之上的分布式緩存系統(tǒng),它能夠?yàn)樯蠈佑?jì)算應(yīng)用提供統(tǒng)一的命名空間和訪問(wèn)協(xié)議,方便用戶在不同的存儲(chǔ)系統(tǒng)管理和流轉(zhuǎn)數(shù)據(jù)。
GooseFS具備性能強(qiáng)勁、穩(wěn)定易用、生態(tài)親和的三大核心特點(diǎn)。具體而言,它能夠基于分布式緩存架構(gòu),為用戶提供近計(jì)算端的高性能數(shù)據(jù)訪問(wèn)能力,吞吐能力可達(dá)Tbps,延時(shí)達(dá)到亞毫秒級(jí);此外,它還提供了全托管、Master托管、管控面托管三種部署方式供用戶選擇,集成云原生Prometheus監(jiān)控體系,還能實(shí)時(shí)監(jiān)測(cè)系統(tǒng)健康,簡(jiǎn)化運(yùn)維流程,提升系統(tǒng)穩(wěn)定性;更值得一提的是,GooseFS 深度集成了云原生與大數(shù)據(jù)技術(shù)棧,為企業(yè)提供開(kāi)箱即用的數(shù)據(jù)加速能力,它支持TKECSI,通過(guò)CSI播件實(shí)現(xiàn)存儲(chǔ)卷秒級(jí)自動(dòng)擴(kuò)縮容,能夠滿足突發(fā)業(yè)務(wù)負(fù)載需求,還支持 EMR集群掛載,并兼容Hadoop/Spark/Hive等組件零改造接入,更深度適配主流AI訓(xùn)練框架,支持與TensorFlow等AI計(jì)算框架無(wú)縫對(duì)接。
隨著GooseFS 2025年的技術(shù)更新,其單鏈接性能更是達(dá)到了Gbps級(jí)別,最大化提升了硬件資源的利用效率;此外,還通過(guò)元數(shù)據(jù)分級(jí)管理技術(shù),做到支持百萬(wàn)級(jí)元數(shù)據(jù)QPS,能夠在高并發(fā)、大規(guī)模數(shù)據(jù)訪問(wèn)場(chǎng)景下依然保持高效的元數(shù)據(jù)訪問(wèn)性能;并進(jìn)一步實(shí)現(xiàn)了元數(shù)據(jù)的一致性,確保COS與GooseFS之間的元數(shù)據(jù)能夠?qū)崟r(shí)同步,做到無(wú)感緩存加速。
如今,傳統(tǒng)的對(duì)象存儲(chǔ)已經(jīng)難以滿足科技等行業(yè)對(duì)帶寬、延遲和 QPS 等高性能計(jì)算要求,GooseFS能夠加速海量數(shù)據(jù)分析、機(jī)器學(xué)習(xí)、人工智能等業(yè)務(wù)訪問(wèn)存儲(chǔ)的性能,目前已成功應(yīng)用在海量數(shù)據(jù)分析、AIGC、汽車輔助駕駛、具身智能等業(yè)務(wù)場(chǎng)景中。
在部署了GooseFS后,某手機(jī)廠商Deepseek模型分發(fā)單鏈接速度達(dá)到了300 MBps,整體下載帶寬達(dá)到200Gbps,較未部署前帶寬提升了10倍,并在GPU節(jié)點(diǎn)提升1.5倍的情況下,分發(fā)時(shí)間縮短至原有的三分之一,大幅提升了分發(fā)效率;在汽車輔助駕駛方面,某汽車廠商通過(guò)部署GooseFS,并將其作為統(tǒng)一數(shù)據(jù)中臺(tái),配合Airflow 調(diào)度算法,進(jìn)行數(shù)據(jù)預(yù)熱,加速訓(xùn)練預(yù)處理和自動(dòng)駕駛訓(xùn)練業(yè)務(wù),解決了數(shù)據(jù)孤島問(wèn)題,并進(jìn)一步降低了本地盤成本,實(shí)現(xiàn)90%以上的數(shù)據(jù)命中率在Cache,整體訓(xùn)練速度提高了30%。
隨著GooseFS在更多行業(yè)中得以應(yīng)用,AC-Cache研究成果將助力更多企業(yè)突破存儲(chǔ)訪問(wèn)的性能瓶頸,邁向發(fā)展快車道。
(免責(zé)聲明:本網(wǎng)站內(nèi)容主要來(lái)自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿,凡在本網(wǎng)站出現(xiàn)的信息,均僅供參考。本網(wǎng)站將盡力確保所提供信息的準(zhǔn)確性及可靠性,但不保證有關(guān)資料的準(zhǔn)確性及可靠性,讀者在使用前請(qǐng)進(jìn)一步核實(shí),并對(duì)任何自主決定的行為負(fù)責(zé)。本網(wǎng)站對(duì)有關(guān)資料所引致的錯(cuò)誤、不確或遺漏,概不負(fù)任何法律責(zé)任。
任何單位或個(gè)人認(rèn)為本網(wǎng)站中的網(wǎng)頁(yè)或鏈接內(nèi)容可能涉嫌侵犯其知識(shí)產(chǎn)權(quán)或存在不實(shí)內(nèi)容時(shí),應(yīng)及時(shí)向本網(wǎng)站提出書面權(quán)利通知或不實(shí)情況說(shuō)明,并提供身份證明、權(quán)屬證明及詳細(xì)侵權(quán)或不實(shí)情況證明。本網(wǎng)站在收到上述法律文件后,將會(huì)依法盡快聯(lián)系相關(guān)文章源頭核實(shí),溝通刪除相關(guān)內(nèi)容或斷開(kāi)相關(guān)鏈接。 )