YOCSEF廣州舉辦大灣區(qū)IT創(chuàng)新論壇

灣區(qū)時訊 存算一體是一種革新性的計算范式,，與以往的馮諾依曼架構(gòu)相比，其打破了由于計算單元與存儲單元過于獨立而導(dǎo)致的“存儲墻”,，能夠達(dá)到用更低功耗實現(xiàn)更高算力的效果,。因此存算一體技術(shù)也成為近年來計算機體系結(jié)構(gòu)和集成電路芯片設(shè)計領(lǐng)域最熱門的方向之一。在產(chǎn)業(yè)界,，科技巨頭紛紛布局存算一體,，國內(nèi)相繼也有近十幾家初創(chuàng)公司押注該架構(gòu)。針對存算一體芯片熱潮，中國計算機學(xué)會（CCF）青年計算機科技論壇（YOCSEF）廣州分論壇學(xué)術(shù)委員會于2024年4月6日,，在華南理工大學(xué)廣州國際校區(qū),，舉辦了YOCSEF大灣區(qū)IT創(chuàng)新論壇——“存算一體能否顛覆經(jīng)典馮諾依曼架構(gòu)？”觀點論壇,，共論存算芯片發(fā)展的未來之路,。

此次論壇由CCF主辦，YOCSEF廣州學(xué)術(shù)委員會承辦,，YOCSEF廣州AC委員姚恩義（華南理工大學(xué)）和曾衍瀚（廣州大學(xué)）共同擔(dān)任執(zhí)行主席,，廣州唐邦信息科技有限公司提供贊助支持。論壇邀請了清華大學(xué)電子工程系李學(xué)清副教授,、中山大學(xué)計算機學(xué)院沈明華副教授,、香港科技大學(xué)（廣州）微電子學(xué)域姜泓吾助理教授作為引導(dǎo)發(fā)言嘉賓，華南師范大學(xué)電子與信息工程學(xué)院王德明教授,、深圳市九天睿芯科技有限公司創(chuàng)始人, 董事長兼CEO劉洪杰博士、華南理工大學(xué)微電子學(xué)院楊斯媚副教授作為思辨嘉賓,。

YOCSEF廣州往屆主席黃棟（華南農(nóng)業(yè)大學(xué)）,，YOCSEF廣州現(xiàn)任主席龍錦益（暨南大學(xué)），候任主席李冠彬（中山大學(xué)）,，現(xiàn)/候任副主席劉同來（仲愷農(nóng)業(yè)工程學(xué)院）,、黃培濤（唐邦信息科技），YOCSEF哈爾濱候任副主席張曉光（黑龍江大學(xué)）,，YOCSEF廣州候任AC委員陳俊穎（華南理工大學(xué)）,、陳炳豐（廣東工業(yè)大學(xué)）以及來自廣東地區(qū)多所高校及企事業(yè)單位共40多人參加討論與思辨。

在論壇開幕環(huán)節(jié),，首先由本次論壇執(zhí)行主席姚恩義逐一介紹與會嘉賓,，再由YOCSEF廣州主席龍錦益介紹YOCSEF文化內(nèi)涵。龍錦益對YOCSEF的含義,、理念,、分論壇以及YOCSEF廣州的特色文化等內(nèi)容作了介紹。

論壇執(zhí)行主席姚恩義介紹論壇背景

YOCSEF廣州主席龍錦益對YOCSEF文化做簡要介紹

在引導(dǎo)報告環(huán)節(jié),，首先由清華大學(xué)李學(xué)清副教授以“Cramming More Weight Data Onto Compute-in-Memory Macros for High Task-Level Energy Efficiency Using Custom Hybrid ROM-SRAM Integration”為題,，講解了高性能存算一體芯片的設(shè)計方法和未來展望。報告提出將ROM引入到存算一體電路中,，并通過將ROM和SRAM協(xié)同配合,，將大容量big-ROM和小容量small-SRAM壓縮，更進(jìn)一步提出了hidden-ROM,，實現(xiàn)更好的存儲密度,，計算效率，支持更高的復(fù)雜度,。

清華大學(xué)電子工程系李學(xué)清副教授做引導(dǎo)發(fā)言報告

中山大學(xué)沈明華副教授以“深度學(xué)習(xí)的圖與張量計算”為題,，針對模型復(fù)雜度,、算力需求、安全方面的挑戰(zhàn),，重點介紹了團(tuán)隊在圖計算,、張量計算和安全訪存方面的研究成果，如基于圖屬性緩存的編譯器,，基于圖核融合和快速篩的運行時系統(tǒng)和相應(yīng)的硬件加速器,，提出了張量編譯框架，支持不同類型的張量計算和空間架構(gòu)加速器,，局部性感知的標(biāo)簽分配等前沿技術(shù),。

中山大學(xué)計算機學(xué)院沈明華副教授做引導(dǎo)發(fā)言報告

香港科技大學(xué)（廣州）姜泓吾助理教授以“High-Efficiency Data Conversion in Compute-in-Memory Design”為題，介紹了存算一體芯片的基本原理,，包括存儲單元,，網(wǎng)絡(luò)映射、硬件架構(gòu),，分析了存算一體芯片中ADC/DAC的挑戰(zhàn),，提出了網(wǎng)絡(luò)硬件協(xié)同設(shè)計，offset-aware training等技術(shù)路線,，并分析了ADC的測試結(jié)果,，報告最后分享了其對存算一體技術(shù)，特別是在大模型應(yīng)用下發(fā)展趨勢的看法,。

香港科技大學(xué)（廣州）微電子學(xué)域姜泓吾助理教授做引導(dǎo)發(fā)言報告

論壇為引導(dǎo)發(fā)言嘉賓頒發(fā)感謝狀

在引導(dǎo)報告之后,，論壇進(jìn)入思辨環(huán)節(jié)。與會嘉賓圍繞“相比于經(jīng)典馮諾依曼架構(gòu),，存算一體技術(shù)最顯著的優(yōu)勢在什么地方,？”、“目前針對存算一體架構(gòu)的實現(xiàn)路徑有很多,，存算一體技術(shù)未來的發(fā)展趨勢是什么,？”以及“存算一體的產(chǎn)業(yè)落地如何破局？”等議題展開觀點思辯,，論壇邀請了華南師范大學(xué)王德明教授,、深圳市九天睿芯科技有限公司劉洪杰博士、華南理工大學(xué)楊斯媚副教授擔(dān)任思辨特邀嘉賓,。

論壇執(zhí)行主席曾衍瀚主持思辨議題

嘉賓思辨討論發(fā)言

議題1：相比于經(jīng)典馮諾依曼架構(gòu),，存算一體技術(shù)最顯著的優(yōu)勢在什么地方?

衍生議題1.1：存算一體技術(shù)發(fā)展的瓶頸在哪里？

針對此議題,，與會專家普遍認(rèn)為,，存算一體技術(shù)最終解決的就是計算過程中的存儲墻問題，其顯著優(yōu)勢在于提高計算速度，降低系統(tǒng)功耗,。華南師范大學(xué)王德明分享了研究團(tuán)隊在微控制器領(lǐng)域研究和開發(fā)的經(jīng)驗,。在傳統(tǒng)架構(gòu)中計算和存儲是分開的，數(shù)據(jù)需要反復(fù)在MCU,、射頻收發(fā)和安全加密模塊之間遷移,，能耗和時延很難取得突破。而采用了片上集成的近存設(shè)計技術(shù),，在速度上有了明顯的提高,，同時功耗也成倍下降。

針對存算一體技術(shù)發(fā)展的瓶頸問題,，中山大學(xué)沈明華和香港科技大學(xué)（廣州）姜泓吾同時指出,，存算一體芯片目前面臨著生態(tài)欠缺的問題，也沒有較為好用的編譯器,，在大規(guī)模應(yīng)用過程中依然無法避免數(shù)據(jù)通訊的問題,，同時面臨著存儲一致性的問題，存算一體技術(shù)學(xué)術(shù)發(fā)展與實際應(yīng)用還存在著較大的差距,。清華大學(xué)李學(xué)清表示,，基于SRAM的存算一體技術(shù)在性能上具有交大的優(yōu)勢，但是由于6T的基本結(jié)構(gòu),，密度存在局限，存算一體在應(yīng)用上的瓶頸要遠(yuǎn)大于技術(shù)發(fā)展的瓶頸,。

議題2：目前針對存算一體架構(gòu)的實現(xiàn)路徑有很多,，存算一體技術(shù)未來的發(fā)展趨勢是什么？

衍生議題2.1：存算一體是否可以有效支撐大模型發(fā)展對基礎(chǔ)算力的需求,？

衍生議題2.2：存算一體是否具有顛覆當(dāng)前計算芯片產(chǎn)業(yè)的潛力,？

華南理工大學(xué)楊斯媚表示，目前可以基于多種不同的存儲器件實現(xiàn)存算一體芯片,，不同器件的性能特點迥異,，未來可以探索針對不同應(yīng)用場景的最佳存儲器件類型及優(yōu)化理論。在系統(tǒng)架構(gòu)上,，存算一體芯片的發(fā)展應(yīng)該是向著大規(guī)模和異構(gòu)集成的方向,，存算一體芯片的應(yīng)用需要與CPU，甚至GPU通過異構(gòu)集成的方式共同提供強大的算力輸出,。在軟件生態(tài)方面,，當(dāng)前產(chǎn)業(yè)界已經(jīng)出現(xiàn)一些針對存算一體的編譯器和API，但是性能有待提升,，還需要學(xué)術(shù)界和產(chǎn)業(yè)界的共同努力,，加以完善。

針對人工智能領(lǐng)域目前最為火熱的大模型，YOCSEF廣州候任AC委員,、華南理工大學(xué)陳俊穎認(rèn)為存算一體是具備支撐大模型的算力需求的,，一方面在于大模型對數(shù)據(jù)存儲的需求更為強大，另一方面存算一體技術(shù)本身所帶來的性能上的優(yōu)勢,。YOCSEF廣州候任主席,、中山大學(xué)李冠彬認(rèn)為大模型并適合存算一體技術(shù)發(fā)揮優(yōu)勢，大模型已經(jīng)具有了自己的生態(tài),，存算一體難以取得優(yōu)勢,。存算一體更適合做小模型，可以快速低耗進(jìn)行計算,，還可以保護(hù)數(shù)據(jù)隱私,。

在存算一體是否具有顛覆當(dāng)前計算芯片產(chǎn)業(yè)的潛力話題上，參與討論的大部分專家都認(rèn)為存算一體技術(shù)在未來還是具備可挖掘的潛力和生長空間,。但與此同時,，當(dāng)前智能計算芯片領(lǐng)域的各類芯片都有著自己獨特的應(yīng)用場景，存算一體技術(shù)當(dāng)前存在的市場,、資金以及安全等難題都有待解決,。存算一體技術(shù)需要與其他不同類型芯片配合使用，才能發(fā)揮巨大的性能優(yōu)勢,。

議題3：存算一體的產(chǎn)業(yè)落地如何破局,？

衍生議題3.1：存算一體技術(shù)能否助力國產(chǎn)芯片實現(xiàn)換道超車？

針對存算一體技術(shù)產(chǎn)業(yè)化落地與發(fā)展,，深圳市九天睿芯科技有限公司劉洪杰表示,，存算一體技術(shù)涉及到最底層的計算過程，完成基本的乘加運算,，其通用性需要在系統(tǒng)架構(gòu)上進(jìn)行重新設(shè)計和優(yōu)化?，F(xiàn)階段初創(chuàng)公司很難做到自下到上整套流程的技術(shù)開發(fā)和產(chǎn)品推廣，僅能根據(jù)實際需求來針對特定場景進(jìn)行專門設(shè)計,。目前存算一體技術(shù)已經(jīng)實現(xiàn)產(chǎn)業(yè)化落地和應(yīng)用領(lǐng)域有很多,，主要集中在邊緣端產(chǎn)品，如助聽器,、車載電子和AR眼鏡等,。目前公司也在開發(fā)面向云端計算的存算一體芯片技術(shù)和產(chǎn)品。

參與論壇嘉賓合影

廣州智能科技發(fā)展有限公司總裁,、廣州信息協(xié)會會長羅敏靜女士,、中山大學(xué)李冠彬、以及長沙金維集成電路股份有限公司王錦山等專家認(rèn)為,，存算一體技術(shù)在邊緣端的應(yīng)用具有著獨特的優(yōu)勢,，同時端側(cè)產(chǎn)品具有更廣闊的市場,。我們應(yīng)該讓消費者認(rèn)識到存算一體技術(shù)的優(yōu)勢，從端側(cè)入手,，與英偉達(dá)等高性能GPU,、NPU錯位競爭，小算力場景更需要低功耗和高隱私性的芯片產(chǎn)品,。  

在存算一體技術(shù)能否助力國產(chǎn)芯片實現(xiàn)換道超車這一話題上,，清華大學(xué)李學(xué)清指出，存算一體還是一個比較新的技術(shù),，國內(nèi)外基本上都處在同一起點上,，具有非常大的潛力去趕超國外一流水平。與此同時,，存算一體技術(shù)是與計算機和芯片等領(lǐng)域其他很多技術(shù)緊密耦合在一起的,，對我們來說也是一個巨大的挑戰(zhàn)。

參與論壇的每位嘉賓都對本次論壇議題發(fā)表了各自的看法,，論壇思辨現(xiàn)場討論熱烈,。

此次論壇歷時近四個小時，論壇執(zhí)行主席,、廣州大學(xué)電子與通信工程學(xué)院副院長曾衍瀚對此次論壇進(jìn)行了總結(jié)并再次對與會嘉賓表示感謝,。此次論壇圍繞存算一體芯片的發(fā)展現(xiàn)狀、技術(shù)趨勢,、未來路徑等問題進(jìn)行了深入思辨,。最后，論壇在一片熱烈的討論氛圍中圓滿結(jié)束,。

通訊員/姚恩義 曾衍瀚

責(zé)任編輯/劉秀