芯東西（公眾號：aichip001）
作者 | GTIC峰會
芯東西8月27日報道，今日，GTIC 2022全球AI芯片峰會在深圳市南山區圓滿落幕。會上，2022「中國AI芯片企業50強」榜單正式揭曉。
▲智一科技聯合創始人、總編輯張國仁揭曉榜單
這場高規格產業會議，由芯東西與智東西公開課聯合主辦，以“不負芯光 智算未來”為主題，匯集了來自AI芯片領域的產學研投專家及創業先鋒代表，展示智能計算底層創新與落地的最新光景。
兩天內，32位嘉賓通過主題演講和巔峰對話，分享了干貨滿載、深入淺出的行業見解。峰會全場座無虛席，全網直播人數累計高達220萬+人次。作為智一科技產業對接平臺GTIC落地深圳的首場產業峰會，GTIC 2022全球AI芯片峰會得到了深圳產業人士的廣泛好評。
昨日，我們整理了AI芯片高峰論壇和云端AI芯片專題論壇的核心看點。（AI芯片峰會燃爆深圳南山！17位大咖演講萬字精華來了）
今天，精彩繼續！15位大牛分別出席邊緣端AI芯片專題論壇、存算一體芯片專題論壇、新型計算技術專題論壇，暢談AI芯片創新路徑，以及在加速落地商用過程中積累的心得。
一、南科大余浩：“種草”低碳AI芯片，高精度與低功耗并存
南方科技大學深港微電子學院創院副院長余浩教授在現場“種草”了低碳AI芯片。
我們向往著讓機器來做計算，幫助我們“躺平”，但就目前的算力中心而言，其在功耗和效率上都需要付出很大代價，如電力、能源的消耗。因此，在數字經濟、可持續經濟的背景下，我們需要一塊高能效的低碳芯片。
▲南方科技大學深港微電子學院創院副院長余浩教授
現有的有效解決途徑包括并行的GPU、脈動的TPU，不過這些解法或多或少仍存在功耗高、能效低的問題。那么，如何在保證精度、降低功耗的情況下訓練出多精度、多復雜度模型并實現高能效的硬件計算？
余浩教授團隊的做法是通過網絡架構自動搜索設計，對網絡進行逐層優化，得到高能效的混合精度神經網絡；并在硬件層面，讓每個數據單元都支持多精度并行處理，同時每個并行的多精度陣列又可以進行數據復用，就可以高能效地運行多復雜度的網絡模型。
南方科技大學團隊已經研發了4款AI芯片，其中，在平均能效情況下，X-Edge芯片達到200TOPS/W，超越人腦的10TOPS/W。
基于上述研發理念，X-Edge芯片可以應用于搭建低碳邊緣算力平臺、機器人平臺、移動巡檢平臺、元宇宙平臺等。
二、軟硬件協同設計，應對AI落地碎片化難題
相對云端AI芯片，邊緣側與端側的AI芯片企業面臨著更為多元的應用場景，不止要通過優化底層技術，還必須抓住時間窗口，加速實現芯片及相應解決方案的規模化落地。
在上午舉行的邊緣端AI芯片專題論壇期間，來自時擎科技、愛芯元智、Imagination、齊感科技、英諾達、嘉楠科技的行業大牛，分享了他們觀察到的下游市場需求之變，以及應對這些變化的產品創新、落地打法與實戰經驗。
1、時擎科技仇健樂：分布式存儲與計算，應對端側AI落地碎片化挑戰
在AIoT時代，AI應用越來越多地以“云邊端協同”形式出現。與云端AI芯片相比，端側AI芯片需要滿足一些特定需求，比如：算力能支持本地預處理或簡單決策即可，對功耗和成本更敏感，傳感器接口和應用市場碎片化等。
面向這樣的市場特點，端側智能芯片公司時擎科技選擇采用DSA（領域專用架構）芯片設計方案，時擎采用神經網絡數據壓縮引擎，支持自主研發的基于RISC-V架構的端側DSA智能處理器。
據時擎科技研發副總裁仇健樂分享，該處理器可進行分布式存儲和計算，適應AI算法快速演進，保持高計算效率，目前已能在128GOPS-2TOPS算力范圍內實現較強伸縮性。
▲時擎科技研發副總裁仇健樂
當進入客戶應用場景進行部署，設計好的AI端側芯片又面臨一大新的挑戰——部署模型多為小型化網絡模型，數據量化難度大。
為此，時擎通過TimesFlow平臺提供多種量化方法，包括INT8/INT16的對稱/非對稱量化選項，從而降低量化過程中的精度損失。時擎還配備一鍵部署功能、豐富算子庫、多種預處理方法，以優化客戶的應用部署體驗。
2、愛芯元智劉建偉：兩大核心技術，加速端側AI芯片落地
近10年AI技術發展迅猛，隨著算力越來越大，市場空間暴漲，端側和邊緣側的AI芯片也迎來發展機遇。在端側、邊緣側對智能要求越多，需要的算法也就越多，同時，AI的應用也對感知和計算提出了更高的需求。
愛芯元智聯合創始人、副總裁劉建偉說：“愛芯元智在AI芯片領域對感知和計算的探索，已經成功量產兩代四顆芯片，并布局于消費電子、智慧城市領域。”
▲愛芯元智聯合創始人、副總裁劉建偉
愛芯元智將感知和計算作為兩大基礎技術進行研發，其中，AI-ISP技術將AI與ISP（圖像信號處理）相結合，選取傳統ISP中的模塊進行增強。混合精度NPU提供基礎算力，可以實現模塊間并行計算。
此外，愛芯元智提供的不僅是AI芯片，而是面向場景的解決方案，在設計整個芯片時，會幫助客戶從芯片、應用到算法進行協同設計。
3、Imagination鄭魁：CPU+GPU+AI異構計算，滿足邊緣智能多樣化需求
隨著人工智能市場快速增長，PC、智能手機、安全、汽車等市場都需要不同算力，為此，IP解決方案商Imagination最新推出了覆蓋AI、GPU和CPU等IP的異構計算架構。
Imagination中國區??智能及汽車產品市場副總鄭魁談道，作為一家IP設計公司，PPA（性能、功耗、面積）是產品一直強調的要素。同時面向手機、自動駕駛等各個領域的算力需求多樣化，對硬件計算架構乃至軟件棧有更高的需求。異構計算是未來的發展方向，對此，Imagination已在IP層面將所有計算異構能力整合，提供具備靈活性、標準化、開放性的解決方案。
▲Imagination中國區??智能及汽車產品市場副總鄭魁
在AI方面，Imagination推出了NNA（神經網絡加速器）等IP產品，已落地自動駕駛、consumer等多個領域；在CPU方面，最新推出基于RISC-V的RTXM-2200，是其首款實時嵌入式的高度可擴展的實時、確定性、32位嵌入式CPU；在GPU方面，基于PowerVR開拓性架構除了出色的PPA，還具備強大的算力可拓展性。Power VR架構走過30載，如今高算力IMG GPU已拓展至桌面、車載、高性能計算等多個新市場。
4、齊感科技刁勇：芯片+解決方案，助不同AI場景的應用快速落地
齊感科技市場副總裁刁勇談道，AI產業市場正在高速發展，目前較典型的AI應用包括語音識別、自然語言處理、視覺應用，其中視覺應用是成長最快速的。
▲齊感科技市場副總裁刁勇
智慧家居、智慧零售、智慧農牧、機器人、智慧教育等落地場景，對AI視覺芯片有非常強的需求。對于AI視覺芯片公司來說，僅利用自己的經驗來應對不同業務需求，可能會面臨很多的挑戰。對此，齊感科技以AI SoC芯片為核心，推出全套解決方案，來幫助客戶在設計相關產品時快速落地。
目前，齊感科技已經推出兩代芯片平臺QG21、QG31，包含8顆芯片，并在此基礎上布局了智能網絡攝像機、低功耗視覺應用，智能門鎖、AI智能分析盒子、智能云臺、翻譯機等解決方案。
此外，很多不帶AI的攝像頭已經部署應用，但它們可能有實際上有升級、增加AI加速能力的需求，齊感科技的AI智能分析解決方案則給這些產品提供了升級路徑。
5、英諾達李曦：大型AI芯片驗證平臺，應對芯片設計上云需求
算力成為半導體行業的新增長點，人們在追求更先進的制程工藝時，IC設計成本隨之快速上升，芯片設計軟件EDA上云成為新趨勢。
英諾達市場與銷售總監李曦談道，IC設計上云面臨數據安全、商務模式、技術支持等多重挑戰。EDA龍頭Cadence推出的Palladium硬件仿真加速器是業界較通用的硬件仿真器，支持百億門級的SoC全芯片驗證；但它價格昂貴，安裝及維護要求高，中小公司往往難以負擔。
▲英諾達市場與銷售總監李曦
為此，英諾達推出國內首個基于且由Cadence獨家授權的Palladium的異構云平臺，在國內搭建異構機房以保證安全可控和數據快速傳輸，并將費用降低到中小公司可負擔的范圍，目前已形成按需使用、按時收費的商業模式。
同時，該平臺也會提供機器故障診斷及維修、客戶配置初始調試、驗證環境搭建等技術支持。在疫情期間，英諾達的云服務優勢明顯，客戶的機器利用率保持在80%以上，不僅可以讓用戶持續推進研發進度，還可以讓用戶把更多精力放在體現其核心競爭力的芯片設計上。
6、嘉楠科技湯煒偉：擁抱軟硬件開源生態，算法平臺和倉庫幫助輕松部署
“AI應用的發展逐漸變得場景化、設備化、多樣化。”嘉楠科技副總裁湯煒偉說。AI先起于云端，隨著技術不斷成熟、AI算法模型裁剪量化，AI芯片性能和性價比不斷提升，邊緣的AI算力變得更加普及。
▲嘉楠科技副總裁湯煒偉
邊緣AI計算設備形態多元化，這導致未來該領域的開發并不只在大公司，更多中小公司、個人開發者都會參與進來。不過在開發過程中，開發者往往直面很多門檻，比如選擇芯片平臺、買不到芯片硬件、獲取開發資料和獲得支持等。在他看來，降低門檻最好的途徑就是開源。
因此，嘉楠科技采用RISC-V的通用處理器核架構，多代自研KPU架構，實現全流程的研發自主研發，能夠對開源開放、快速迭代和客戶支持有更好支撐。近兩三年嘉楠科技已經實現超200萬顆RISC-V AI芯片出貨。
另外，新的AI算法平臺和倉庫計劃年底推出，該工具將極大降低AI開發門檻。在體驗已有AI demo集的基礎上，開發者可空中升級新增的AI算法demo 以及算法二次開發，并輕松優化部署在硬件上。
嘉楠科技的AI工具鏈，軟件SDK等代碼和文檔已全面開源在Github等平臺上，以勘智Kendryte AI品牌呈現。
三、存算一體核心力量集結！從小算力走向大算力
存算一體是當前AI芯片領域最熱門的架構創新方向。這個有望突破傳統算力瓶頸的創新賽道，不僅是國際芯片學術頂級會議的焦點話題，而且在產業界開始頻頻“吸金”，連獲各路資本的傾投。
今天下午，五位國內存算一體AI芯片創企的創始人兼CEO齊聚GTIC 2022全球AI芯片峰會·存算一體芯片專題論壇，展示前沿架構與落地進展，探討高能效、低成本的可行之徑。
1、知存科技王紹迪：存內計算芯片能效、成本優勢明顯，WTM系列芯片率先布局生態
相比于傳統計算架構，存算一體更適合AI計算。利用歐姆定律乘法的計算原理，這種架構就可以實現百萬級、千萬級并行計算，使得AI計算算力能效提升數倍到數十倍，相比CPU、GPU具備更高密度、更高并行度、更高能效、更大算力。
知存科技創始人兼CEO王紹迪談道，存算一體在成本、算力、功耗上有很大優勢，但還需要補齊通用型、工具鏈、精度。
▲知存科技創始人兼CEO王紹迪
知存科技已經量產商用存內計算SoC芯片WTM2101，AI算力達到50Gops，功耗僅5uA-3mA，主要應用于可穿戴場景中的語音識別、語音增強、健康監測等功能。未來5年內，還將發布更高算力芯片序列WTM8系列、WTM-C系列、WTM-S系列。
接下來，憑借存內計算產品研發和商用的先發優勢，知存科技會持續投入算法體系、架構創新與工具鏈、底層工藝三個層面，推動存內計算生態構建。王紹迪表示，存內計算未來也要擁抱Chiplet，將兼容性、能效做的更好。
2、蘋芯科技楊越：AI算力下沉時代，用SRAM突破“存儲墻”限制
進入AI時代，算力正在下沉到移動物聯網及AIoT終端，計算更加注重能耗及效率。
為了解決“存儲墻”問題，減少數據在存儲器與處理器之間的傳輸損耗，業界出現了CMOS加速器、近存計算、存內計算等多種路徑。蘋芯科技聯合創始?兼CEO楊越認為，在可實現存內計算的多種存儲器技術中，SRAM（靜態隨機存取存儲器）具有較大計算優勢。
▲蘋芯科技聯合創始?兼CEO楊越
聚焦這一領域，蘋芯科技推出了SRAM數字存內計算內核，支持常見的定點/浮點運算，能實現超5倍效率提升，納秒級讀寫延遲，無擦寫次數限制，并且能夠向高級工藝節點兼容，引入ADC-less設計，從而實現精度無損效果。從內核硬件到SoC產品，蘋芯科技在可掛載的PIM核、軟件構建等方面加大布局，目前正在陸續推出NE002、NE003、PIMCHIP S230等幾款芯片。
權威報告顯示，2030年全球AI芯片市場規模有望達到2021億美元。楊越說，蘋芯定位的市場不局限于AI識別算法，還覆蓋了包括降噪算法、SLAM算法、ISP算法等其他矩陣類運算，目標落地智慧可穿戴、機器人、工農業智能化設備等領域。
3、億鑄科技熊大鵬：基于ReRAM的全數字化存算一體大算力芯片技術
AI芯片正在從通用CPU、專用加速器發展為存算一體階段，而馮·諾依曼架構的存儲墻、能效墻、編譯墻正在阻礙AI芯片算力和能效比的持續發展。
億鑄科技創始人、董事長兼CEO熊大鵬談道，存算一體架構在突破這些瓶頸上具有先天優勢。目前實現存算一體架構主要通過模擬、數模兩種方式。模擬能夠提高兩個數量級以上的能效比，數模混合能部分解決精度問題，不過這兩種方式會犧牲部分精度，同時數模、模數轉換會帶來能耗、面積和性能瓶頸。
▲億鑄科技創始人、董事長兼CEO熊大鵬
為了突破上述瓶頸，億鑄科技基于ReRAM打造了全數字化存算一體AI大算力芯片技術，通過數字化徹底解精度問題，在整個計算過程中，不受工藝環境的影響，實現高精度、大算力、超高能效比，切實將存算一體架構應用于大算力領域。
不同存儲介質應用在不同場景上各有優劣勢。熊大鵬認為，面向AI大算力場景，ReRAM是目前最合適的存儲介質。億鑄選擇ReRAM的優勢在于非易失、密度大、密度上升空間巨大、能耗低、讀寫速度快、成本低、穩定、兼容CMOS工藝等特點。目前ReRAM的制造工藝已經成熟，且已經有ReRAM產品量產落地。
4、智芯科張鐘宣：解決AI落地中的“將大象塞進冰箱”難題
杭州智芯科微電?創始?兼CEO張鐘宣說，千千萬萬的AI公司做AI落地，面臨“將大象塞進冰箱”的問題。例如，一個手機的功耗不能超過5W，否則熱散不去，AI模型落地到手機上，就會損失很多效果。
▲杭州智芯科微電?創始?兼CEO張鐘宣
看到這一市場發展瓶頸，智芯科選擇基于SRAM（靜態隨機存取存儲器）的存內計算技術，解決后摩爾時代的“大算力、低功耗”市場痛點。智芯科主要聚焦視覺處理芯片、GPNPU（通用神經網絡處理器）兩個落地方向。
張鐘宣談道，智芯科的視覺處理器AT700 AI CIM，int8能耗比達到10TOPS/W。AT700X Pre-ISP圖像增強能使算力超過20TOPS，同時功耗低于1W；落地網絡攝像機領域，能實現0.5~2W低功耗，算力達10~50TOPS（int8），實現暗光全彩效果；AT800 GP CIM是其代表性的邊緣AI處理器，采用12nm制程，int8能耗比達到30TOPS/W，幾乎達到當下5nm同類芯片的水平。
在軟件方面，智芯科推出了一套AI工具流程，面向客戶提供網絡優化、量化浮點達int8的算力服務，并支持神經網絡圖形編譯、可執行二進制文件生成的相關硬件。
5、九天睿芯劉洪杰：基于混合信號SRAM存算一體，多模態傳感器協同
人機交互系統智能程度提升，帶來了傳感器數量、時間空間分辨率要求及神經網絡應用規模的提升，對多維度數據同步采集、傳輸、處理、運算和存儲操作的能效、面效和時效性能提出了更高的要求。
九天睿芯創始人、董事長兼CEO劉洪杰談道，基于SRAM的混合信號存內計算能夠實現更小的運算單元、更高的能效，同時保持符合商用的精度，體現了該架構良好的應用優勢，在面積上，九天睿芯的產品大小僅為1.4×1.4平方毫米。
▲九天睿芯創始人、董事長兼CEO劉洪杰
混合信號SRAM存算一體同時結合模擬預處理和高性能ADC，九天睿芯使整個信號鏈更智能更高效率，這一架構能打破傳感器端ADC速度和精度性能瓶頸，存算一體實現了NPU突破功耗瓶頸，因此適用于追求極致低功耗和低延時、高精度的場景。面向兩個應用：1，VR/AR領域的未來應用，基于混合信號SRAM感存算一體可幫助實現眼動追蹤，以及VR/AR頭顯設備的超低功耗語音識別、SLAM同步定位與構圖。2，集成模擬預處理或高速ADC與存算一體的車用傳感器端（視覺，激光雷達等）的低延時低功耗高集成度處理。
四、鍛造新型計算鑰匙，打開通用智能未來之門
在后摩爾時代，AI芯片日漸面臨來自器件、工藝、架構、能耗、成本等諸多芯片設計與制造層面的挑戰。同時，盡管深度學習算法的落地愈發廣泛，產學界仍在探索實現通用智能的更多可能路徑，這要求AI芯片從底層架構創新，來應對主流AI算法變化的不確定性。
除了存算一體方興未艾，還有幾類新型計算架構走出學術象牙塔，走向產業化。在新型計算技術專題論壇上，類腦計算創企代表靈汐科技、光子計算創企代表曦智科技、量子計算創企代表玻色量子發表主題演講，分享他們如何通過將前沿技術轉化落地，闖向AI計算加速的“無人區”。
1、靈汐科技華寶洪：類腦芯片已量產落地，異構融合成新趨勢
靈汐科技副總經理華寶洪認為，類腦計算是后摩爾時代顛覆性戰略技術，已成中美歐科技競爭必爭之地。這一方法受人腦啟發產生，是一個融合生物腦科學原理和計算機科學原理的計算系統，具有近似計算、抗噪音、稀疏、時空相關性等特點。
▲靈汐科技副總經理華寶洪
華寶洪說，異構融合是類腦計算的發展趨勢。靈汐科技的相關成果于2019年登國際學術頂刊《自然》封面，基于此靈汐科技已流片和量產了邊端首款商用類腦芯片Lynchip KA200，兼容人工神經網絡和生物神經網絡，采用12nm制程，支持25萬神經元、2500萬突觸，稀疏模式支持200萬神經元，DNN算力達到32TOPS（int8），16TFLOPS（FP16），功耗范圍在1-14瓦，運行ResNet50-64、yolo5等主流網絡時，芯片在能效比和性價比遠高于NVIDIA T4。
目前靈汐科技的類腦計算芯片已經用于腦科學和類腦計算，同時也覆蓋安防、機器人、無人機等傳統AI應用領域。
2、曦智科技胡永強：光電混合，重新定義算力基建
半導體工藝從硅基時代的10μm工藝發展到3nm工藝，進入后摩爾時代，企業開始探索光子計算、量子計算、存內計算的發展。曦智科技全球副總裁胡永強談道，光子計算的底層優勢是低延遲、低能耗、高通量。與電傳輸相比，光信號以光速傳輸，能實現微米至百米級的TB級數據傳輸能力。
▲曦智科技全球副總裁胡永強
基于光子矩陣計算oMAC、片上光網絡oNET、片間光網絡oNOC的三大光核心技術，曦智科技打造了光子計算和光子網絡兩大產品線。
相比于電子芯片，光的計算單元并行能力很強，可以利用波分復用同時計算多路數據，同時獲得更高的能效比以及極低的計算延遲，且對工藝制程的要求也更低。此外，片上光網絡oNOC技術將CMOS硅電子芯片堆疊在光芯片上，這種光電技術能通過光波導實現高帶寬、低能耗、低延遲的chiplet網絡互聯方案。
去年，曦智科技發布了第二代光計算處理器PACE，采用64×64光學矩陣乘法器，單個光子芯片中集成超過10000個光子器件，其運行特定神經網絡的計算速度可以達到目前高端GPU的數百倍。今年下半年，曦智科技將推出全球首顆基于oNOC技術的光電混合3D封裝AI加速計算芯片，并搭載自研軟件棧。
3、玻?量??凱：光量子芯片正從理論優越性走向實用優越性
量子計算代表著下一代算力的重要突破方向。在量子計算世界中，運算的基本單元是量子比特，它的基本狀態是0和1的疊加。對N個量子比特進行一次操作，相當于對經典比特進行2的N次方次操作。這體現了量子計算機的巨大運算潛力，可應用于模擬、優化、機器學習、密碼學等方向。
玻色量子創始人兼CEO文凱分享說，光量子計算是商用化量子計算機的新形態，目前正從空間光發展到集成光學芯片，從理論優越性走向實用優越性。比如中科大“九章”去年研制的113個光量子的“九章2.0”完成了高斯玻色采樣計算實驗，比經典超級計算機快了大約10的24次方倍，驗證了量子計算的理論優越性。近年來，北京大學王劍威團隊、美國PsiQuantum公司，加拿大Xanadu公司等都進行了光量子計算芯片化的相關探索。
▲玻色量子創始人兼CEO文凱
創立于2020年底的玻色量子是一支來自斯坦福大學、麻省理工、清華大學、中科院等學府的團隊，多年研究基于DOPO（簡并光學參量振蕩器）的相干量子計算方案，并在量子神經元生成芯片、通用光量子計算芯片等方向展開了攻關。
目前，玻色量子已推出第一代“天工”光量子計算驗證平臺，在國內首次實現25節點任意相連可編程的MAX-CUT問題的優化求解驗證，能在50微秒內在3000多萬種可能性中篩選出4個最優解之一。在商業化場景應用上，玻色量子在金融、交通、生物制藥等方面也都實現了突破。
結語：AI芯片長坡厚雪，奔向智能計算未來
至此，GTIC 2022全球AI芯片峰會圓滿收官。
在這場AI芯片盛宴上，我們看到技術創新的力量依然熠熠生輝，從競逐有效算力到聚焦解決現實問題，許多創新方案提供了更多破解AI芯片瓶頸的差異化思路，多個創業團隊積淀的AI芯片實力也開始厚積薄發。
同時，我們也看到，無論是大算力還是小算力的AI芯片，無論是相對成熟的領域專用架構、通用GPU，還是存算一體、類腦計算、光子計算、量子計算等前沿技術路線，都有越來越多的高性能產品走向規模化量產與商用落地。
隨著疫情得到有效控制，行業秩序逐步恢復，面對智能化、數字化、電動化帶來的海量數據計算需求，承載著智能計算核心動力的AI芯片產業，繼續快速奔跑，未來市場發展空間廣闊。
我們希望GTIC 2022全球AI芯片峰會成為前沿技術交流和產業落地對接的平臺，通過邀請各條細分賽道極具代表性的AI芯片企業們同臺，共同譜出AI芯片產業的最強音。
預告：GTIC另一場產業峰會，2022全球自動駕駛峰會，也將于近期（9月27日）在深圳舉行，敬請關注。
