①Groq公司宣布其新一代LPU對大語言模型推理進(jìn)行優(yōu)化效果顯著，包括炬芯科技、恒爍股份、成都華微等在內(nèi)的多家科創(chuàng)板公司，均聲稱業(yè)務(wù)與SRAM儲存器有關(guān)聯(lián)或關(guān)注相關(guān)技術(shù)； ②受訪的業(yè)內(nèi)人士稱，短期來看SRAM相關(guān)產(chǎn)品，對當(dāng)前算力技術(shù)和產(chǎn)業(yè)難以形成顛覆。
《科創(chuàng)板日報(bào)》2月21日訊（記者 黃修眉 余佳欣 郭輝） SRAM（靜態(tài)隨機(jī)存取存儲器）作為一種傳統(tǒng)存儲方案，近兩日相關(guān)概念連續(xù)點(diǎn)燃A股半導(dǎo)體板塊。今日（2月21日），SRAM概念股再度拉升，西測數(shù)據(jù)20CM漲停，北京君正、恒爍股份等個股盤中一度漲超10%，萬潤科技、東方中科等個股跟漲。
消息面上，谷歌TPU第一代設(shè)計(jì)者Jonathan Ross所創(chuàng)立的Groq公司正式宣布，其新一代LPU在多個公開測試中，以幾乎最低的價(jià)格，相比GPU推理速度翻倍。并且后續(xù)有三方測試結(jié)果表明，該芯片對大語言模型推理進(jìn)行優(yōu)化效果顯著，速度相較于英偉達(dá)GPU提高了10倍。與GPU不同的是，LPU的內(nèi)存采用了SRAM。
上述消息爆出后，多家A股公司通過投資者互動平臺等渠道，闡釋公司SRAM相關(guān)的研究和業(yè)務(wù)。同時(shí)，今日（2月21日）《科創(chuàng)板日報(bào)》記者以投資者身份致電多家涉及SRAM儲存器業(yè)務(wù)的公司，采訪了解其進(jìn)展。
整體來看，包括炬芯科技、恒爍股份、成都華微等在內(nèi)的多家科創(chuàng)板公司，均聲稱業(yè)務(wù)與SRAM儲存器有關(guān)聯(lián)或關(guān)注相關(guān)技術(shù)，其中有公司表示正在基于SRAM研發(fā)AI存算芯片，并且將在2024年取得階段性進(jìn)展。
不過，多位半導(dǎo)體業(yè)內(nèi)人士接受《科創(chuàng)板日報(bào)》記者采訪時(shí)，對SRAM相關(guān)產(chǎn)品方案將可能引起的算力爆發(fā)，保持較為審慎的態(tài)度。無論是SRAM本身的高成本、低容量，還是基于SRAM的LPU產(chǎn)品的通用性局限，短期來看對當(dāng)前算力技術(shù)和產(chǎn)業(yè)難以形成顛覆。
多家A股公司回應(yīng)SRAM相關(guān)產(chǎn)品進(jìn)展
《科創(chuàng)板日報(bào)》記者通過互動平臺向炬芯科技詢問基于數(shù)?；旌想娐返腟RAM存內(nèi)計(jì)算路徑進(jìn)展，炬芯科技證代辦人士表示，炬芯科技將推出最新一代升級為CPU+DSP+NP三核異構(gòu)的高端AI音頻芯片ATS286X，預(yù)計(jì)在2024年中，向下游客戶提供樣品芯片，該芯片為便攜式產(chǎn)品提供更大的算力。
炬芯科技證代辦人士稱，“SRAM是和FLASH和DRAM一樣的一種儲存器，SRAM用于AI芯片也有特定的場景，例如推理場景，但AI芯片是公司未來的重點(diǎn)研發(fā)方向。”
炬芯科技股份有限公司董事長兼CEO周正宇，曾在2023年11月舉行的中國集成電路設(shè)計(jì)業(yè)2023年會上公開表示，基于SRAM的CIM具有非常顯著的技術(shù)優(yōu)勢，包括能效比高，功耗低，讀寫速度快，適合低功耗高性能裝置使用；寫次數(shù)沒有限制，適用于模型反復(fù)調(diào)整的；工藝成熟，可大規(guī)模量產(chǎn)；工藝領(lǐng)先，適合集成?！搬槍Φ凸牡囊纛lSoC，基于SRAM的CIM是目前打造低功耗音頻AI算力的首選?！?/p>
恒爍股份證代辦人士向《科創(chuàng)板日報(bào)》記者表示，該公司基于NOR Flash的存算一體芯片恒芯2號已回片，正處于測試階段，該公司自2023年下半年同步也在進(jìn)行基于SRAM的數(shù)字存算一體方案的研發(fā)，進(jìn)展符合預(yù)期。
上述恒爍股份證代辦人士稱：“NOR Flash存算一體芯片與SRAM的數(shù)字存算一體均可以用于AI芯片，但SRAM是‘?dāng)?shù)字’存算一體，兩者仍然存在功能方面的差別。順利的話，公司預(yù)計(jì)2024年底能回片。而且AI芯片也是公司未來的發(fā)展方向?！?/strong>
成都華微在互動平臺上表示，該公司承擔(dān)的“十三五”國家科技重大專項(xiàng)基于28nm工藝平臺，突破超大規(guī)模高性能FPGA低功耗設(shè)計(jì)方法等關(guān)鍵技術(shù)，建立高性能、高性價(jià)比千萬門級SRAM型FPGA器件自主研發(fā)與工程化應(yīng)用能力。此外，該公司智能SoC芯片可以應(yīng)用于人工智能領(lǐng)域，但目前處于研發(fā)、送樣階段。
《科創(chuàng)板日報(bào)》記者致電成都華微采訪其相關(guān)芯片進(jìn)展詳情，截至發(fā)稿暫未得到回復(fù)。值得注意的是，與此前兩家擁有消費(fèi)級應(yīng)用布局的公司不同，成都華微隸屬于中國電子信息產(chǎn)業(yè)集團(tuán)，專注于特種集成電路研發(fā)、設(shè)計(jì)、測試與銷售，以提供信號處理與控制系統(tǒng)的整體解決方案為產(chǎn)業(yè)發(fā)展方向。
中科藍(lán)訊證代辦人士向《科創(chuàng)板日報(bào)》記者表示，目前該公司在研的智能藍(lán)牙音頻芯片、物聯(lián)網(wǎng)芯片產(chǎn)品等均是基于NOR儲存器，暫時(shí)沒有產(chǎn)品基于SRAM研發(fā)?！澳壳癗OR已經(jīng)能滿足所有產(chǎn)品智能化方面的需求，是否應(yīng)用SRAM要根據(jù)下游客戶需要進(jìn)行。”該證代辦人士稱。
也有投資者關(guān)注到軍用電子元器件芯片檢測公司思科瑞，并詢問該公司是否有SRAM芯片相關(guān)業(yè)務(wù)。思科瑞證代辦人士向《科創(chuàng)板日報(bào)》記者表示，“公司主要從事芯片檢測，擁有一種隨機(jī)靜態(tài)存儲芯片SRAM的測試篩選技術(shù)，每年可檢測約10萬只該種類型芯片?！?/p>
LPU通用能力或存局限 短期未必形成技術(shù)顛覆
在生成式人工智能引發(fā)的算力焦慮中，能產(chǎn)生算力爆炸的顛覆性技術(shù)也更容易受到市場關(guān)注。但這會是SRAM或基于SRAM的AI芯片嗎？多位受訪的半導(dǎo)體從業(yè)者對此表示懷疑。
“SRAM是個非常成熟的技術(shù)了，CPU中的寄存器和緩存都用的是SRAM?！睒I(yè)內(nèi)人士接受《科創(chuàng)板日報(bào)》記者采訪表示，SRAM早已以IP內(nèi)核形式完成在SoC的集成，本身的技術(shù)價(jià)值沒有更大的突破。
上述人士表示，SRAM確實(shí)要比DRAM快，但SRAM價(jià)格很貴，容量較小。“LPU乃至其他計(jì)算芯片，大量使用SRAM時(shí)需要有所權(quán)衡，比如需不需要為了性能而犧牲容量?！?/strong>
“之所以Groq選擇了SRAM，是因?yàn)樗煌评?、不?xùn)練，而推理所需要的存儲空間比訓(xùn)練要小得多，所以Groq的一個板卡只有230MB的內(nèi)存，而GPU的DDR空間基本都是幾個GB的大小?！痹撊耸糠Q，由于成本和容量限制，目前還看不到SRAM爆發(fā)的希望。
而對于基于SRAM的LPU產(chǎn)品，業(yè)內(nèi)人士則質(zhì)疑其不同場景中的通用能力，可能會影響該類產(chǎn)品的規(guī)模應(yīng)用。
有芯片從業(yè)者表示，LPU目前的優(yōu)勢在于推理，而訓(xùn)練方面能力偏弱。Groq使用的是開源模型，而且不訓(xùn)練這些模型。這樣的方案“優(yōu)點(diǎn)是推理速度很快，適用于單個模型的場景，但一旦涉及多個模型，LPU就沒有任何優(yōu)勢了?！?/strong>
“訓(xùn)練比推理難很多”。有從事國產(chǎn)大模型訓(xùn)練的業(yè)內(nèi)人士向《科創(chuàng)板日報(bào)》記者表示，推理是模型結(jié)構(gòu)固定，模型權(quán)重已經(jīng)凍結(jié)之后做的，但訓(xùn)練是為了訓(xùn)出模型，通常算法工程師會通過改變模型結(jié)構(gòu)等操作來調(diào)整模型，這些操作非常靈活，并且大模型的訓(xùn)練還要分很多階段。
“對應(yīng)到場景而言，越通用，則對訓(xùn)練過程的靈活性要求越高，越專用，則適用場景越小?！?strong>該大模型研發(fā)人士直言，LPU甚至可能是一個專為某種模型結(jié)構(gòu)設(shè)計(jì)的硬件，很可能大模型換個結(jié)構(gòu)就很難支持，另外Groq官網(wǎng)也只提到在大語言模型上的優(yōu)勢，專為語言模型設(shè)計(jì)，估計(jì)在圖像和視頻方面沒有優(yōu)勢。
“Groq公司LPU產(chǎn)品應(yīng)用范圍限制比較大，相比于英偉達(dá)更為完善的軟件生態(tài)和GPU產(chǎn)品的通用計(jì)算平臺，短期來看也完全沒法取代GPU?！鄙鲜鋈耸糠Q。
圖片
