【財新網(wǎng)】AI廠商嘗試通過算法優(yōu)化緩解內(nèi)存瓶頸。當?shù)貢r間3月24日,谷歌(NASDAQ: GOOGL)研究院發(fā)布文章介紹以TurboQuant為代表的新一代壓縮算法,據(jù)稱在基準測試中,可在不犧牲AI模型性能的情況下,將KV Cache(鍵值緩存)減少超過6倍,緩解內(nèi)存短缺問題,并將推理速度提升數(shù)倍。
該博文發(fā)布后,市場擔憂存儲用量將顯著下降,不再成為AI發(fā)展制約因素,幾大存儲芯片制造商股價下跌。三星(KRX:005930)、美光(NASDAQ:MU)兩日合計下跌超5%;SK海力士(KRX:000660)3月26日單日即下挫6.23%;3月25日美股收盤,閃迪(NASDAQ: SNDK)下跌3.5%,盤中跌幅一度觸及8%;西部數(shù)據(jù)(NASDAQ: WDC)下跌1.63%;希捷(NASDAQ: STX)下跌2.59%。而上述跌勢發(fā)生之際,納斯達克100指數(shù)錄得小幅上漲。



















京公網(wǎng)安備 11010502034662號 