AI技术重大突破:内存涨价将遇狙击 内存用量大降-麦享科技
麦享科技
前沿资讯网站

AI技术重大突破:内存涨价将遇狙击 内存用量大降

麦享科技7月1日消息,如今的内存涨价已经失控,一年来价格涨了5-10倍,主要推动力就来自AI数据中心需求,但这波涨价缺货很可能也会遇到狙击,技术突破也是来自AI优化。

大家都知道AI大模型对内存的容量及带宽都有极高的需求,所以高性能AI芯片大多上了HBM内存,其用量是DDR5内存的2-3倍,导致了这一次的内存缺货涨价。

内存缺货因AI而起,最终解决还得靠AI本身,想要减少内存用量就得优化内存架构,OpenAI分拆出来的一个团队在这方面已经取得了重大突破,主要是内存效率方面的,技术很快会宣布。

AI技术重大突破:内存涨价将遇狙击 内存用量大降

虽然这个技术具体是啥没公布,但已经有AI领域的网友提到了这可能跟KVCache缓存有关,熟悉DeepSeek的网友对这个词应该不会陌生,V4价格能这么低的原因就是KVCache利用到了极致。

OpenAI的这个技术突破有可能也是在这方面作文章,既然内存又贵还缺货,那就减少对内存的需要,将数据放到容量更大、价格更低的NAND闪存芯片上

AI技术重大突破:内存涨价将遇狙击 内存用量大降

如果再联系到业界此前在研究的HBF闪存,OpenAI很有可能这次会把这种高性能闪存推向实际部署,虽然延迟、写入速度上还无法跟HBM内存相比,但1638GB/s的读写带宽跟HBM4是一样的。

这个技术最终大规模部署的话,那么AI算力中心对内存的用量肯定会大幅减少,内存缺货、涨价的动力就严重受限了。

但是坏消息是这可能会加速闪存的涨价,只不过闪存本身的价格比内存低很多,权衡之下肯定还是优先减少内存用量。

AI技术重大突破:内存涨价将遇狙击 内存用量大降

💡 网购省钱小技巧
下单前先查历史价格,再领隐藏优惠券,还能享受购物返利,让每一次购物都更划算。


麦享生活

网购先比价 · 查优惠券 · 查返利 · 查历史价格,就用麦享生活 APP。


麦享生活下载

麦享生活已上架各大应用商店,免费下载,安装即可使用。

未经允许不得转载:麦享科技 » AI技术重大突破:内存涨价将遇狙击 内存用量大降

相关推荐

  • 暂无文章

评论 抢沙发

评论前必须登录!