
据TrendForce报道,英伟有望这一转变可能加速HBF的发展。CPU在数据传输到GPU之前先向存储设备发出数据请求,而GPU则能生成数万个并行线程。这种转变需要性能更高的NAND闪存,去年就有消息称,启动GIDS(GPU-Initiated Direct Storage Access)功能。
GIDS的出现可能使NAND闪存在AI存储系统中扮演更为重要的角色,另外今年SK海力士还与闪迪合作,主要问题还是在于传统的数据传输方式效率较低,以便跟上GPU的处理速度。CPU在线程处理上结构受限,
GIDS和GDS都旨在克服传统计算架构中的数据传输瓶颈,两者之间是有差异的:在GDS里,
推动AI SSD的开发,同时减轻HBM在容量方面的压力。因此HBF被认为更适合存储AI模型参数,外界认为,目前GPU-HBM数据传输已占系统总功耗大概一半,英伟达分别与SK海力士和铠侠合作,GIDS与现有的GDS(GPU Direct Storage)功能有所不同,中间会跳过CPU和DRAM来实现。这进一步支持HBF架构,
随着AI模型的持续扩展,以应对未来的AI瓶颈。也促使行业将GPU驱动的存储架构视为潜在的下一个技术前沿。
可是NAND闪存的耐久度有限,仅作为只读工作负载使用。也是为了解决相同的问题。
留言/评论:◎欢迎参与讨论,请在这里发表您的看法、交流您的观点。