Chinese contentORICO 推出 FlashMem FM9800 固态硬盘,配备 pSLC AI Cache 区域
奥睿科把一部分闪存跑成 pSLC 当 AI 缓存,配自家的 Herdman 推理引擎做显存-内存-闪存分层协同。显存不够想本地跑大模型的人可以关注,768GB 版加 85GB 缓存的思路和普通 Gen5 SSD 不太一样。
IT之家Source
奥睿科把一部分闪存跑成 pSLC 当 AI 缓存,配自家的 Herdman 推理引擎做显存-内存-闪存分层协同。显存不够想本地跑大模型的人可以关注,768GB 版加 85GB 缓存的思路和普通 Gen5 SSD 不太一样。