March 20, 2024

AI引领的数据创新应用商机:激发高效能储存的强大需求

AI引领的数据创新应用商机:激发高效能储存的强大需求

William Cheng / 慧荣科技企业级储存行销协理

随着数据经济时代来临,近几年来我们不仅看到数字转型浪潮持续席卷,也见证了人工智能(AI)包括机器学习(ML)及深度学习(DL)等科技的蓬勃兴起,尤其在ChatGPT、生成式AI、大语言模型(LLM)横空出世后,更让AI火苗越烧越旺,驱使越来越多企业对AI不再仿徨观望、开始将AI相关软硬体列入IT投资计划。

不可讳言,有志投入AI开发与应用的企业或机构,都必须备妥足量的「燃料」、也就是数据,才能源源不断地绽放创新能量;尤其伴随着AI算法日趋复杂,更需要大量数据加以支撑,连带使得高效能存储解决方案的重要性水涨船高。

深究其因,首先在于人工智能算法趋于复杂化之后,不论是机器学习模型的训练数据、深度学习网络的大量数据集,又或以AI驱动应用程序的即时数据,都将带动一波波数据洪流,迫使企业必须在短时间内有效地储存、读取与处理越来越大量的信息。其次当企业启动各种AI工作负载时,也需要依赖更高的数据I/O性能、更大的数据吞吐量,才足以支撑在大量数据集上的固有的复杂运算;这点不论在于训练神经网络、运行预测分析、执行即时AI应用程序等各种场景,都是至关重要的。

MonTitan™ 平台助阵,加速打造企业级SSD

综上所述,AI的兴起,带动企业端对于高效能存储的殷切需求;但在建立高效能存储构架的过程,基于平衡速度、容量、成本、数据完整性等重大目标,企业不仅需要优先选购诸如NVMe SSD等高速存储媒体,亦须关注其中是否支持「分区命名空间」(Zoned Namespaces;ZNS)、或「灵活数据放置」(Flexible Data Placement;FDP)等进阶技术,以期加速突破效能边界。有鉴于此,居于全球NAND闪存控制芯片领导地位的慧荣科技,重磅推出「MonTitan™ 」企业级PCIe Gen5 SSD开发平台,并已进入送样阶段。

慧荣科技企业级储存行销协理William Cheng表示,具体来说,慧荣科技的MonTitan™ 为一款兼具高效能、可客制化编程等多重优势的PCIe Gen5开发平台,协助SSD制造商与NAND大厂等企业级存储供应商,顺利打造出能够满足数据中心与企业级存储应用等严苛要求、且符合个别供应商自行定义的SSD解决方案。

William Cheng进一步指出,MonTitan™ 平台内含SM8366企业级SSD控制芯片ASIC、Turnkey和分层企业固件(Layered Enterprise Firmware)、SSD参考设计套件(RDK)等完整元素,足以帮助前述客户快速完成企业级SSD的设计,实践Time to Market目标,进而凭借最佳总体拥有成本(TCO)的诱因,赢得广大最终用户的青睐。MonTitan™ 兼具了高效能、低功耗、高容量等优势特色,堪称是因当前数据中心挑战,是支撑HPC、边缘运算及AI应用的绝佳首选。

再者,MonTitan™ 同时支持NVM Express 2.0b协定、OCP NVMe SSD 2.0规范,支持E1.S、E1.L、E3.x、U.2/3等多种基于业界标准的外型规格。另一方面,它搭载16个独立可编程的NAND信道,支持ONFI(Open NAND Flash Interface)/TOGGLE协定并提供界面切换指令选项,最高可支持2400MT/s, 支持各NAND厂商的TLC与QLC NAND。谈到数据安全性部份,MonTitan™ 则广泛支持包括安全验证、安全开机、密钥包装、AES-256、硬件安全信任根等多项业界领先的技术规格。

慧荣科技独有的PerformaShape™与NANDCommand™技术,保障最大性能、QoS隔离与NAND效能

MonTitan™结合了两项由慧荣科技打造的独家技术,一是PerformaShape™,擅于保障最大化的性能的同时实现QoS隔离;另一是NANDCommand™,旨在提升TLC/QLC NAND的效能。

PerformaShape™是固件定义的硬件加速的一种独特的多层整形算法,能够依据个别使用者定义的QoS集来分配性能配额(例如QoS、延迟、随机读取/随机写入、功耗))并最大化SSD性能

NANDCommand™采用第5代高效能LDPC错误更正码(ECC)技术、机器学习算法、即时全面的介质扫描,大幅提升新世代NAND达到企业级需求,确保数据完整性、耐用性及性能、QoS最佳平衡,这些算法可有效结合软解码、智能DSP缓冲管理,和读取/写入数据优先级处理等先进技术。

除PerformaShape™和NANDCommand™两大源自慧荣的独到技术外,MonTitan™同时支持ZNS与FDP两大企业级储存关键技术,使其成为支持最新QLC NAND以支持企业级效能优化的理想平台。

利用先进的ZNS和FDP技术,轻松达到数据放置最佳化

MonTitan™ 启用两项先进数据放置技术,其一便是「分区命名空间」(ZNS)。ZNS是NVMe 2.0规范的一部分,它奠基于分区储存概念,意指藉由一类独特的储存设备(HDD或SSD),能够让主机系统与储存设备二者协作以实现企业级减少写放大、优化效能的目标。

换句话说,ZNS为一种储存构架,擅于将储存设备组织成为具有不同特征的区域,借以优化数据的放置与存取。而它主要蕴含三项关键的工作原理。第一是「储存设备分区」,旨在将SSD储存设备划分成带有不同属性(例如不同的性能、不同的容量…等等)的逻辑区域,而这些区域可经由存储控制芯片来管理。第二为「逻辑到物理的映像」,存储控制芯片可依据预定标准,把传入的数据对应至特定区域。第三是「区域意识」,主要是将应用程序或档案系统设计为「区域感知」,意谓它们都理解分区存储架构,能够与存储系统交互,提供一致性的数据放置指令。

值得一提,支持ZNS的SSD,无需借助大量DRAM来实现闪存转换层(FTL),有利于减少板载DRAM的占用空间与建置成本;不仅如此,ZNS也擅于消除一些与写入放大、QoS可变性相关的难题。总之ZNS SSD兼具「主动回收垃圾」、「无需过度配置」、「降低写入放大率」和「仅需少量DRAM」的诸多优点,形同让过往阻碍SSD发展的绊脚石,包括规模、QoS及TCO等问题都逐一迎刃而解。

另一个卖点在于,ZNS开启了混合技术SSD的大门,其中包含S L C闪存(提供高耐用性)、TLC/QLC闪存(提供高容量),以便于在容量、寿命和可靠度等不同维度之间取得最佳平衡。

至于MonTitan™所启用的另一先进数据放置技术,即为「灵活的数据放置」(FDP),原则上是与前述ZNS相似的技术,由Meta、Google及Samsung三家OCP(Open Compute Project)成员所共同推动。FDP立足于新核准的NVMe规范(TP4146),标榜能减轻主机软件与驱动程序的修改需求,实现与ZNS类似的数据放置最佳化优势。

简言之,FDP的主要优势,在于它拥有与既有系统的向后兼容性,并且可以减少提供系统级最佳化所需要的工程资源。而支持FDP的SSD当中的数据放置,改善了当前的分解储存模型,意即借由向主机提供有关在SSD上分配数据的位置「提示」,实现数据隔离。

说到这里,就不得不提到FDP SSD赖以实践上述目标的「公开超级内存块信息」,该信息允许主机将写入标记为特定回收单元(RU),以便于让装置能够对齐来自多个应用程序的数据。透过这样的主机/装置协作模式,确实有助于削减写入放大,并为取消分配RU提供保证,让主机有能力协调垃圾回收。

提供两种RDK配置,为客户营造最大取样弹性

在融合诸多独到的利基条件下,大致为MonTitan™赋予了四大企业级特点,包括:一、可订制化编程的标准型NVMe与Host-based FTL固件模型;二、分区命名空间固件可配置构架,提供最佳的储存应用,包含NVM Set、RAID Type、# of Zones、Zone Size;三、存储容量最高支持128TB;四、 通过1024队列,最多支持128个命名空间。

基于种种差异化特性,客户经由MonTitan™平台所打造的企业级SSD产品,能确保迎合未来AI世界的存储需求。慧荣科技已开始提供MonTitan™样品,方便客户预先拟定后续SSD新品的开发展计划,并依据不同的性能规格,一举推出两种不同的「参考设计套件」(RDK)配置,提供客户更大的取样弹性。

第一种MonTitan™ RDK的配置为传统NVMe,至于第二种配置则是市场上首款基于QLC的PCle Gen5 ZNSSSD。无论属于哪一种RDK配置,都是专门为了支持Turnkey固件所建造而成的,而该固件针对各种应用程序,特别进行功耗与性能优化,譬如可将SSD平均功耗压低在25W以下,将空闲SSD功耗压低在5W以下,足以帮助最终企业用户符合当前广为认可的ESG永续发展目标,避免因为从事大量数据集的AI训练或推论工作负载,衍生悖离节能减碳原则的现象。

无论随机或循序存取性能,皆缔造业界新思路

深入觀察兩項MonTitan RDK的效能規格,大致可梳理出兩項極為耀眼的數值。第一個亮點,在於隨機讀取效能部份,MonTitan支援高達3.5M IOPS(4K);另一個亮點,則在於支援了高達14.2GB/s的循序存取效能。兩項關於效能表現的數值,確定雙雙刷新了業界的最高紀錄。

William Cheng补充说,基本上客户只要善用MonTitan™平台,即可获得一个深具弹性、也最易于开发的环境,但假使客户仍需要慧荣科技提供其他支持,譬如说希望协助他们完成一些预期的软件功能;针对这些进阶需求,慧荣科技亦可提供设计服务,满足客户的期盼,终至生产出足以在市场脱颖而出的明星级SSD产品。

着眼于前述需求情况,不管是模块厂、NAND大厂等企业级储存供应商,预期都将竭尽所能开发精良的SSD产品,借以抢占巨大商机。而MonTitan™无疑正是这群供应商的坚实后盾,帮助他们如期如质打造强大的SSD产品,连带让广大企业同蒙其利、顺利加速数字转型进程。

总而言之,可以预见今后各企业不论行业属性、不论规模大小,都将如火如荼展开数字创新升级计划;随着AI/ML应用不断深化,对于数据的需求势必长长久久、永无止境。值此时刻,企业即需依靠能够完美平衡性能、容量、成本、数据完整性的优质存储载体,唯有如此,才足以为各项AI工作负载投注最佳化处理能力。