新年滥觞,焱融科技再次在存储性能领域获得冲破。通过最新的履行室测试,焱融 AI 存储居品——焱融追光全闪存储一体机 F9000X,搭载 4 张 NVIDIA 400Gbps NDR InfiniBand 网卡,并纠合自主研发的 Multi-Channel 多网卡团员技巧,杀青了 1.6Tb/s 的汇集带宽团员。3 节点存储集群的测试放胆表示,性能达到 480GBps 带宽和 750 万 IOPS,相较阛阓同类居品普及了 3 倍。
这一冲破性决议不仅大幅普及了性能,还灵验缩短了企业的总领有本钱:每 GB/s 本钱减少 75%,每 IOPS 本钱缩短 30%。焱融科技凭借业界顶级性能,为大领域 AI 野心提供了理念念的存储经管决议,加速了 AGI 时间的全面到来。
AI 技巧发展催生计储性能升级
频年来,AI 技巧至极是生成式 AI 迎来了马上发展的黄金时期,不断刷新着才能规模。随同而来的是不断普及的对数据处理速率和成果的条件,这也在引发一场新的存储技巧创新,对存储性能的条件不断提高。
AI 模子复杂度不断普及,存储性能需求攀升
跟着生成式 AI 技巧的抓续创新,基础大模子已迈入多模态时间,模子参数和野心复杂度均呈指数级增长。这种发展显耀普及了对存储带宽、容量和野心肠能的条件。此外,跟着模子领域和考核精度的不断普及,Checkpoint 也变得更大,进一步加重了对存储迷糊量的压力。要是存储性能无法匹配模子的复杂度,悉数 AI 考核链条将因“存储瓶颈”而受阻,影响模子迭代的成果。
而在模子推理轨范,更大的数据量、更弘远的模子,以及更长的高下文窗口简略显耀普及东说念主工智能的效用。可是,推理流程需要移交多数并发苦求且对反馈时候条件极高。同期,AI 模子凡俗更新和快速部署的需求也在不断加多。这使得存储系统必须具备低蔓延和高迷糊量,以餍足不断增长的应用需求。
算力资源紧缺,GPU 愚弄率普及需求热切
AI 技巧的发展股东了算力需求的急剧增长,GPU 等算力资源供需矛盾杰出。跟着模子参数和复杂度的普及,模子考核所需的 GPU 算力也随之加多,现在最高已推广到万卡乃至十万卡领域的大型 AI 算力集群。但现存基础设施在算力资源的可用性和优化方面仍存在诸多挑战。凡俗的 CheckPoint 数据写入和断点续训形成算力资源闲置,算力集群的愚弄率偏低,加多了考核时候和野心本钱。
在这种情况下,若简略将 GPU 愚弄率普及,就相配于加多了很是算力,从而能在更短的时候内完成更多的野心任务,缩短模子考核的时候本钱和经济本钱。而普及 GPU 愚弄率的要津之一即是存储性能的升级。通过普及数据加载成果、加速断点续训速率,显耀减少考核流程中的恭候时候,普及算力资源的使用成果。
焱融存储全面激勉大领域 AI 野心集群效用开释
行为国内专注于 AI 存储领域的卓越存储经管决议提供商,焱融科技针对日益复杂的 AI 模子考核和推理需求,不断进行存储技巧创新,抓续带来存储性能冲破,以餍足不断普及的 AI 野心需求。这次,焱融科技推出的 4 张 NVIDIA 400Gbps NDR InfiniBand 网卡的存储决议,依托于焱融追光全闪存储一体机 F9000X,通过公司自主研发的 Multi-Channel 多网卡团员技巧,提供 1.6Tb/s 汇集带宽接入才能,无缺适配 PCIe 5.0 NVMe 闪存,大幅普及数据视察速率和处理成果,开释 AI 算力的全新潜能。
焱融全闪 F9000X 3节点存储集群带宽性能对比
上图展示了焱融全闪溜达式文献存储 F9000X 别离搭载 2 张和 4 张 NVIDIA 400Gbps NDR InfiniBand 网卡的 3 节点存储集群的实测性能。不错看到,承袭 4 张 InfiniBand 400Gbps 网卡的焱融全闪 F9000X 存储决议,3 节点存储集群的带宽性能达到了 480GBps, 相较于 2 卡决议性能普及了近 80%,比较阛阓同类居品质能普及 3 倍;同期,其 IOPS 性能也达到了 750 万,保抓业界卓越水平。
在性能大幅普及的同期,用户的本钱效益也得到了显耀优化,年省算力本钱达到千万级。每 GB/s 的本钱缩短了 75%,每 IOPS 的本钱缩短了 30%。这一册钱上风意味着,企业在享受高性能存储带来的业务成果和竞争力普及的同期,还简略灵验缩短总体领有本钱,是大领域 AI 野心场景下的理念念全闪存储经管决议。
先进的 AI 存储需远大跟技巧发展的步调,餍足日益增长的野心需求,普及用户体验。继在外洋泰斗 AI 测评舞台 MLPerf Storage 中崭露头角后,焱融全闪 F9000X 再次杀青性能飞跃。这不仅再次彰显了焱融科技在 AI 高性能存储领域的卓越地位,也为行业诞生了新的标杆,为不断迭代的大领域 AI 模子考核和推理等种种复杂野心任务提供强有劲的守旧。面向夙昔,焱融科技将无间深耕 AI 存储技巧创新,抓续提供卓越的 AI 存储居品,为 AI 大模子、智算中心、自动驾驶、生信分析、金融量化等领域提供更刚劲的数据存储基座kaiyun,股东这些领域的抓续发展和创新。