开发者

击破IO瓶颈,扩容成本降低40%,浪潮让数据洞察更轻松?

开发者 https://www.devze.com 2023-01-11 15:59 出处:网络 作者:JAVA技巧
【关键词】大数据浪潮服务器通信运营商 【导游】浪潮为国内某通信运营商构建的大数据平台要求保存数亿级用户数据,业务对高并发和延迟要求极为严格,单一服务器每秒支持数万次数据阅读操作浪潮基于双路服务器NF5280M

【关键词】大数据浪潮服务器通信运营商

【导游】浪潮为国内某通信运营商构建的大数据平台要求保存数亿级用户数据,业务对高并发和延迟要求极为严格,单一服务器每秒支持数万次数据阅读操作浪潮基于双路服务器NF5280M5搭载英特尔reg;傲腾trade;持久内存的解决方案,让大数据平台处理性能提升了2-3倍,扩容成本降低多达40%,帮助用户有效应对复杂查询及大数据量分析场景。

在数据堪比金矿的新时代,社会和企业数据迅速增加,对政府和企业来说,从实时数据分析中洞察越来越重要。例如,疫情流行期间,政府可以分析大众移动数据的健康代码、密切接触者的动态跟踪、全球医疗防护物资智能调度、再生产状况分析等。但是,随着5G、AI、物联网、大数据的发展,如何利用数据服务于现在和未来的业务,将数据转化为真正的资产,成为许多企业面临的课题。

国内着名通信运营商设立的大数据有限公司是全网数据对外运营的统一出口,其自主开发的UBD平台是以Hadoop为中心的混合结构大数据平台,实现了Hadoop、Spark、Storm、Redis等开源技术在实际生产服务中的规模应用。

每秒访问数万次的操作背后,成本与性能之间的矛盾

面对急剧增加的数据处理业务需求,浪潮为该运营商构建的大型数据平台需要保存数亿级用户数据,并发和延迟要求极为严格

IO堵塞是SparkSQL查询的常见痛点。在混合并发查询等场景中,由于需要访问的手表数据较多,存储器被迅速消耗,大型数据平台往往需要将大量数据缓存到相对低速的磁盘中,显着的磁盘IO堵塞,CPU利用率上升到100%,系统速度严重缓慢

对于这种情况,浪潮提供了双重服务器NF5280M5搭载英特尔reg的傲慢trade的持续内存解决方案,傲慢的持续内存在内存和内存之间的持续内存开发者_Python百科,容量明显大于DRAM,单一模块可以提供128GB/256GB/512GB三个规格,有效缓解内存不足的问题。

打破I/O瓶颈,使数据处理更加高效

首次使用该方案,客户更加关注服务器的稳定性、处理能力和网络I/O能力,以及与英特尔reg的傲慢浪潮NF5280M5支持2颗Intel的可扩展处理器,单CPU最高拥有28个内核及56线程,CPU之间采用2条10.4 GT/s UPI互连链路,可支持M.2和全闪,实现超高的存储吞吐量,将I/O延时从秒、毫秒级直接降低至微秒级,在数据库、ERP、大数据分析等应用场景可以体现极致的实际应用性能。

采用浪潮方案后,新建的大数据平台OAP(OptimizedAnalyticspackage)的Spark测试结果显示,处理性能提高了2~3倍,扩张成本下降了40%。大数据平台的性能提高有助于用户有效应对复杂的查询和大数据量分析场景,显着改善数据分析应用延迟等表现。

搭载傲慢的持续存储器,浪潮服务器使新技术的应用更加简单,在传统存储器和存储器之间搭建桥梁,帮助用户在接近处理器的存储器系统中加载规模远远超过以往的数据集,满足包括存储器数据库在内的大部分存储器

0

精彩评论

暂无评论...
验证码 换一张
取 消

关注公众号