如何扛住流量“洪峰”,是每年“双十一”的技术大考。随着流量的飙升,这一大考无疑变得越来越难。
“双十一”刚过,各大电商纷纷公布当日战绩。从目前公布的数据不难看出,今年“双十一”的订单创建量峰值创下新高,单日数据处理量纪录也再次被刷新。
“双十一”的数据量不仅大,还会实时变化。可以说,每个购物数据都是个性化的、动态的,完成处理它们的工作,需要有强大的计算能力作为支撑。
“今年的数据处理工作,除了批处理(对数据进行批量处理)外,还有流处理,就是实时处理数据。庞大的交易数据每分钟、每秒钟都在变,它们并不是从数据库里面统计出来的,而是系统自动一层层把它们汇集上来的。”阿里巴巴集团首席技术官张建锋表示。他口中的“流处理”就是流计算,即实时计算。对于扛住“双十一”流量“洪峰”,它功不可没。
那么,什么是流计算?它是如何抗住“双十一”流量“洪峰”的?对此,科技日报记者采访了业内专家。
以内存取代硬盘实现快速处理
北京理工大学计算机学院副院长、教授刘驰在接受科技日报记者采访时解释道,流计算指当一条数据被处理完后,立刻被序列化到内存中,然后通过网络传输到下一个节点,由下一个节点继续处理。“这种流式处理技术,是以内存取代硬盘的方式来实现数据快速处理,这是流计算之所以能够高效处理数据的根本原因。”他表示。
据刘驰介绍,流计算具有高性能、海量式、实时性、分布式、易用性、可靠性等多项优势,主要的应用方向有,对金融与科学计算中的数据进行快速运算和分析;对存在于社交网站、电子邮件、视频、电话记录、电子感应器中的数字格式信息流进行快速处理并反馈等。
“流式处理可被用于两种不同的计算场景:事件流和持续计算。”刘驰介绍道,在事件流场景,系统会持续产生大量的数据,这类数据最早出现在银行和股票交易领域,也会在互联网监控、无线通信等领域出现。这些领域的相关业务,需要流计算技术以近乎实时的方式对数据流进行复杂分析。
“而在持续计算场景,比如大型网站,流计算技术可以动态实时地刷新用户访问数据,展示网站实时流量的变化情况,分析每天各小时的流量和用户分布情况。一些需要实时处理数据的场景也能应用到流计算技术,比如对根据用户行为产生的日志文件进行实时分析,对用户进行商品的实时推荐等。”刘驰介绍道。
实时采集、实时计算、实时查询
刘驰向记者介绍道,流计算的处理流程一般包含三个阶段:数据实时采集、数据实时计算和实时查询服务。
首先,后台工作人员会用实时数据集成工具,将数据实时传输到流式数据存储系统。具体过程是,系统将长时间累积的大量数据,平摊到每个计算时间节点,数据会被不停地进行小批量实时传输。此时,数据将会被源源不断地写入流数据存储系统,不需要预先加载的过程。同时,在此过程中,数据是持续流动的,在计算完成后就会被立刻丢弃。
然后,不同于批量计算等待数据集成全部完成后才启动计算作业,流式计算作业是一种常驻计算服务,一旦启动将一直处于等待事件触发的状态,即一有小批量数据进入流式数据存储系统,流计算系统就会立刻计算并得出结果。“同时,部分电商平台的流计算团队,还使用了增量计算模型,将大批量数据分批进行增量计算,进一步减少单次运算规模并有效降低整体运算时延。”刘驰说。
最后,采用数据批处理方式,通常需要等待数据计算结果得出后,才能批量将数据传输到在线系统。而流式处理方式可在每次小批量数据计算工作完成后,就立刻将计算结果写入在线系统。“这样无需等待全部数据计算工作完成,我们就可在流计算数据查询系统中,查询到在线系统的数据处理结果。技术人员也可将实时结果发送给可视化系统,以实现计算结果的实时化展示。”刘驰说。
技术虽强大但仍存在短板
不过,刘驰表示,流计算虽然强大,也存在技术短板。
“如果在系统内存不足的情况下,还要满足多个用户的数据请求,那么每个用户实际被分到的内存就会很少。此时,应用流式处理技术后,由于内存需求量增加,系统会把原来分给多个用户的内存资源,全部分给一个用户。其他需要内存的用户,则会因为没有内存可用,被迫进入等待状态,直到那个占有内存资源用户退出后,其他用户才能使用内存。”刘驰说,同时,实时的计算环境会由于各种各样的原因,比如网络延时等,导致程序到达计算节点的顺序出现变化。
“此外,流计算技术面对的是源源不断涌入的数据,而如果还像批处理那样来计算数据的话,就可能会导致计算根本无法结束,或随着时间的推移需要保存的数据越来越多,给内存造成巨大压力。”刘驰补充道,“数据不断产生,就需要计算持续进行。但计算时间一长,出问题的概率就会大大增加。一旦出现问题,一些在计算过程中缓存下来的数据该被怎么长期保存、怎么恢复就会成为比较大的问题。”(记者 崔 爽)
关键词: 双十一流量大考
凡本网注明“XXX(非中国微山网)提供”的作品,均转载自其它媒体,转载目的在于传递更多信息,并不代表本网赞同其观点和其真实性负责。
大众网·海报新闻记者张稳吕乐田阳孙震泰安报道时值深秋,泰安市邱家店镇姚家坡村迎来了一年中最忙碌的时节——作为全国最大的“秋裤村”,每
2022-10-29 18:34
在中国,每12秒有1人发生卒中,每21秒有1人死于卒中,脑血管病已成为中国居民第一位的死亡原因,早期预防显得尤为重要。每年10月29日是“世界
2022-10-29 18:39
10月28日上午,全国首个航运企业集成化审批服务平台在青岛自贸片区启动。该平台运用数据中台、AI人工智能、电子签名等技术,将涉及水路运输、
2022-10-29 18:37
海报评论员朱延鲁10月28日,山东公布了2022年前三季度全省经济运行数据。根据地区生产总值统一核算结果,前三季度,全省生产总值为64409亿元,
2022-10-29 18:31
作为正规医院,南昌丰益肛肠医院在改善就医环境、降低就医费用、优化就医流程方面下功夫;实行的无假日医院制度,为上班族看病提供便利;通过
2022-10-29 17:53
10月28日,山东发布了前三季度的全省经济运行情况。前三季度全省生产总值64409亿元,同比增长4 0%。跑赢3 0%的全国大盘,经济大省山东交出了一
2022-10-29 15:41
大众网·海报新闻记者解强民通讯员姜雁群济南报道10月28日,济南轨道交通3号线二期设备工程开工活动在稻香站举行,标志着济南轨道交通3号线二
2022-10-29 15:32
大众网·海报新闻记者梁雯济南报道11月9日至10日,2022全国中小企业数字化转型大会将于山东国际会展中心举行。本次大会主题为“创新引领发展数
2022-10-29 15:36
大众网·海报新闻记者孙杰济南报道10月28日,由中国联合国协会主办、外交部国际司支持、山东大学承办的第十八届中国模拟联合国大会开幕。此次
2022-10-29 15:42
测评每天护肤一小步变美就更进一步啦,因为对于好肌肤,我们不管是化妆还是素颜都会显得好看,今天想和大家分享一下本人亲自测评护肤品--郑
2022-10-29 14:12