超大数据量,怎样加快写文件的速度( 三 )

图3 某系统业务
为实现监管要求,加工贸易管理部门会要求加工贸易企业建立电子账册或电子手册,手册上记录清楚企业进口原料的信息,以及出口成品的信息。企业为了“核销”,还需要向监管部门提供成品和料件之间的对应关系,也就是“单耗”。在实际操作过程中,料件进口、成品出口是以报关单形式体现的,即料件进口报关单会在电子账册或手册上生成料件进口账目,成品出口报关单会通过单耗计算出料件消耗情况,去核销掉电子账册和电子手册上的账目,如图4。
图4 核销流程
监管部门每天处理的报关单是十分巨量的,现阶段每日仅加工贸易的报关单就有20万张,这些报关单需要在10小时内完成处理,且日处理量仍在持续增长。原有系统报关单分解核销业务使用国外知名数据库存储过程实现及专门的单机多线程程序,固定时间间隔触发,运行在小型机中,由于业务量增长迅速,原系统已经接近了性能极限,且无法扩展,难以满足未来业务需要。
新一代通关系统
为实现通关服务便利化、口岸管控精确化等目标,监管部门计划部署新一代通关系统。新一代通关系统有如下三个特征:
业务上将原有的“项号级”核销细化为“料号级”核销,实现精细通关;为保证信息安全,新一代系统将主要使用国产软硬件设备;要求系统具备灵活扩展的能力,可以支撑相当于当前三倍的业务量。新一代通关系统相比于之前系统,其主要业务没有变化,就是进行核销。但因为实现了精细化核销,使得同等业务量(假设日处理报关单数量不变)下,处理的数据量平均增长百倍。核销业务,如果最简单的从数据数量变化来观察,就是根据一定的对应关系,将一条数据,核算成多条数据。
单耗就是对应关系,如一台智能手机,假设由LCD显示屏、传感器、摄像头、存储器、电阻、电容六部分组成,那么1台智能手机出口数据将产生6条核销记录(图5),如果核销的粒度越细,则核销产生的数据量就越巨大。
图5 智能手机核销记录
新一代系统面临的挑战
● 挑战1:业务数据量暴增
将“项号“细化到“料号”,根据成品的不同,其核销数据量将增加不同倍数,如大型机械,细化到“料号“核销其成品对应料号关系将十分巨大,甚至达到1比1000万,相比于之前的“项号”级核销1比10万,提升100倍,如图6所示。
图6 挑战1 业务数据量暴增
● 挑战2:基础设施跨越式变更——从小型机到虚拟机
新一代系统要求基础设施使用国产化软硬件(图7)。原业务系统主要使用小型机,新一代系统除了原系统关系型数据库尚可沿用外,其他部分全部迁入x86架构的虚拟化环境。从性能上来说,x86上的虚拟机相比于小型机,性能下降巨大,如果直接将原有运行在小型机上的处理程序直接迁入虚拟机,几乎不可能达到业务的要求。因此,这部分业务如何支撑需要从架构级别重新规划。
推荐阅读
- 聪明人养花,这3种“花”怎样也要养一盆,每年能省不少医药费
- 最适合客厅摆放的15种大厅绿植,超大气漂亮
- “一部手机读云南”上线力争建成国家方志大数据中心西南中心
- 上海构建现代环境治理体系集成示范区打造超大城市生态环境治理的“样本”
- 联合国大数据全球平台中国区域中心在杭州成立
- 互联网怎样解决“家政服务上门速度慢”的问题
- 怎样看待从1月8号起,QQ钱包开始提现收费
- 银行it人怎样转型
- 银行的数据中心可以跳槽去互联网公司吗
- 汽车|冬天怎样让车内温度快速升高?座椅加热的最佳使用方式二,外循环的作用总结
