15828111947
当前位置:领登网  -  本地文章  -  数据

数据编织提升大数据使用效率

2023-12-24 05:01:03

来源:光明网

“当前无论是机构还是企业都存储了大量数据,这些数据的使用一度不太高效。”在近日举行的《NoETL白皮书》发布会上,浙江大应科技有限公司(以下简称大应科技)CEO周卫林表示,数据编织技术的应用将大大缩短数据从混乱到有序的时间。

“数据仓库是‘只进不出’的,它的规模会不断增长,但量的增长未必会带来价值的增加。”周卫林解释道,数据是否产出价值与其数量并不存在线性关系。如果不能及时对数据进行处理、分析,并将其提炼成知识,数据量的增加反而会增加成本,降低效率。比如,招商银行总行数据“湖仓”的整体规模已达数十PB,其主要数据仓库每天需运行几十万个任务对数据进行抽取、转换、加载。由于数据处理量巨大、数据准备周期长、人力投入大,有些任务的完成周期长达两周,难以满足及时“微决策”的需求。

数据编织技术有望对海量数据进行快速且有序的分析。“对数据进行‘编织’,是在数据虚拟化的基础上进行的。”周卫林说,数据虚拟化之后,无需复制就可以整合,且不受数据源、格式的限制。

“我们和大应科技合作构建出了一个统一的逻辑数据资产层。”招商银行技术人员介绍,利用逻辑数据资产层(“逻辑层”),数据整体计算和存储的消耗不到传统方案的50%。“通过‘逻辑层’提供统一数据服务,不仅实现了实时数据访问,还能减少数据的搬运时间和成本。”周卫林表示,这能够极大提升数据要素的生产力。

此外,由于有了统一的“逻辑层”,此前需要技术人员才能有效处理的跨源、异构数据,现在普通业务人员也能处理。周卫林打了个比方:“逻辑层”就好比电脑的“视窗”系统,之前要学会DOS语言才能进行的操作,现在只需用鼠标就能完成。

“随着信息化水平的提升,机构和企业中均形成了大量新的数据源,不同数据源的数据类型不同。”周卫林表示,为应对这一新问题,企业将持续开展科研创新,通过应用数据编织等新技术,助力数据要素实现价值的“最后一公里”。(科技日报记者 张佳星)

来源:科技日报

15828111947
  • Q Q: 755277197
  • 微信: wendawen520
微信公众号
微信小程序
Copyright ©2024   成都国文互动科技有限公司  “领登网”版权所有  |  ICP证: 蜀ICP备15006691号-97  |  技术支持:框分类信息系统(v2023.2)  |  
网页内的所有信息均为用户自由发布,交易时请注意识别信息的虚假,交易风险自负!网站内容如有侵犯您权益请联系我们删除,举报信息、删除信息联系客服