大数据可视化及发展趋势

2019-10-24 09:40:39 集美 24

一、大数据可视化是什么

数据可视化要根据数据的特性,如时间信息和空间信息等,找到合适的可视化方式,例如图表(Chart)、图(Diagram)和地图(Map)等,将数据直观地展现出来,以帮助人们理解数据,同时找出包含在海量数据中的规律或者信息。数据可视化是大数据生命周期管理的最后一步,也是最重要的一步。

1.jpg

数据可视化起源于图形学、计算机图形学、人工智慧、科学可视化以及用户界面等领域的相互促进和发展,是当前计算机科学的一个重要研究方向,它利用计算机对抽象信息进行直观的表示,以利于快速检索信息和增强认知能力。数据可视化系统并不是为了展示用户的已知的数据之间的规律,而是为了帮助用户通过认知数据,有新的发现,发现这些数据所反映的实质。2.jpg

二、大数据可视化的基本概念

1) 数据空间。由n维属性、m个元素共同组成的数据集构成的多维信息空间。

2) 数据开发。利用一定的工具及算法对数据进行定量推演及计算。

3) 数据分析。对多维数据进行切片、块、旋转等动作剖析数据,从而可以多角度多侧面的观察数据。

4) 数据可视化。将大型集中的数据通过图形图像方式表示,并利用数据分析和开发工具发现其中未知信息。

三、大数据可视化的实施

大数据可视化的实施是一系列数据的转换过程,如下图所示:

3.jpg

我们有原始数据,通过对原始数据进行标准化、结构化的处理,把它们整理成数据表。将这些数值转换成视觉结构(包括形状、位置、尺寸、值、方向、色彩、纹理等),通过视觉的方式把它表现出来。例如将高中低的风险转换成红黄蓝等色彩,数值转换成大小。将视觉结构进行组合,把它转换成图形传递给用户,用户通过人机交互的方式进行反向转换,去更好地了解数据背后有什么问题和规律。

4.jpg

从技术上来说,大数据可视化的实施步骤主要有四项:需求分析,建造数据仓库/数据集市模型,数据抽取、清洗、转换、加载(ETL),建立可视化分析场景。

1) 需求分析

需求分析是大数据可视化名目开展的前提,要描述名目背景与目的、业务目标、业务范围、业务需求和功能需求等内容,明确实施单位对可视化的期望和需求。包括需要分析的主题、各主题可能查看的角度、需要发现企业各方面的规律、用户的需求等内容。

2) 建造数据仓库/数据集市的模型

数据仓库/数据集市的模型是在需求分析的基础上建立起来的。数据仓库/数据集市建模除了数据库的ER建模和关系建模,还包括专门针对数据仓库的维度建模技术。维度建模的关键在于明确下面四个问题:

  • 哪些维度对主题分析有用?

  • 如何使用现有数据生成维表?

  • 用什么指标来“度量”主题?

  • 如何使用现有数据生成事实表?

3) 数据抽取、清洗、转换、加载(ETL)

数据抽取是指将数据仓库/集市需要的数据从各个业务系统中抽离出来,因为每个业务系统的数据质量不同,所以要对每个数据源建立不同的抽取程序,每个数据抽取流程都需要使用接口将元数据传送到清洗和转换阶段。

数据清洗的目的是保证抽取的原数据的质量符合数据仓库/集市的要求并保持数据的一致性。

数据转换是整个ETL过程的核心部分,主要是对原数据进行计算和放大。数据加载是按照数据仓库/集市模型中各个实体之间的关系将数据加载到目标表中。

4) 建立可视化场景

建立可视化场景是对数据仓库/集市中的数据进行分析处理的成果,用户能够借此从多个角度查看企业/单位的运营状况,按照不同的主题和方式探查企业/单位业务内容的核心数据,从而作出更精准的预测和判断。

四、大数据可视化的挑战

大数据可视化面临的挑战主要指可视化分析过程中数据的呈现方式,包括可视化技术和信息可视化显示。大数据可视化的方法迎接了四个“V”的挑战,同时这也是4个机遇。

  • 体量(Volume):使用数据量很大的数据集开发,并从大数据中获得意义。

  • 多源(Variety):开发过程中需要尽可能多的数据源。

  • 高速(Velocity):企业不用再分批处理数据,而是可以实时处理全部数据。

  • 质量(Value):不仅为用户创建有吸引力的信息图和热点图,还能通过大数据获取意见,创造商业价值。

5_副本.jpg

五、大数据可视化的发展趋势

大数据时代,大规模、高纬度、非结构化数据层出不穷,要将这样的数据以可视化形式完美的展示出来, 传统的显示技术已很难满足这样的需求。而高分高清大屏幕拼接可视化技术正是为解决这一问题而发展起来的, 它具有超大画面、纯真彩色、高亮度、高分辨率等显示优势, 结合数据实时渲染技术、GIS空间数据可视化技术,实现数据实时图形可视化、场景化以及实时交互,让使用者更加方便地进行数据的理解和空间知识的呈现,可应用于指挥监控、视景仿真及三维交互等众多领域。

关于集美:

上海集美软件股份有限公司(以下简称“集美”,股票代码:200050)是一家跨平台资产全寿期数据管理(ALIM) 平台提供商,致力于通过自主可视化、轻量化核心技术, 基于工程和运维一体化数据,为客户构建“数字孪生(Digital Twin)”,打造全寿期资产管理与价值提升解决方案。

集美通过十多年技术打磨和经验累积,创立“三位一体”产品和服务:

“1”个引擎:跨平台可视化引擎eZWalker;

“2”个平台:工厂可视化大数据管理平台PIMCenter/修筑可视化大数据云平台BIMCenter Cloud;

“3”个应用:名目管理系统 PU/云协同及移交系统 PIMCenter HO/资产管理系统 PIMCenter APM。

集美为国家高新技术企业、中关村高新技术企业、《工程建造标准化》理事会理事单位, ISO15926国内首家发起成员,CFIHOS组织成员单位,并通过了ISO9001、ISO14001、OHSAS18001等质量体系认证;荣获2010年度最佳数字化工厂服务商、2010年度“基础设 施可视化资产管理最佳应用奖”;其全资子公司四川集美工程设计有限公司具备石油天然气设计资质。


标签:   集美 三维可视化协作平台