码迷,www.ydgpx.tw
142双色球复式投注要多少钱 > 其他好文 > 详细

双色球复式9加1中50:大数据运营之数据存储

时间:2019-11-09 00:39:55      阅读:40      评论:0      收藏:0      [点我收藏+]

142双色球复式投注要多少钱 www.ydgpx.tw 标签:语言   时代   收件人   系统分析   网络   基础设施   隐藏   长度   业务   

大数据服务的数据源不但来自归属于不同行业的组织之中,而且其类型还具有多样性(Variety)特征。

多样性指的是大数据服务不仅包括例如姓名、年龄这样的结构化数据,还包括歌曲、电影这样的非结构化数据,此外网页、邮件这样的数据介于结构化和非结构化之间,属于半结构化数据,也是大数据服务的重要数据源。

结构化数据来源于业务需求,系统分析员将需求中静态的“名词”提取出来并进行抽象,作为数据库表结构设计的依据。比如我们设计一个学籍管理系统,通过分析发现“张三”、“李四”等学生具有姓名、年龄、所属院系、所选课程、课程分数等属性,于是系统分析员将这些属性选取出来并设计一个“学生”类,那么“学生”表结构就相当于一个模板,可以将“张三”、“李四”等学生的姓名、年龄、班级等结构化数据存储到数据表中。由于数据表是二维的,借助关系型数据库的SQL语言,可以从多个维度对结构化数据进行查询统计。

与结构化数据相对的是非结构化数据。顾名思义,非结构化数据是不可以提取字段并定义属性的,只能以图片、语音、视频的媒体形式存在。虽然非结构化数据不像结构化数据那样能够进行统计分析,但是并不代表非结构化数据并没有价值。

非结构化数据可以以多媒体的形式存在,生动形象地反馈信息,因此我们可以从非结构化数据中采集有价值的信息,并将这些采集的新增转化为结构化数据,通过对非结构化数据的“理解”来发现其中隐藏的价值。

介于结构化数据和非结构化数据之间的是半结构化数据。半结构化数据的结构和内容混合在一起,例如电子邮件、网页等。从半结构化数据中同样可以抽取出许多有价值的数据,比如电子邮件中可以采集到发件人、收件人、标题等,通过对邮件的收发地址、频率、主题等进行分析,可以形成以电子邮件为通信媒介的社交网络。

企业可以根据应用的要求、数据的规模、数据的类型等维度进行分析和设计,选择不同的存储架构。

对于数据规模大、数据结构简单、对查询效率要求高的应用,可以采用Hadoop/Hbase这样的分布式存储架构。由于Hadoop/HBase存储架构采用键值存储结构,具有良好的可扩展性,因此可以通过增加基础设施资源来提高查询效率,系统整体性能随着集群规模的增大而线性增长。

对于需要关联多个数据模型才能实现的分析型应用,则可以考虑采用关系型数据库作为存储库。对于以邮件、文档、录音、录像等文件形式存在的非结构化数据,可以采用NAS(Network Attached Storage,网络连接式存储)存储架构,对于存取频率高、单次存取数据量小的结构化数据,具有明确数据类型和数据长度,可以考虑采用SAN(Storage Area Network,存储区域网络)存储架构。

对于以文件为存取单位的非结构化数据,则适合采用NAS(Network Attached Storage,网络连接式存储)存储架构。通常情况下,存储架构采用SAN和NAS混合的形式。

SAN和NAS属于“主机+磁盘阵列”的系统架构,在大数据时代,随着数据量的不断增加,企业越来越采用“单机+硬盘”组成的系统架构。这种架构适合于需要批量数据处理的分析型应用,并且对单个应用设备的能力要求不高,可以有效地利旧低端设备,可以快速地实现横向资源扩展。

大数据运营之数据存储

标签:语言   时代   收件人   系统分析   网络   基础设施   隐藏   长度   业务   

原文地址:https://blog.51cto.com/lifudong/2448807

(0)
(0)
   
举报
评论 一句话评论(0
登录后才能评论!
? 2014 142双色球复式投注要多少钱 版权所有 京ICP备13008772号-2
迷上了代码!