大数据概念认知与特征.ppt

《大数据概念认知与特征.ppt》由会员分享，可在线阅读，更多相关《大数据概念认知与特征.ppt（33页珍藏版）》请在淘文阁 - 分享文档赚钱的网站上搜索。

1、大数据时代的新思维主讲：桂云苗“大数据的应用”学习路线图深入深入认知认知初识初识大数据算法与理论大数据系统与实践NoSQLHadoop大数据带来的思维变化大数据带来的价值链大数据发展现状与未来大数据vs人类什么是大数据大数据的特性大数据与传统技术的关系大数据与其他新兴技术的关系参考资料推荐BIGDATA大数据概念认知与特征前瞻来看，随着互联网对网民的理解，网民对网络的反作用，互联网将变得越来越智能。它在满足你需求的同时，也在创造新的需求。前者的代表是Google，后者的典型则是Facebook。谷歌的盈利在于所有的软件应用都是在线的。用户在免费使用这些产品的同时，把个人的行为、喜好等信息也免费

2、的送给了Google。因此Google的产品线越丰富，他对用户的理解就越深入，他的广告就越精准。广告的价值就越高。这是正向的循环，谷歌好用的、免费得软件产品，换取对用户的理解；通过精准的广告，找到生财之道。颠覆了微软卖软件拷贝赚钱的模式。成为互联网的巨擘。互联网越来越智能互联网越来越智能Google精确掌握用户行为、获取需求精确掌握用户行为、获取需求微博为新浪带来巨大价值微博为新浪带来巨大价值马云的判断来自于数据分析马云的判断来自于数据分析“2008年初年初,阿里阿里巴巴平台上巴巴平台上整个整个买买家家询盘数急剧下滑询盘数急剧下滑，欧美对中国采购在欧美对中国采购在下滑。海关是卖了下滑。海关是卖

3、了货货,出去以后再获出去以后再获得数据得数据;而我们提而我们提前半年时间从询盘前半年时间从询盘上推断出世界贸易上推断出世界贸易发生变化了发生变化了。”马云对未来的预测，是建立在对用户行文分析的基础上。马云对未来的预测，是建立在对用户行文分析的基础上。通常而言，买家在采购商品前，会比较多家供应商的产品，反映到阿里巴巴网站统计数据中，就是查询点击的数量和购买点击的数量会保持一个相对的数值，综合各个维度的数据可建立用户行为模型。因为数据样本巨大，保证用户行为模型的准确性。因此在这个案例中，询盘数据的下降，自然导致买盘的下降。腾讯在天津投资建立亚洲最大的数据中心；百度也在投资建立大数据处理中心；新浪推

4、出企业微博产品，提供精准的数据分析服务。Gartner2011年技术成熟曲线,大数据处于高速发展期技术演进历史揭示未来是大数据驱动的智慧经济模式什么才是大数据?指数型增长的海量数据指数型增长的海量数据指数型增长的海量数据指数型增长的海量数据海量数据就是大数据？大数据就是云计算？12/26/2022大数据技术挑战12/26/2022大数据技术挑战大数据与传统数据库的区别大数据是在传统数据库学科的分支数据仓库与数据挖掘的基础上进一步发展起来的。但有两点比较主要的不同：结构化程度传统数据库保存的是结构化或者半结构化的数据，以二维表或者标准XML文件的方式存储数据，由于结构清晰，处理相对容易；大数据面

5、向的是一切计算机可以存储的数据格式，包括互联网上的各种网页、图片、音频、视频，包括办公文档、报表，包括人们在搜索引擎中输入的关键词、在社交网络中的留言、喜好，也包括各种传感器自动收集的监控结果等等，显然不同的格式处理起来更加困难。异常数据的处理传统数据库通常把异常数据先剔除，应用在需要高精确度的领域，如银行对每个账户的管理；大数据则允许异常数据存在，更多应用在预测方面，找出大量数据中隐藏的关联关系，少量异常数据不会对总体结果产生影响。大数据的4V特性体量Volume多样性Variety价值密度Value速度Velocity非结构化数据的超大规模和增长总数据量的8090%比结构化数据增长快10倍

6、到50倍是传统数据仓库的10倍到50倍大数据的异构和多样性很多不同形式（文本、图像、视频、机器数据）无模式或者模式不明显不连贯的语法或句义大量的不相关信息对未来趋势与模式的可预测分析深度复杂分析（机器学习、人工智能Vs传统商务智能(咨询、报告等）实时分析而非批量式分析数据输入、处理与丢弃立竿见影而非事后见效Value价值挖掘大数据的价值类似沙里淘金,从海量数据中挖掘稀疏但珍贵的信息.价值密度低价值密度低,是大数据的一个典型特征是大数据的一个典型特征.Variety多样性企业内部的经营交易信息;物联网世界中商品,物流信息;互联网世界中人与人交互信息,位置信息等是大数据的主要来源.能够在不同的数据

7、类型中能够在不同的数据类型中,进行交叉分析的技术进行交叉分析的技术,是大数据的核心技术之一是大数据的核心技术之一.语义分析技术,图文转换技术,模式识别技术,地理信息技术等,都会在大数据分析时获得应用.Velocity速度1s是临界点.对于大数据应用而言,必须要在1秒钟内形成答案,否则处理结果就是过时和无效的.实时处理的要求实时处理的要求,是区别大数据引用和传统数据仓库技术是区别大数据引用和传统数据仓库技术,BI技术的关键差别之技术的关键差别之一一.Volume数据量PB是大数据層次的临界点是大数据層次的临界点.KB-MB-GB-TB-PB-EB-ZB-YB-NB-DB对大数据的進一步理解大数据

8、比云计算更为落地商业模式驱动应用需求驱动云计算本身也是大数据的一种业务模式大数据不仅仅是“大”多大？PB 级比大大更重要的是数据的复杂性数据的复杂性，有时甚至大数据中的小数据如一条微博就具有颠覆性的价值软件是大数据的引擎和数据中心（DataCenter）一样，软件是大数据的驱动力.软件改变世界软件改变世界!大数据生态:软件是引擎大数据的应用不仅仅是精准营销通过用户行为分析实现精准营销是大数据的典型应用，但是大数据在各行各业特别是公共服务领域具有广阔的应用前景消费行业金融服务食品安全医疗卫生军事交通环保电子商务气象管理大数据“易”,理解大数据“难”目前大数据管理多从架构和并行等方面考虑，解决高并

9、发数据存取的性能要求及数据存储的横向扩展，但对非结构化数据的内容理解仍缺乏实质性的突破和进展，这是实现大数据资源化、知识化、普适化的核心.非结构化海量信息的智能化处理：自然语言理解、多媒体内容理解、机器学习等.大数据为什么重要？大数据为什么重要？更高一层数据层面整合企业内外部更高数据层面整合大数据组成和展現方式？大数据组成和展現方式？12/26/2022大数据平台技术基于基于SQL语言语言:面对OLAP的传统行和列不基于不基于SQL或或map-reduce的的:由谷歌率先发由谷歌率先发起起数据流数据流:基于运行商数据直接生成任意图形新平台技术新平台技术数据入数据入口口/汇聚汇聚数据平台数据平台分析分析不同范围的服务不同范围的服务传统交付模式-单片或基于设备的解决方案云云:能够充分利用物理设施的弹性，以实现处理快速增长数据的能力“数据库将演变成一个虚拟的，基于云计算，超级可扩展的分布式平台。”-ForresteranalystJimKobielus新的传输方案新的传输方案新模式和新技术展现方式展现方式：大型控制中心、移动终端在多样性、体量、速度三大主要特征的指引下，大数据将有新型的展现方式：大型控制中在多样性、体量、速度三大主要特征的指引下，大数据将有新型的展现方式：大型控制中心和移动终端，实现数据的实时处理和快速决策。心和移动终端，实现数据的实时处理和快速决策。