Google是如何使用云计算和大数据的?

2017/7/10 10:42:52 人评论 次浏览 来源:DTDATA 作者: 分类:滚动新闻

随着云计算和大数据的普及,越来越多的IT公司选择将自己的大数据解决方案部署在云上面。云计算和大数据的结合带来了什么便利呢?一个典型的大数据云又是如何设计和部署的呢?


下面我们以Google Cloud作为例子,讲解在工业界里边是如何实际应用云。


Google Cloud


Google作为分布式系统和大数据的领导者,开发了众多跨时代的产品。几乎每一个Google的产品,写出一篇paper就可以创造一个开源社区的。


比如MapReduce发布之后,开源社区根据Google的一篇论文开发出的Hadoop,BigTable发布之后,开源社区又进一步开发出Hbase等等。可以说没有Google的创新,就没有现在开源社区的繁荣。



而Google又把自家的产品,都放在Google Cloud上面,形成了丰富多彩的产品线,吸引了非常多的大大小小的公司如Snapchat等来使用。


Google App Engine (GAE)


我们都知道Web项目都需要大量的Web Service以及为之服务的运维系统。Google在云计算领域首次尝试的就是Google App Engine (GAE),相对比当时的Amazon EC2,GAE只需开发者上传软件代码,其他部署将由Google完成。




用户只需要熟悉后端语言开发即部署大规模的集群。Google今年更是推出了GAE Flex,可以帮助用户实现auto-scaling,用户不再需要自己部署负载均衡的服务了。大部分中小企业的网站几乎都可以无缝衔接到GAE上。


BigTable


BigTable的底层是注明的Google File System (GFS),他实现了数据中心级别的可靠的分布式存储。


也是最早的NoSQL数据库的一种。各种网站如果有需要永久存储的数据,一般都可以存放在BigTable里边,Google Cloud会自动帮你做replication,分布在不同的服务器节点里边,这样实现了可靠的分布式存储。


Dataflow


Dataflow的底层实现利用了大名鼎鼎的MapReduce的升级版Flume。


Dataflow特别方便进行大量的批处理,举个例子来说,比如要把所有的用户数据里边的格式都升级一遍,用GAE或者其他service是很难实现的。




Dataflow也提供了特别多的接口,诸如BigQuery, Datastore, BigTable等等也是为了方便各种批处理。最近Google还提供了streaming(流服务)版本的Dataflow,可以实现持续不断的批处理。


BigQuery


BigQuery相当于是Cloud version的SQL,可以方便使用各种复杂的查询语言查找数据。这个尤其适合数据分析师进行各种数据分析,几乎各种SQL的语法都是支持的。



但是BigQuery在scaling上并不如BigTable,并不是面向用户的,所以并不适合直接用来存储用户数据。只适合做一些离线分析,数据来源很多都是Dataflow从BigTable里边dump出来的一些拷贝。


其他服务


Google Cloud还有非常多的其他服务,诸如支持消息队列处理的Pubsub,支持缓存的Memchace,支持Monitoring的Stackdriver,等等完整的构成了一个企业数据云所必须的各种服务,可以满足大到Snapchat级别,小到各种startup的不同业务需求。

相关资讯

  • 云计算对数据中心行业未来发展的影响

    随着互联网技术的高速发展以及人们对信息需求的爆炸式增长,数据已经不仅仅是企业用于记录各种商业行为的辅助工具,而慢慢的成为企业发展的核心资产,甚至数据本身已经变成某些企业的核心产品。无论是新兴的IT行业还是传统制造业,为了应对未来发展的挑战,建立核心竞争力,都…

    2017/7/26 16:05:04
  • 杭州世导通讯将在郑州郑东新区建数据中心

    7月25日,郑州郑东新区举行世导大数据中心签约仪式,标志着世导大数据中心正式入驻郑东新区白沙大数据产业园,该项目将打造成郑州乃至河南的大数据中心,年产值将突破5亿元。与现有的中原云大数据中心政务专属云形成“错位发展,齐头并进”的良好格局,为郑东新区建设国家大数…

    2017/7/25 15:28:35
  • 2017年全球云计算市场解读

    本次调查共有1002名IT专业人员介绍了他们采用云基础架构和相关技术。88%的受访者代表所在企业拥有1000名以上的员工,误差幅度为3.07%。

    2017/7/14 11:06:59
  • 最忆是杭州·2017《数据中心群友汇》杭州站圆满结束

    6月24日下午,第二届《数据中心群友汇》杭州站活动如期在中恒大厦拉开序幕,多个数据中心专业群的专家老师与群友们风雨无阻的来到会场,参加了本次活动。

    2017/6/29 7:12:10