云社区 博客 博客详情
云社区 博客 博客详情

开发分布式系统,首先需要了解这些

技术火炬手 发表于 2020-09-09 09:46:17 09-09 09:46
技术火炬手 发表于 2020-09-09 09:46:17 2020/09/09
1
1

【摘要】 什么是分布式系统?为什么要用分布式系统?分布式系统如何分布?这些你知道吗?

小引

分布式系统是一个古老而宽泛的话题,而近几年因为 “大数据” 概念的兴起,又焕发出了新的青春与活力。本文将会通过对如下几个问题展开谈一下分布式系统:

  •  什么是分布式系统?

  •  为什么要用分布式系统?

  • 分布式系统设计推演

  • CAP定理是什么?

  • 分布式系统如何进行分布?

  • 分布式应用通常使用的架构类型哪些?

  • 分布式系统的优缺点有哪些?

1.  什么是分布式系统?

简单的来说,一个分布式系统是一组计算机系统一起工作,在终端用户看来,就像一台计算机在工作一样。

这组一起工作的计算机,拥有共享的状态,他们同时运行,独立机器的故障不会影响整个系统的正常运行

我们现在举个例子,传统的数据库是存储在一台机器的文件系统上的。每当我们取出或者插入信息的时候,我们直接和那台机器进行交互。

那么现在我们把这个传统的数据库设计成分布式数据库。假设我们使用了三台机器来构建这台分布式数据库,我们追求的结果是,在机器1上插入一条记录,需要在机器3上可以返回那条记录,当然了,机器1和2也要能够返回这条记录。

2. 为什么要用分布式系统?

管理分布式系统是一个非常复杂的话题,里面充满了陷阱和地雷。部署维护和调试分布式系统也是非常头疼的一件事情,那为什么还要去做呢? 

分布式系统最大的好处就是能够让你横向的扩展系统。

以前面提到的单一数据库为例,能够处理更多流量的唯一方式就是升级数据库运行的硬件,这就是纵向扩展。

纵向扩展的是有局限性的。当到了一定程度以后,我们会发现即使最好的硬件,也不能够满足当前流量的需求。

横向扩展是指通过增加更多的机器来提升整个系统的性能,而不是靠升级单台计算机的硬件。

从价格上来说,横向扩展相比纵向扩展更容易控制。

最根本的问题是纵向扩展有很强的局限性,达到最新硬件的能力以后,还是无法满足中等或者大型工作负载的技术要求。

横向扩展则没有这个限制,它没有上限,每当性能下降的时候,你就需要增加一台机器,这样理论上讲可以达到无限大的工作负载支持。

除此之外,在容错和低延迟上也有很多优势。容错性是指你的分布式系统的某个节点出现错误以后,并不会导致整个系统的瘫痪。而单机系统出错以后,可能会导致整个系统的崩溃。

低延迟是通过在不同的物理位置部署不同的机器,通过就近获取的原则降低访问的延迟时间。

上面讨论了分布式系统的种种好处,但是我们必须要清楚设计和运行分布式系统并非易事。

3. 分布式系统设计推演

我们先讲一个场景,我们现有的网络应用变得越来越流行,服务的人数也越来越多,导致我们的应用程序每秒收到的请求,远远超过能够正常处理的数量。这会导致应用程序性能下降明显,用户也会注意到这一点。

那我们下面就来扩展一下我们的应用程序来满足更高的要求。一般来说我们读取信息的频率要远远超过插入或者修改的频率。

下面我们使用主从复制策略来实现扩展系统。我们可以创建两个新的数据库服务器,他们与主服务器同步。用户业务对这两个新的数据库只能读取。每次当向主数据库插入和修改信息时,都会异步的通知副本数据库进行更新变化。

在这一步上我们已经有了三倍于原来系统读取数据的性能支持。但是这里有一个问题,在数据库事务的设计当中,我们遵循ACID原则。但是在我们同时对其他两个数据库进行数据更新的时候,我们有一个时间窗口失去了一致性原则。如果在这个时间窗口内对两个新的数据库进行查询,可能查不到数据。这个时候如果同步这三个数据库的数据,就会影响写操作的性能。

这是我们在设计分布式系统的时候,不得不承受的一些代价。

上面的主从复制策略解决了用户读取性能方面的需求,但是当数据量达到一定程度,一台机子上无法存放的时候,我们需要扩展写操作性能。要解决这样的问题,我们可以使用分区技术。分区技术是指根据特定的算法,比如用户名a到z作为不同的分区,分别指向不同的数据库写入,每个写入数据库会有若干读取的从数据库进行同步提升读取性能。

当然,这样使得整套系统变得更加复杂。最重要的难点是分区算法。你们试想一下,如果c开头的用户名比其他开头的用户名要多很多,这会导致c区的数据量非常庞大,相应地,对于c区的请求也会远远大于其他区。此时c区成为热点。要避免热点,需要对c区进行拆分。此时要进行共享数据就会变得非常昂贵,甚至可能导致停机。

如果一切都很理想,那我们就拥有了 n倍的写入流量,n是分区的数目。

当然这里也存在一个陷阱,我们进行数据分区以后,导致除了分区键以外的查询都变得非常低效,尤其是对于sql语句如join查询就变得非常之糟糕,导致一些复杂的查询根本无法使用。

这里有一个思考题:

如何选择更好的分区策略算法?

4. CAP定理是什么?

这个定理是指一个分布式系统不能同时具有一致性,可用性和分区容忍性。

 一致性Consistency: 依次读写的是什么就是什么。

可用性Availability: 整个系统不会崩溃, 每个非故障节点总会有一个相应。

分区容忍Partition tolerant: 尽管有分区,系统仍能继续运行并保持其一致性和可用性。

对于任何分布式系统来说,分区容忍是一个给定的条件,如果没有这一点,就不可能做到一致性和可用性。试想如果两个节点链接断掉了,他们如何能够做到既可用又一致?

最后你只能选择在网络分区情况下,你的系统要么强一致,要么高可用

实践表明大多数应用程序更看重可用性。这个考量的主要原因是在不得不同步机器里实现强于一致性是时,网络延迟会成为一个问题。

这类因素使得应用程序通常会选择提供高可用性的解决方案。

 此时采用的是最弱的一致性模型来解决的,这种模型保证了如果没有对某个项目进行新的更新,最终对该项目的所有访问都会返回最新的值。

这些系统提供了BASE属性,这是相对于传统数据库的ACID来讲的。 

也就是( Basically available)基本上是可用的,系统总会返回一个响应。

( Soft state)软状态, 系统可以随着时间的推移而变化,甚至在没有输入的情况下也可以变化, 如保持最终的一致性的同步。 

( Eventual consistency)最终的一致性, 在没有输入的情况下,数据迟早会传播到每一个节点上,从而变得一致。

追求高可用的分布式数据库例子有Cassandra;看重强一致性的数据库,有HBase, Redis, Zookeeper。

5. 分布式系统如何进行分布?

我们来看一下分布系统进行分布的常用方式:

1. 哈希

以哈希方式把不同的值进行哈希运算,映射到不同的机器或者节点上。这种方式在扩展的时候比较困难,因为数据分散在多个机器上很容易出现分布不均的情况,常见的哈希对象有ip,url,id等。

2. 数据范围

按数据范围分布,比如ID在1~100的在机器a上,ID在100~200的在机器b上,诸如此类。这种分布方法数据比较均匀。如果某个节点处理能力有限,可以直接分裂这个节点。

维护数据分布的这些原数据,如果量非常大的话,可能会出现单点瓶颈。

因此一定要严格控制元数据量。

3. 数据量

 按数据量来分布数据,是以较为固定的大小将数据划分为若干的数据块,再把不同的数据块分布到不同的服务器上。

以数据量来进行分布的这些数据,也需要被记录下来作为元数据来管理。

当集群规模很大时,元数据的量也会变大。

 4. 副本与数据分布

这种方式是指把数据给分散到多个服务器上。如果其中一台出现问题,请求就会被转到其他服务器上。其原理是多个机器互为副本,这是比较理想的实现负载分压的方式。

 5. 一致性哈希

一致性哈希。通过哈希域构造哈希环,在增加机器时,变动的是其附近的节点,分摊的是附近节点的压力,其元数据的维护和按数量分布的维护方式一致。

我们现在来看一下使用以上方式进行分布的例子:

GFS, HDFS: 按数据量分布。

Map reduce: 按GFS数据分布做本地化。

BigTable, HBase按数据范围分布。

Pnuts: 按哈希方式或者数据范围分布。

Dynamo, Cassndra: 按一致性哈希分布。

Mola, Armor, BigPipe: 按哈希方式分布。

Doris: 按哈希方式和按数据量分布进行组合。

6. 分布式应用通常使用的架构类型哪些?

6.1 客户端服务器

在这个类型中,分布式系统架构有一个服务器作为共享资源。比如打印机数据库或者网络服务器。它有多个客户机,这些客户机决定何时使用共享资源,如何使用和显示改变数据,并将其送回服务器,像git这样的代码仓,这是一个很好的例子。

6.2 三层架构

这种架构把系统分为表现层,逻辑层和数据层,这简化了应用程序的部署,大部分早期的网络应用都是三层的。

6.3 多层架构

上面的三层架构是多层架构的一种特殊形式。

一般会把上面的三层进行更详细的划分,比如说以业务的形式进行分层。

6.4 点对点架构

在这种架构中,没有专门的机器提供服务或管理网络资源。而是将责任统一分配给所有的机器,成为对等机,对等机既可以作为客户机,也可以作为服务器。这种架构的例子,包括bittorrent和区块链。

6.5 以数据库为中心

这种架构是指用一个共享的数据库,使分布式的各个节点在不需要任何形式直接通信的情况下,进行协同工作的架构。

7. 分布式系统的优缺点有哪些?

7.1分布式系统的优点

1. 分布式系统中的所有节点都是相互连接的。所以节点可以很容易地与其他节点共享数据。

2.  更多的节点可以很容易地添加到分布式系统中,即可以根据需要进行扩展。

3.  一个节点的故障不会导致整个分布式系统的失败。其他节点仍然可以相互通信。

4.  硬件资源可以与多个节点共享,而不是只限于一个节点。

7.2分布式系统的缺点

1.       在分布式系统中很难提供足够的安全,因为节点以及连接都需要安全。

2.  一些消息和数据在从一个节点转移到另一个节点时,可能会在网络中丢失。

3.  与单用户系统相比,连接到分布式系统的数据库是相当复杂和难以处理的。

4.  如果分布式系统的所有节点都试图同时发送数据,网络中可能会出现过载现象。

小结

最后谈一下分布式系统与集群的关联。我的观点是这两者并不是对立的。

因为分布式系统是通过多个节点的集群来完成一个任务,让外界看起来是跟一套系统作为一个整体打交道。

一套分布式系统可以有多个集群,这些集群可以业务进行划分,也可以物理区域进行划分。每一个集群可以作为这个分布式系统的一个节点。

这些集群节点组成的分布式系统,又可以作为单个的节点与其他的节点组成一个集群。

-----

注:本文来源于华为加拿大研究院软件专家 Jet老师

登录后可下载附件,请登录或者注册

【版权声明】本文为华为云社区用户原创内容,转载时必须标注文章的来源(华为云社区),文章链接,文章作者等基本信息,否则作者和本社区有权追究责任。如果您发现本社区中有涉嫌抄袭的内容,欢迎发送邮件至:huaweicloud.bbs@huawei.com进行举报,并提供相关证据,一经查实,本社区将立刻删除涉嫌侵权内容。
评论文章 //点赞 收藏 1
点赞
分享文章到微博
分享文章到朋友圈

评论 (1)


mnbway

1楼2020-09-12 00:48:49
0/1000
评论

登录后可评论,请 登录注册

评论

您还没有写博客的权限!

温馨提示

您确认删除评论吗?

确定
取消
温馨提示

您确认删除评论吗?

删除操作无法恢复,请谨慎操作。

确定
取消
温馨提示

您确认删除博客吗?

确定
取消

确认删除

您确认删除博客吗?

确认删除

您确认删除评论吗?

温馨提示

登录超时或用户已下线,请重新登录!!!

确定
取消