请选择 进入手机版 | 继续访问电脑版

ITIL,DevOps,ITSS,ITSM,IT运维管理-ITIL先锋论坛

 找回密码
 微信、QQ、手机号一键注册

扫描二维码登录本站

QQ登录

只需一步,快速开始

搜索
查看: 764|回复: 0

基于 DevOps 的微服务生态系统与工程实践(二)

[复制链接]
发表于 2018-11-15 10:36:25 | 显示全部楼层 |阅读模式
本帖最后由 adminlily 于 2018-11-15 10:40 编辑
6 l% X1 F5 `, b% E* V8 O( m2 p0 k
, D% o3 ~" i3 X4 u, H+ s/ |前言* M# E/ H6 h! ~$ p& l0 y
从2014年开始,当我接触微服务之后,我发现在微服务的演进过程中,开发和测试、运维需要相亲相爱,紧密合作,才能取得理想的效果。
) n# U. g9 ~' u0 F

) F; R( Z# b& I  q. d: Y
本系列文章主要包括三部分内容:
& q8 @& L% M( q* V
6 Q1 F$ P0 y" A% I. y
第一部分:微服务与 DevOps
' N8 o; k' ?+ q, d
' S5 u. o! j' B" E+ q
第二部分:微服务生态系统;
+ ~9 l6 G" W' }% F
" m9 Q) Q$ S7 n
第三部分:微服务架构的工程实践;
1 a+ }. W0 N' r% Y& N" Z# [9 b
5 e3 l1 s4 Q! Q5 Z$ m1 U6 H$ q, I3 L" ^  Z
三、微服务架构的生态系统- |; P7 [( d+ t# x% ]" {! s

6 E1 B  E& b( l) @1 s
& I. u/ ?8 W. Q
/ t8 a9 _9 s! v5 c, F
我们为什么需要「生态系统」这个词?其实在我过去接触微服务的过程中发现了如果只从架构层面对服务化进行解耦,是很难达到效果的。为什么?
! P3 g6 q) E1 h* k) p, u8 X0 h
2 w1 O5 S" b: E) f1 I
因为当我们把架构拆分成多个模块化之后,如果我的测试,如果我的工具跟不上的话,可能会带来更大的内耗和成本,所以在这过程中,我们需要考虑很多综合的因素。

8 `( Z) f: A3 [; b9 q

% d& V# D$ a" {( r4 c+ h7 s! R
比如说对于分布式系统之间,因为微服务本质是分布式系统,每个服务都可以独立运行在自己的节点中,这时候我们要考虑分布式系统的同步异步,要考虑经常讨论的数据一致性问题,同时是不是有好的工具链,是不是能够保证这样一个小的服务能够快速上线。
; Z3 D& e2 U  m' _; G
+ D1 _& O7 n& \) D
这是一个系统化的工程,已经没有办法割裂来看架构本身,而是从今天讨论的持续集成、DevOps、端到端的交付过程中考虑解耦。

7 Z* {  G" T- B
, E; W' [+ O: f/ K4 Y+ |3 G
0?wx_fmt=png.jpg
9 G+ m% b8 X! f1 f( t! F5 ^' V- b

( x! X+ ]/ Y& g( O, M
对于今天所处的社区是多元化的社区,工具、框架层出不穷,前端后端数据库都是未来解决方案,这么多如何选择?1 A2 o& d8 ~7 s; g1 n
) B/ Q8 p0 `1 y5 X

: y3 C  T! t$ R% f- |, O
如果我们需要去演进微服务架构,我们需要一个什么样的全景图来帮助我们识别这个能力,当有了这个全景图之后,我们可以根据按需选择不同阶段需要引入的不同技术。

: O0 I2 M* ]! y7 G6 k: D; @5 K
0 b, U) K, q+ A: q$ Z) a4 V7 U- ~
基于这两点,我定了微服务的这个生态系统图(上图)。它一共包括五个部分,最上面是现在所讨论的接入层,看到层这个概念,大家不要因为过去的三层变得越来越低效,就抵触层的概念。

9 y4 t7 q3 }6 J. G4 d& b( X+ Z
! V  S0 V( D+ d+ K
3.1 总览
7 M- p; r  g: I# [
' Q0 A. y0 D) o  d- Y& s7 M2 |
对于接入层,更关心的是如何将用户的请求接入内部系统,这里面典型的是 API goteway、Edge Service。

5 k: ^; A* v" H: S! s0 @2 h

' H6 I& S0 ~) c2 @, {0 s6 Q
第二部分是业务层,更关心服务化的方式来服务业务,通过什么样的框架去实现服务。
- y% m( e( V. @! F; Y4 F$ z' s6 M

+ n# U3 w( T) q* ~$ t7 n
第三是支撑层,更多描述成今天所面临的分布式系统的挑战,包括服务的协作、安全、路由、告警、监控。

/ e; Q* c4 j. _/ V

" y# c0 w1 ]" T6 G# N! Y' k+ a5 R
最下面是基础设施,因为对于微服务而言,如果我们希望能够起到效果,一定是基于云,只有云能够帮助我们去降低硬件的伸缩成本。右边是我们在微服务演进过程中非常重要的工程实践和流水线。

4 y% E* O+ B- ~7 H* X7 q
) Y8 z1 Y9 M; b+ {: D9 E. O
3.2 接入层0 B* f; B3 I1 y/ o

; ]0 O3 u* @2 f3 r
0?wx_fmt=png.jpg

- y" m2 E+ T% d( h

* i2 s. v3 U6 E6 f2 m3 k4 F
什么叫「API网关」?其实是帮助系统能够把外界的需求接到内部业务来。6 Z4 A9 {4 m0 f) d  P8 E6 e
8 S, O1 Q( s& n; @

3 B/ R6 h8 _7 E9 q5 A( m
为什么这样做?第一点,今天对于用户端的设备变得越来越多样化,包括手机、IOS、可穿戴设备,这类设备的更新周期可能比较慢,当我们在后端定义了很多服务之后,如果希望 IOS、APP 能够直接访问,对于每一次服务的变更或者服务的UI的变化,都会去触发 APP 本身的变化,而对于IOS审核周期是七天,这对用户的更新会带来非常低的效率,所以我们希望通过这样一种集中化的方式,把用户请求接入进来。

+ X* t, F" E% e
/ D" S: w5 N0 v0 e2 f! ?: w  ^
对于 API Gateway,能够跟我们的服务部署在一起,所以服务中的交付效率会远远高于前端设备去跟服务交付,因此我们希望通过这种方式提升交付的效率。随着 APIG 的演进,有很多的框架、工具除了做请求转发,集中化控制以外,会把流量控制、安全认证也放在 APIG 验证层。

* L& {' B: c1 M5 @7 V

9 E4 I6 {3 H, l* D) X8 h9 X3 P8 M
3.3 业务层
  M) j+ L2 \( j; e
& {7 m0 V7 N! M0 J  g: f" b1 j
第二是业务层,我接触到了很多团队,当我们谈到微服务架构的第一反应就是如何解耦架构,我提几个常用的方法论。
! q) X% a/ X0 F+ f
: Q4 e. J7 Z! d* {
对于架构的拆分一开始没有必要非追求完美,我相信在没有做过微服务架构之前,你的60分已经能够让你的系统跑得很顺畅,所以这时候面向对象一定是我们去拆分服务的基准,包括面向对象的动词、名词,名词像订单、库存、用户,动词像支付、登录,都是我们去拆分服务的出发点。

/ u5 x6 N4 {" Z* w) I8 _5 k

% d5 ^/ h7 I% Q! c$ K1 Q
0?.jpg

$ ^9 n7 Y$ t9 g, O" B/ {# V3 l9 Y
8 E& d! O5 x8 f1 P. |
第二是可重用的逻辑,刚才我们讲到在模块化编程的时代,是把通用的逻辑抽象出来进行模块,这也是我们抽象服务的方法论。
- q$ K. q: T- F$ a' h

, z* ^$ k( v# s: J  n3 H
第三是资源密集型业务,对于我们的系统是不是有对CPU计算,是不是对可伸缩的需求不一样,也是我们能够去拆分服务的方法论。
" `" V7 f0 h1 N6 J

* y8 {* g1 J' n( d  q
最后是领域驱动设计,这是最难的一点,右边的图定义了非常多的概念,包括聚合、实体,很多业界的文章在讲 DDD 是微服务的基础,我觉得这个可能是需要在前期做很多积累的。
8 \, T/ [+ N7 r7 ?

; B, L9 u. l- ~" x. I% l5 y; N; v6 l
0?.jpg

8 Q0 f% I- \, }# P! G
1 ?) k; C: g3 D$ D( {

2 G2 ]- f: s, n: W. u6 }
对于微服务的实现,刚才讲到对于基础服务而言,我们有很多的框架,这里有一个网址,这里定义了各种语言的微服务框架,我们能够很方便使用他们去开发框架。
8 O. ]6 B/ Q# {' \- Q( o$ h

3 {7 H6 E' @& A7 H6 I
在很多场景里我们虽然定义了服务,但是这些服务的功能要组合起来才能提供更多的用户特性,比如我们有订单,有评论,但是当我在手机上显示的时候,希望能够显示这个订单最新的五条评论,可以让手机端去调用两个服务去获取数据,也可以做一个组合服务,它来获取订单,同时获取五条评论再交给前端应用,这就是组合模式的价值。
6 J6 ?( ^  S$ n& R  O$ [* ^% w

2 l1 Z0 }9 q/ Z0 R
我们可以使用Proxy、Chained、Shared这些工具。

' e+ s5 [5 k/ d" C) p% H
5 `' u' G, o9 i3 w# ~6 y  L
3.3 支撑层5 E/ c3 e* A2 a" Y
6 t1 G+ |0 B3 {
0?wx_fmt=png.jpg
' C6 [' n2 {% H+ d8 b
( O% {/ E2 K: k
  • 支撑层是像注册发现,我们为什么要注册发现?在未来,我们的服务上线之后,希望它能够更快、更有效的水平伸缩,但是当我们每做一次伸缩之后,IP地址、服务运行的物理地址是不确定的,所以我们希望通过注册发现的机制,让服务之间相互通信,我可以不用知道这个物理地址,通过注册发现的机制,就能够完成对服务的访问。随着服务数量增多,注册发现机制是我们必须要考虑的方案。
    0?.jpg
    0 r/ N" U4 J5 ~/ Y' l- S
9 G# t* g2 @, ^

( G3 _( b6 W% a4 {: E/ o  G* ?
; ~* W0 ?# B0 n9 c9 I& ^! i& K
) j+ d, B) B& y1 O7 A
  • 第二是配置更新,对于以前的一个应用而言,我们可以把配置信息写在配置文件里,随着应用一起发布,但是对于可以独立部署的单元越来越多,而且有可能存在一个服务会被多个实例所运行,所以配置更新就变成了挑战。我们过去曾经基于亚马逊的S3做过自己的配置方案。
    0?wx_fmt=jpeg.jpg

    ! m$ w. m. P4 D( P4 h2 N

& U7 }. B$ @1 i" Y1 y: ~
9 ]" b* V" D" y% b! T7 d& h
  • 第三是容错,错误的发生是我们必须要考虑的问题,当我们的请求量过大,当我们的负载过高时我们要考虑如何保证核心业务不被破坏,所以限流、熔断、降级是我们处于微服务规模化之后所面临的新挑战。

    1 j+ t, _6 N$ g0 d, K
' I6 c+ A3 i  o; A" I4 {
3.4 交付流水线与工程实践3.4.1 微服务开发框架
' ?: H6 l2 U, P1 U1 y7 Q& u
. y& z, H" {1 Y2 r3 C0 t" w
第四部分是基于交付流水线与工程实践,里面包括了开发框架,交付流水线以及工程实践。

/ m, @4 ~/ `& }0 u' _3 f9 X9 m3 Z

! }' q" ]% l  F# P9 \3 f5 f4 u
刚才讲到有很多可以利用我们的框架去开发基础服务,这里我抽出了不同语言里面使用量比较高的框架,包括像Java里面的Dropwizard、Spring boot、Scala 里面的 lagom 还有 NODEJS,这些都可以很方便的帮我们从零开始开发微服务。3 I" k. Z  {* H2 `5 [" B: |* @8 b

" }2 f( R1 y+ V1 o5 C
# k# }6 X+ X# J
0?wx_fmt=jpeg.jpg
. H; V+ y9 H+ u" B+ E
$ i0 ]6 O1 d8 l/ Z* V
但是对于企业而言,我们有大量的存量系统,对于使用这类去开发存量系统挑战非常大,因此我们在公司内部有一套开发框架,能够帮助我们把现有的 GARS 方式,能够更快的转换我们的服务,同时提供同步异步以及RPC框架协议,这个可能在七月份左右共享到开源社区,希望大家支持跟关注。2 v! {+ T; v, D# f
2 l0 B; `, z, E/ P1 L2 w0 E

3 p. O8 U" V5 L( A
3.4.2 持续交付流水线' ]3 @8 n+ C2 p3 E/ y

3 ]2 `) c& `. ~* A/ s7 l
“持续交付流水线”这个话题大家应该听到了很多,做的最重要事情就是帮我们把代码提交之后的流程管理起来,最终做到我们能够把这次代码提交的变更发布到类生产或者生产环境上。可以看到右下角是我们定义的 TEST、STAGING 、PRODUCTION,这是通常我们去做产品发布的时候经历的三个环境。
; L2 @( N6 P$ J' y8 V

  |  s: J: G3 I7 H
0?.jpg
* C2 a! p- h3 y  t! Z  o

; }5 H6 P5 F9 I) `9 b! d2 K& T
# }# x& o+ @, l6 [# V( a
中间的过程是从开发人员到提交代码到CI构建,打包存储的过程,我把它简化了。端到端的工具链,几乎在所有的微服务的成功案例里面,都会讲到他们会不停采用业界先进的工具。
+ C4 s* y9 f# e, o5 _

, [) q  P  R  N6 L" M" w9 ~7 I, U
以 Netflix 为例,在它7年的演进过程中贡献了很多的开源组件。包括我们在2013年的时候,最早使用AWS服务的时候,它本身也没有提供好的工具和管理端来管理它的资源,它是帮助我们去做自动化部署创建资源的脚本,所以我们用了很多 Netflix  的开源框架去完成我们的工具链。这里面涉及到编码、构建、测试、部署、发布。
* Z8 A8 F# r# ?6 t: Q

* g# E) \8 q( [* [' e( x$ x
0?.jpg
7 {" M0 Y7 o8 o" ^  I
1 a- }0 ^) q  R* x  I; j

* |' e* X, I, @; O
+ U" G# n  y  D8 @
( m/ H4 B2 R' J4 _+ B
3.5 基础设施
& Y! }; v( Y& R/ a/ {; M
" W; d1 F; \' n3 Q5 d* W( r
最底下的是基础设施层,对于微服务我们希望做的是能够快速交付和帮助我们在很多不确定的场景做水平伸缩。随着我们未来做试验、做创新的需求越来越强烈,我们希望上线之后,我的用户是一万的时候能够满足,一百万的时候也能满足。

5 L2 j$ ?' K8 X4 x

( G/ l9 [5 S- o  W, b/ t" ^7 }: G
所以对于伸缩而言,一定要借助于底层的基础设施,公有云,私有云,都是不错的选择。
' h" K1 }: F9 S* f5 O6 W
0 Q) h; @  n* P3 \
四、微服务架构的工程实践
6 r8 H9 W% ^- K! S( f" ]/ ?4 ~& P2 E! r, l  N
最后是微服务架构的工程实践。这是 Netflix 从09到16年七年时间,把他的业务从数据中心迁到 AWS 之后的架构图。对于我们的系统而言,是不是意味着当我们把架构拆分成50个、100个之后,也能获取到这样收益呢?

4 {+ Z# _4 x8 \8 l3 @# p( l$ f( o
4 b7 W$ Z) V1 m3 ~0 Y
这是很多组织和团队在做微服务的时候考虑的第一个问题。如果我们把架构拆成50个,100个,是否能获得同样的收益?答案是否定的。Netflix 首席云架构师说过,他们做了大量的关于流程工具和实践的演进。
# t" r+ L8 n9 d
9 \4 c9 R" q( ^- h% @9 \* W9 [
五、总结
, h% c- W0 ~# [7 b) a  g. S+ v. S! Y9 S; g1 |1 H1 U
0?.jpg

3 ?& O+ J& A8 k4 K

# m: \% a4 `9 S) x; ]
原创:王磊

! ?6 _  V+ L6 l) W' v' D& b& _
9 J! x6 k: z& o% R

本版积分规则

QQ|小黑屋|手机版|Archiver|艾拓先锋网 ( 粤ICP备11099876号-1 )|网站地图

Baidu

GMT+8, 2019-11-18 06:49 , Processed in 0.158799 second(s), 25 queries .

Powered by Discuz! X3.4 Licensed

© 2001-2017 Comsenz Inc.

快速回复 返回顶部 返回列表