请选择 进入手机版 | 继续访问电脑版

ITIL,DevOps,ITSS,ITSM,IT运维管理-ITIL先锋论坛

 找回密码
 微信、QQ、手机号一键注册

扫描二维码登录本站

QQ登录

只需一步,快速开始

搜索
查看: 1334|回复: 0

基于 DevOps 的微服务生态系统与工程实践(三)

[复制链接]
发表于 2018-11-15 10:44:38 | 显示全部楼层 |阅读模式
本帖最后由 adminlily 于 2018-11-15 10:48 编辑 / m# ^) R6 p5 P2 n

: U2 y- z% k' U& N前言8 ~) C. V# ?8 |
" l8 M8 f: G3 f( {" ]
+ l. G  q: V8 \1 f- q
从2014年开始,当我接触微服务之后,我发现在微服务的演进过程中,开发和测试、运维需要相亲相爱,紧密合作,才能取得理想的效果。

' d+ Y/ W# A% _

, V8 R" n* Y/ o! y
本系列文章主要包括三部分内容:
" {+ e2 K. y7 \' S' H
3 X& o, }9 Y6 Q6 t$ ~# L
第一部分:微服务与 DevOps
$ i3 `) M% O6 \

4 l" U( R" h8 g5 o: g6 r4 x
第二部分:微服务生态系统;
# \7 |& y  \/ g6 y6 _1 u3 C- }7 H
9 u, k: w) q8 f& k. [0 n. n
第三部分:微服务架构的工程实践;

4 y! e, t/ [: V+ |7 G+ ^
' a& e6 m# ^3 d: T' s% [& x, @$ h
本文着重介绍第三部分:微服务架构的工程实践。
: n6 S; z8 ^, v. a
( ?7 H& h+ o& v* b/ g* Z: _* \" c) M2 {
四、微服务架构的工程实践/ D1 v7 K: ^0 T' E; j" V% a2 _

$ G6 f2 M6 M, a) ?1 x/ F$ U6 n* }2 N: m! k/ s
最后是微服务架构的工程实践。这是 Netflix 从09到16年七年时间,把他的业务从数据中心迁到 AWS 之后的架构图。对于我们的系统而言,是不是意味着当我们把架构拆分成50个、100个之后,也能获取到这样收益呢?
5 s" H9 ~, X1 D- V7 u. \' E( z5 y
& v6 C( ^1 p& c( k, c
这是很多组织和团队在做微服务的时候考虑的第一个问题。如果我们把架构拆成50个,100个,是否能获得同样的收益?答案是否定的。Netflix 首席云架构师说过,他们做了大量的关于流程工具和实践的演进。

$ C, B5 v4 G* i( ^$ G9 ^
0 Y' Q- W) m( B+ w
4.1 开发实践
3 a7 G1 p* w& p- p; }; W# A
. i4 g0 i) I8 P' |0 [- t7 j

# I: L; W9 ?% [/ l5 N% i
我们在过去的微服务演进过程中所遵循的优秀实践,对于开发而言,这里我只提三个实践:

+ b4 b# B$ N& d1 w
6 s  I3 P$ |" J) s3 V% G- t' z$ z8 }% ^
  • 首先对于每个服务而言,最基本、最简单的需要给每个服务建一个独立的代码仓库,目的是让这个服务能够被隔离,而不是打开之后发现有很多相关的代码。8 n0 p# F* ~6 m9 c+ ?/ q
    ' b4 K5 o2 L) Z2 x4 s. d5 ~7 |. k6 [. O
    0?wx_fmt=jpeg.jpg
  • 第二点——自解释文档。因为在过去的很多案例里面,我发现可能会用 Word 来写文档,可能会用别的方式来写文档,但是这个文档会涉及很多设计的内容,在很多实践中并不太关心服务本身的流程跟设计,更关心的是我要知道这个服务是干什么,这个服务出问题了可以找谁协调。
    作为新的开发人员,我能够花多长时间去运行起来这个服务,意味着这个服务的代码地址在哪里,CI在哪里,当我部署的时候,通过什么方式去完成类生产环境和测试环境的部署。

    8 W  c6 g2 J6 g6 P" N
    0?wx_fmt=jpeg.jpg
    : K' ?' Q( l6 S2 h# G+ W7 O0 n

! Z) O' O' F) k# S" f5 B2 K4 n! r( D
6 z5 w" [: D+ _5 z
  • 第三——易于本地运行。当我们做了服务拆分之后发现很多团队里面的服务,都不能独立在本地运行,怎么让开发人员快速交付,这里列了三个经常用的方法。
    - g8 h3 r! g5 K, {& X
    # e& w9 J  Q" v

% q% Y6 Y; j% h
: G/ c! V) g  q3 p* ?; [- \, }
  • 第一个是用本地环境配置加 Mock 的方式,可以定义成自己的 MOCK,把我们关注的服务在本地环境里迅速搭建起来。
    % y3 n6 I# X" e5 X( ^
9 L" o' E' N9 @" I- G
( c% l+ r3 N" b- ~" H9 T
  • 第二个是使用 Docker-compose
    7 l/ }  q9 b+ v" z" I

3 p' ~# Q6 Y0 K8 `- u
! |! r5 G+ r# h; T. E
  • 也可以用共享的环境,可以在云上部署一些依赖环境。

    9 {/ R+ ?, L" n$ N/ D+ y* I; n
      n- N# L/ q4 _( M  g
3 H' L/ u/ X5 y- @
8 u; M' G' x3 y' @5 u
这是过去一个真实的案例,我们定义了ETL的服务,做的是把服务里面的数据同步给原有的系统,这种模式在微服务演进过程中非常常见,这个过程中对于数据传输而言,最重要的是油标,我要保证我的传输不会重复,同时数据不会丢失,所以我们把油标保存在亚马逊的 S3 上面。
1 h% d3 p7 H3 C. f- u7 i$ [' y
& s6 ]( \: G, A2 k
但是本地开发的时候,开发效率降低,原因是你从本地访问 S3 会比较慢。为了解决这个问题,我们把S3做了一个 Mock,可以用任何 Mock 框架定义,这样本地运行的时候,就不用关心具体S3的操作,我只要关心钓到了就可以,因为它本身是第三方的业务,非常稳定。
$ R+ t( G6 }7 {* z8 z9 F3 s

0 W0 `" b( c+ `/ ~* L/ Q5 p
4.2 测试实践
' N! O3 @) ?- q1 t6 `( h

2 A% f' @2 D7 v0 U6 z# {( a
& p$ L3 v; V! E9 J
0?wx_fmt=jpeg.jpg
/ Y+ {2 j7 C  W. n7 f
$ t' h7 n3 W& e
对于测试而言,一定要清楚测试策略的三角形。当我们去思考测试的时候,不是只有一种系统性的测试,而是由单元、集成、组件和端到端的测试。每种测试给我们带来的价值不一样,越往底层走,单元测试效率最高,但是没有办法从真正的用户角度考虑业务价值问题。' B% }3 p0 p3 f- H! E% v
- ^$ b7 m4 b( y5 m0 y" S  m! ~+ ~

" E- }9 p4 l: D, o6 D/ A6 u
越往上走,很容易描述,比如说我希望用户能够输入用户密码,能够成功登录,但是它所带来的测试如果只是从上面做的话,成本非常高。因为我们需要或者用人工、或者自动化方式打开网页,反馈周期也比较慢,可能你在页面上做了很多测试,后来发现最后一个错误是由于开发人员在某一行代码里面的错误变量。

. C( @* K6 i5 N4 ~  L8 G0 |

. V7 E& c6 s) I& |7 k( y
0?wx_fmt=jpeg.jpg
1 T/ _8 L8 k  m$ }
4 g) n+ k& q& f; ^7 ]  t1 n2 O+ |
所以在过去的测试例子里,我更多讨论的是“集成测试”,通常是“契约测试”,什么意思?我在提供者和消费者之间提供契约,里面记录的是在交付过程中,我的请求是什么样,我的响应是什么样,是不是有一些原数据来描述请求和响应的过程。
) g- q+ _8 N' A

' [, r( l; Q. k% N( C% c

+ g, d, ^! A* m* Y* R
有了这个契约之后,当我们的结构发现破坏,我的提供者满足不了当前所定义的契约,我其实不需要真正到生产环境上去破坏消费者,就能在测试环境里验证出当前的提供者已经破坏了契约,如果让他上线是非常危险的事情。
4 h5 [* z& S! o2 l  `+ L
: ?* J  R9 m$ J6 s$ \
0?wx_fmt=jpeg.jpg
2 V6 _3 ]5 W; b( `! j

# g3 x& i3 i2 H& E4 a
基于契约测试在业界有一个框架,叫「消费者驱动契约测试实践」,是把 BDD 和 TDD 无的模式引到架构层面,对于两个服务而言,如果我存在消费者、提供者,我的价值点一定是在消费者这里,我希望从消费者逻辑本身去驱动我的契约,有了这步之后,拿这个契约验证我的提供者,这种方式就简化了很多。

& G0 ?6 ~2 \0 K1 m2 A

) A) d9 r# m' ?/ ~7 @3 n8 y4 l
通过这种方式还有最大的优势在于,它把我们的两个在线的集成测试,比如我们过去做集成测试,最简单能想到的就是把所有的服务全部署上去,用自动化或者人工的方式发请求,让请求跟过程发生交互或者提供结果,这对服务的稳定性要求都非常高。
' }9 G) H( m- p  B  ^

0 t8 W' H1 g& t
所以在过去是通过这种方式之后,你会发现我可以把原本的集成测试变成两个独立的线下的单元测试。左边关心的是消费者能不能驱动出这个契约,右边关心的是契约能不能被提供者所验证。
! p7 p5 |) i: j7 u

+ D8 m/ ~7 F% I7 S$ A1 `
0?wx_fmt=jpeg.jpg
这是我们使用最多的框架叫 Pact,为什么我们选择这个,是因为对多语言支持比较好,同时这里有一个非常重要的点,我们可以把生成的契约全部收集起来,因为契约里描述了请求和响应的过程,可以进行重绘,很容易就实现了调用图。8 B$ t2 K3 y; J+ P, q. }

8 K9 P  W' G1 B& a8 Z$ E, U3 N

" Y( Q9 Q( G+ y3 X" e
0?wx_fmt=jpeg.jpg

+ L9 t# i5 H& A! p- p2 c  i7 R

# f* b: s' F/ M* j/ b0 r8 ?5 i0 f; p# }. ?

# ?# m0 a3 }0 K8 N0 V$ h% [, N4.3 部署实践

- D6 @, o: ?" n5 |8 r8 W4 E
3 R: f+ n) u8 g: t) u0 {

& ?8 r9 F+ [4 m& F7 B& Z. {9 Y/ B2 L: s- N0 ]2 u4 ~
第三个是部署,当我的持续集成把包构建出来之后,把包存储到某个地方,这时候只需要关心我的部署流水线,从哪里获取包,部署到类生产和生产环境上。
2 t9 I0 d* r5 x+ d: t# W/ T0 U

6 l5 l6 v% y) }1 [/ E6 Q& q- D
最核心的挑战点在于部署流水线,提一个小的建议,对于部署流水线而言,现在的工具很多,但是最核心的是我们要很清楚的知道,我们的包是如何管理的,包的版本化、包的命名方式,比如过去做服务的时候,每个服务的命名方式都是很清楚的。

1 x2 q& H5 E$ Z, b# d; k0 {

( l! i3 H2 H, [) k/ I# l1 f
第二,对于部署而言,我们要尽最大程度,尤其是从事运维同事,一条命令里只需要三个参数:第一我的服务名字,第二我的版本号,第三是我的开发环境,这是在部署演进过程中所要考虑的核心问题,当然对于 deploy 之后采用什么工具和方式,是在团队内部可以协商的,现在开源的工具很多很多。

$ b/ E9 D+ O9 {8 p" N2 T; q4 U

; q: `# r' W/ x$ t) U* i
4.4 运维实践
2 d3 B9 T* @) L0 r, ?9 i8 T6 K, D6 C5 e

! \3 H) I( d6 U2 g3 I& q- _
6 j2 o: h* b6 m% P- u5 {
最后是运维,运维里面包括三点,监控,告警和日志聚合。我只提几个核心的关键点,系统监控关心的是 CPU 内存和磁盘;应用监控关心的是应用本身,可能会有响应时间、健康检查。

, ]5 h0 K3 @" Q# B
2 E- ?- G5 j% l# `
第三部分是延伸的部分,我们是不是要考虑对应用本身建构它的业务场景,比如通过一些收集的方式,监控在运行过程中业务是否运行正常,而不仅仅是对可用性的检查。告警里面要有很清晰的通知方式,还要有告警升级的策略,对于告警升级一般会有 oneCall 工程师,Backup工程师和服务 owener。
3 f* C3 b+ h% x: Q
- }9 X: [/ b& D- b
第一步你要评估带来的影响性;

# |' t6 D: H$ M  X" w

5 ?7 k" r* z& d: r; j0 G3 y
第二是组内发邮件,先让有经验的工程师帮你做评估;

# `6 Z$ O6 r$ q/ U5 M' m+ C

: P( x8 A2 E" j: U7 Y; R5 }2 R
第三才是 mitigate,你要花最快的时间把这个服务覆盖掉;
3 C6 r5 d# i3 X& ~. O$ `  W9 T
: l$ g  U, B4 K: x  a
这个流程是对于线上服务去做运维的常见流程。
0 `3 ~) a8 |" w) C2 E6 V
6 n! m4 X, ~! O7 W+ t. h
0?wx_fmt=jpeg.jpg
* m9 C3 p1 W: ~
. ?* J* O0 v- o4 S, u9 R& O
日志聚合。对于服务化之后,50个,100个,200个,这种服务你的日志怎么获取,需要一种独立的日志聚合机制,能够帮助我们收集很多服务的调用链,对日志做分析告警,常用的有ELK,可以很方便支持日志输出和收集。这三点是我认为在运维监控里可能是被大家平时忽略的点。

" p( x- j9 H8 x9 k" Y
* i: g9 L$ u* b+ x& v/ V
五、总结
0?wx_fmt=jpeg.jpg
& R9 H3 R: ~' k1 C
原创:王磊
) I& h5 a5 e7 @, ?6 p
& _/ |2 h6 R1 _% Q

# I, f' F, z" l8 [& l; c* S* [5 f/ s8 h# e0 G) t1 F; ?
! |; a- G# Y/ S




上一篇:基于 DevOps 的微服务生态系统与工程实践(二)
下一篇:运维老王:面向DevOps的运维服务视角分享

本版积分规则

参加 ITIL 4 Foundation和中级过渡MPT认证、DevOps专家认证、ITSS服务经理认证报名

QQ|小黑屋|手机版|Archiver|艾拓先锋网 ( 粤ICP备11099876号-1 )|网站地图

Baidu

GMT+8, 2020-5-29 19:48 , Processed in 0.162276 second(s), 27 queries .

Powered by Discuz! X3.4 Licensed

Copyright © 2001-2020, Tencent Cloud.

快速回复 返回顶部 返回列表