请选择 进入手机版 | 继续访问电脑版

ITIL,DevOps,ITSS,ITSM,IT运维管理-ITIL先锋论坛

 找回密码
 微信、QQ、手机号一键注册

扫描二维码登录本站

QQ登录

只需一步,快速开始

搜索
查看: 2336|回复: 0

五大企业Netflix、Oracle、ING、思科、JFrog是如何做DevOps的?

[复制链接]
发表于 2018-11-15 16:51:21 | 显示全部楼层 |阅读模式
本帖最后由 adminlily 于 2018-11-15 16:58 编辑
  c6 ^9 m8 ~4 S0 N: ^3 `
2 T9 c4 n* D" Q) V' n7 j# ]7 y5 J( t# A
1 B# F; N$ V; A* [4 m, v
今天我分享的主题是《一站式软件交付:世界五百强企业的DevOps转型之道》,会讲到国内外的一些大型企业是怎么实现DevOps落地的,以及企业决策者通常会关注哪些DevOps带来的收益,希望本次分享可以帮助大家说服领导快速落地DevOps,提升企业的竞争力。

% Z$ V' g" c3 {' I4 [  ?. N9 A) B9 ~
( f" X+ T4 D+ c+ A3 l

软件开发趋势

' p% Z+ G$ D, \. A7 ]$ P% O
' M- C8 k: j& W) I
?wx_fmt=jpeg.jpg

" n' }, {7 O* Z$ |7 G6 O

3 g4 L% ]" F# C6 @; _/ p6 s
众所周知,敏捷开发带来的是持续测试的能力,是把开发和测试的团队合在一起,实现一些持续测试。 DevOps目前主要做的事情是实现持续部署、持续交付,现在可以用一些灰度发布、金丝雀发布去做小规模的发布,但只是发布应用到某一部分的集群。
* Z$ m  }9 B  M9 C

% O) Y/ ]: ]1 X1 m0 r9 R. C
就像谷歌所做的,比如Google地图现在想发布某个新功能,会先在公司内部发布或者是做一个小规模的发布,后面再做一些对外的发布,这是DevOps带来的一个好处。
/ D& {5 V. |/ y, Y  j; S

, w* v4 w% _. }! t) ~
?wx_fmt=jpeg.jpg
- u; b# I5 e5 B6 b# y! W
此外,DevOps还需要一些工具去实现。在构建方面,我们看到互联网公司里80%都在用Jenkins,因为Jenkins做实时构建、实时编译,平台本身是非常开放的,也有很多的插件可以支持单元测试、性能测试 。如果用付费版的软件,国外有一些做容器编译的比如 CircleCI 等。在测试环节,很多工具都是免费的,比如  Junit、Jmeter等。在部署方面,国内外主要是Ansible和Saltstack这两个用得最多,我们也有一些比较酷的工具,后面会展开介绍。
7 l. n3 j& Q* S
' Y% C' r$ J& k1 w2 D
DevOps的工具链特别多,也比较复杂,所以企业要想办法去支持所有的工具链,因为我想要开发团队能够自由使用他们想用的工具,帮他们提高研发效率,而不是强制他去用某几种工具,所以落地DevOps平台是很重要的,因为需要用API的方式去对接各个工具链。
% B, U! e* j# c7 B& Q
2 [' E3 e5 k' P* K& ]$ {

DevOps的发展现状

2 ?+ P9 J# Q: f) l" r7 d


( ], x' m% a2 U  _


1 @0 U- b% b& A2 M7 [
?wx_fmt=jpeg.jpg

2 A/ h* }. k6 Z+ G! W: @- M
) y& @: ]' i2 q" o
我们看看DevOps的发展状况,通过每年的DevOps现状调查报告,我发现了一个比较有意思的现象:就是前三年,公司内部叫DevOps工程师的员工数量增长了两倍,现在很多公司有专门的DevOps工程师,做创业的人都知道,之前你要找一个技术团队肯定是先找开发,再找运维,第三个再找DevOps,但现在很多硅谷公司,他们是DevOps和开发一起找,因为DevOps 工程师可以用很多较超前的工具做快速的发布。
% f1 h& }+ ?  v0 _# f% c1 V

- ~# M' I1 w9 g9 L! U8 j+ r: c

DevOps的收益


* Q7 k) p. D: _) a5 k4 o

/ }& _5 a1 d% K( w/ f# \( N

# R; N) @% Y& O1 M, |
?wx_fmt=jpeg.jpg
! E  h4 @3 n7 R2 I
7 P" \9 Y8 h$ {) T5 ]- p/ A  q
$ G8 [1 o- V! |3 ^4 G6 L8 E+ ~# [# V
关于DevOps的收益,我们都知道,一键发布可以提高我们的软件交付速度,也叫做快速发布,但快速发布依赖于很高的自动化测试能力,自动化测试可以提高软件软件交付质量。但自动化测试工具和用例多了之后,测试的时间开始变长,开发需要等待时间很长,如果最后一步失败,这会浪费很多等待的时间,所有需要让失败的case在早期失败(Fail Fast),将下游的测试用例补充到上游测试用例,可从而避免在最后一步失败的问题。

' p3 R+ _2 G& t! @0 c& y$ B, z

; e2 r, x) A' Z9 q# }/ J8 X

DevOps全球开发者分布

! M% x% C/ p, [+ e: g5 Y6 x


7 v8 p1 p, u/ h( a" Z2 Q

. D4 _2 ?/ M9 m% |* S0 s/ v7 z5 T
?wx_fmt=jpeg.jpg
& {( w: X* o8 {. v

2 P4 M* ?* L4 P4 u1 ?

* ]8 U& n) H  g0 @" R+ @* f
我们看一下全球在做DevOps的公司分布。从上图可以看出一个很大的问题,就是亚洲明明有很高的消费能力,有很多智能手机的用户,但全球的DevOps工程师数量亚洲只占了10%,而欧洲和美国却占有全球最大的一部分,为什么?这也是我此次分享的一个目的,我希望大家都可以多做一些交流,多对外分享各自内部的DevOps实践。在欧洲,很多大的银行、保险公司都会分享他们内部的一些实践:怎么用亚马逊或公有云,用了哪些工具,如今中国国内也有越来越多的公司在分享,但也还比较局限于国内地区,我们需要扩大影响力。
: c# t0 {0 P% v5 [5 s" y3 C  L
/ F1 Y5 k1 @+ o5 m- }+ X( N2 h

全球最超前做DevOps的公司

' P5 n) q4 [/ g, S7 Q  ?) Y


* }" T6 v" R2 l% T/ j* S8 |" G3 [

& ^& V' v* B4 K/ ~; v7 H8 T9 L. e
?wx_fmt=jpeg.jpg
# M+ ~0 L: i/ T& ?9 g' e# g
) a0 X1 ~  p$ r. ?. ^1 K% G

% H  ?0 {% ]! A4 z
全球范围内哪些公司做DevOps最超前?我们这边有一些案例,谷歌云每周20亿次变更,都是用Kubernetes;我们认为Netflix是最超前做DevOps的公司,大家可能有看过《纸牌屋》,一个比较敏感的美剧,但Netflix不仅是拍美剧了,还占有全国60%的带宽,很多人坐沙发上看电影,在国外都是用Netflix。
$ }4 j, p! C. p6 N+ `  I9 W
8 I' h* K& _# r; [

0 N$ P5 k4 C1 `4 i  f
还有甲骨文和思科,他们都做了一个一站式交付平台,封装了Jenkins、JFrog、Sonar 等测试工具去做统一的测试与部署,他们是属于大规模的DevOps。国内的腾讯和阿里,腾讯至少有两个团队在做相关的事情,一个是在做集中式的DevOps平台,另一个是负责蓝鲸,蓝鲸是一个非常强大的自动化运维工具平台。阿里巴巴在杭州有一个团队在打造阿里内部的平台- AOne,阿里的很多业务已经迁移到他们的平台上去做一站式的测试和部署。还有华为,我们知道至少有两个团队在做公司内部的DevOps交付平台,这也是特别超前的,做得效果也很不错。
/ e+ X6 X" Q) u. X+ D
, X. Q+ p2 ?% K- |- b

这些公司是怎么做DevOps的?

: I# m. z: F% B6 o9 d- x

* _& [+ t- V$ S5 k# {# Q% ]! T
下面是今天分享的重点,主要跟大家分享一些上述这些公司是如何超前地做DevOps,他们用了哪些工具,怎么评估团队,怎么说服领导,如何做一个自助式的DevOps平台 。

- K+ B' S0 W$ V4 f4 x
/ m8 `* T( n9 f+ k
第一,自助式DevOps

7 t' H/ C0 \' t

2 k* k2 U$ h) A2 ?7 C  I
?wx_fmt=png.jpg

3 ^9 f0 Z: s- t" ^- d1 o5 j* n0 D9 p( z& v9 @
; [' W% D" H0 O
就是在每个阶段要评估最好的工具,这里以腾讯为例,腾讯在前面做构建时,大部分是用Git,然后用Jenkins去构建,用容器的环境去跑构建的任务,比如说一个Jenkins任务跑到一个容器里面,构建完了,就可以很好地收集一些资源。而测试工具,值得一提的是SonarCube。SonarCube做单码扫描,它也是被用得比较多,像滴滴、百度、阿里等这些大互联网公司都在用。中间工件管理部分也是比较关键的,包括你的数据管理在每个阶段从提交代码一直到构建、测试,发布到什么环境,都是存在一个地方,所有的数据和包都是存在JFrog Artifactory里面,都要通过各自公司内部的标准区做流水线。最后部署和评估,很多公司在评估他们的DevOps数据,这个月和上个月底相比,发布到底有没有变得更加高效,我的测试突破率有没有比之前快。上图中提到的是我们评估用得最多的一些工具,当然每个阶段还有更多别的工具。

0 K( o+ A  _. @1 w; a+ O

7 h/ t. \0 f/ n( y. V! o; M8 J8 U
第二,自定义流水线
/ U8 h* f, U' n  }+ z( ^; s
+ y0 h$ w. X& Y* c
?wx_fmt=jpeg.jpg

2 ]3 @% Y" i' ~1 R
( V7 H  ]8 d% ^2 M# |- ~2 H' {& g# J

1 {$ |; k$ c( Z
不知道在座的有没用到Jenkins 2.0Pipeline插件,现在Jenkins创始人KK在每个大会上都会讲他的Pipeline插件概念,去年我参加了他在以色列的Jenkins大会,他在会上就发布了Pipeline插件。但不管是用Jenkins或者别的工具,都要把一些可重复使用的阶段,比如测试、部署放在一个模块化的CI流水线里面, 开发者就可以自己上线,自己发布。现在一些大企业的团队就是自己上线、自己发布,他们采取微服务架构,不设定有变更日,随时都可以独立发布自己的模块,不用要协同所有模块一起。大家可以尝试 Jenkins Pipeline 这个插件,是开源免费的。

* n4 a$ }; B  \
6 Y! q7 c- f0 W$ R" a5 U
在我们这个例子里面,做Maven 构建,然后搭建一个镜像,用镜像做一些测试,部署到测试环境里,那么做完各种自动化测试之后,就可以部署到生产环境。一些金融公司是要有一个员工审核的过程,也可以放在开发里面,开发可以发邮件、发短信等。

# ~5 w' N6 g/ b$ G+ R
- o4 C, T( \7 [- C
记录生命周期元数据

" ~% i/ A4 G: l7 `& }8 P% Y" W
- B; L8 M. m! `3 H/ g8 E- n
?wx_fmt=jpeg.jpg

1 q% u" S, @" ^) J+ |' X7 v* C  L
) T+ C: S3 J' g, V1 a) g

$ ?# K9 t# W4 q  A+ {
这个过程会产生很多数据,每一步关键的数据都需要存在统一的地方,叫元数据。Jenkins和JFrog目前世界五百强里面大部分的企业都在用,JFrog有一个插件在Jenkins里面,安装之后,在构建时就可以把你的测试通过率,还有SonarCube的地址、部署的结果,以及你当时部署了什么机器,都跟构建包进行绑定,所以现在你公司内部所有的工件,不管是什么语言(可以看到图中左手边各个语言的包),都要根据DevOps团队的一个规范和标准去上线,如果这个包没有所有的元数据,没有所有的测试结果,而且没有这个QA,这个包就不能上线。这就等于在公司内部设置了一个质量关卡, 从开发、构建、测试到部署所有阶段的关键信息都是要放在一个地方才能实现流程的决策自动化。

# l* z( e6 ^' ?  W
制定软件交付质量关卡

' u0 S; x4 A3 Q5 G. h0 R4 d- e
?wx_fmt=jpeg.jpg
6 \# b+ N) x+ U( C
4 b' T. _9 }$ B; m
1 |( D" Z5 ^4 {( q
质量关卡是一个比较老的概念,Jenkins和JFrog是怎么参与到这个过程中的呢?答案是用自动化测试供,通过把测试结果和这个包绑定,如果想要把发布的包从开发环境升级到测试环境,再到部署环境,必须得收集到特定的元数据才可以到下一个阶段,这个叫质量关卡,很多大企业现在就是用的这个标准,即如果我的 Released包没有具备所有的测试信息,流水线不会让它到部署到我的生产环境,这个主要是去保证软件的质量,正如之前讲的“快速失败”,如果把一些自动化测试、继承测试放在一个早一点的阶段,就可以避免浪费很多的时间。

3 V; o* l' C0 L/ `1 G. q
1 R% m) |8 Y5 `. B& a! z( O& `7 d
第三,智能查询
. S9 P0 j9 S( [) e7 Q/ m

$ D7 [9 q$ d/ I3 d& e+ ]
1 A7 n! w" ^4 l9 r1 @
?wx_fmt=jpeg.jpg
& E+ t" W* s1 ]* \* Y( X( q

! g  p1 |9 a2 e6 d, x3 c

; d- G/ S! P) x$ g  N; p+ D/ M
最后,你需要一个智能的查询能力,去找到公司内部的好几万个包,像思科、华为都有几十亿个包,不是最新的版本,而是经过测试且单元测试通过率为100%、漏洞扫描已经通过的包,可以自动地将它部署到生产环境。像思科、甲骨文他们会做一些自动的清理,比如说有一个包在半年之内没有被下载,它会自动去做删除,所以如果你们存储的成本越来越高,也肯定要评估怎么做一次自动化的清理。同样是做一个环节再做下一个环节,所以可以用AQL这样一个工具去做,很多大企业也是这么实现的。

+ {- l4 V$ t5 }' p: m+ g

; L( W, K0 w. [2 T2 |) l( t

全球DevOps标准


  R0 K# }+ R( A" N


- V) _5 c- Q. ]7 L


4 ^/ d1 N* j( [! J, z' F
?wx_fmt=png.jpg

( D% G7 W5 K$ ]2 v

6 {5 s# c4 a" q4 o+ `6 m9 a
现在国内外都有一个非常大的趋势,就是说公司到了一定的规模,都要开始封装自己的DevOps 平台,不然很难让一个小而传统的团队去上持续自动化交付,通常我们需要花钱找一个敏捷教练在公司里面讲PPT,让他们快速用这个工具。互联网公司的做法是自己封装一个DevOps 平台,对接底层工具平台,比如Sonar、K8S、Jenkins,实现统一的资源申请,这样的好处是每个团队的交付流程一致,能够在公司内部实现持续交付的标准,研发团队也不用维护底层的各种工具链。

8 {% _; v( U5 M; u7 g
  f) _. c8 x$ o: E' t7 t( f3 `1 b- x+ ?
1Netflix

$ F* Z  \% n" }' w+ r+ |0 X0 \
; {4 `5 Z$ p6 F1 l- x) [
?wx_fmt=jpeg.jpg
5 X& F4 J7 T; h3 ~
) Q% g$ \) k/ L3 U4 q
6 d0 m0 i* i- W, t  x) Q# p
第一个例子是Netflix。Netflix在开源社区是一个非常大的贡献者,他们开发了很多开源工具去做部署、打包等各种功能。 其中有一个做混合云环境部署的工具叫 Spinnaker,Spinnaker是Netflix在的一个开源的项目,能够实现跨云平台的部署任务的编排。现在Netflix使用Spinnaker每天发布4000次变更到亚马逊的机器上。谷歌云也在用Spinnaker去做部署。他们构建时也是用Jenkins,其中有一个过程叫bake,bake是把应用打包成一个镜像,然后把这个镜像用deploy去做部署。Netflix的DevOps实践非常值得关注,他们也有很多项目和开源工具都值得一看。
, [: @8 Q) x+ n) `
; ^, p  d8 ]; r# s! P6 W
2Oracle
% [, R' X  a; Q: ^6 F9 ]8 [3 c
$ b% c$ ]! B# p0 a3 ?3 r
?wx_fmt=jpeg.jpg
* @. L: X$ v9 g, P3 i
3 w$ t5 P$ N/ d

3 }2 o: k7 S7 Q2 L
第二个例子是甲骨文,我们都知道甲骨文是做数据库的,但它同时也是一个非常大型企业级软件公司,他们现在是4万开发者的规模,之前有很多传统的应用,也有非常大的部署。甲骨文内部也有很丰富的容器云实践经验,到去年年底,他们每天有150万次Docker并发请求,这是比较酷的。

( C! [( [. H' ]( `1 \

+ j. O& [7 C9 r5 o# G9 F2 z
复杂交付流水线

, f( Q7 n: \: v+ c
+ G# q2 ]" d1 a8 U; K) C

8 K. x2 k4 v4 C; W
?wx_fmt=png.jpg
4 u0 H4 O% q: m! {$ z# K7 D, {
; [- ]. s- [" i) ]" D* l0 p
这是甲骨文之前一个很大的痛点,他们的流水线非常复杂,有很多并发的任务,特别是他们的测试方案,要花很多的时间,比如说某一个任务需要两个多小时去做,如果现在每个开发者都提交代码,都在位置上等两三个小时,然后再把4万开发者乘以两个小时,这样算下来一年要多少钱?所以肯定要开始优化这个过程,因此他们需要一个可视化的工具,去知道哪个步骤是最好的时间,然后去看哪一步、哪一个任务怎么优化,是不是要做一些性能测试的优化。
& j5 d  X9 }# H9 C/ f: ?2 R

# V1 k) G2 f: j: I8 l; J* S8 p- B2 d2 P1 q
多语言DevOps
" d! y9 b! \+ N1 [& i% M" f

  K1 j' T2 v$ U6 j& X  f
?wx_fmt=png.jpg

  A/ X! |" h# q  B; t
; f( q/ c: {5 K9 n, d5 u

7 W4 q3 Z6 }+ y) E6 t' V, V( m
甲骨文自己内部做了一个持续交付平台,是封装的JFrog、Jenkins,这个团队最开始是只有中间件一个小团队,他们也是遇到其它公司普遍遇到的问题——怎么说服领导。他们是先有一个小团队,进而做这种实施的评估,看这个团队的效率有没有什么变化,比如说上线的速度有没有变得快、测试通过率有没有变化,然后在公司内部出了一个报告,显示中间件团队用了DevOps 平台上之后效率的情况如何。
% x, \% Z1 K3 u& Z

/ T/ w1 H- D# F  H  b5 }( s; J" f
于是,他们在一年之内把这个数据库的团队和甲骨文其它的团队迁移到了 DevOps 平台上,因为他们都发现做同一持续交付平台的好处是很明显的,那么从2015年开始,这个平台通过API的方式可以去支持任何开发工具、开发语言,就是最开始讲的一个很关键的事情,如果要做公司内部的平台,未来肯定要扩容。就像我现在虽然只有 Java 开发,但将来我们收购了一个小公司,他们用的是别的语言,我必须能够变得能够支持别的语言。
2 W$ c9 z& d  H# I% S9 K: e

, h9 |! b% c# h
可视化流水线
& H: `' q5 V- {$ k

9 \! p8 T/ m3 D4 o( z) |- B2 [
?wx_fmt=png.jpg
  [( r$ ^* p) w5 W* G# D9 s( @
( W& b' q: M; e( t& @: g) h
这是平台自定义作业编排的界面,你可以按需编排任务,通过消息触发每个阶段容器化的构建、测试。

/ N  r- C: ^- c( U5 H

( X8 d% {. Z0 V$ a( F- s3 s. \0 N6 A9 H3 }' L: K
报表及统计

6 Z! }* u% \0 m; K% b1 _: x

7 H+ r) p- A5 ~4 P
?wx_fmt=png.jpg

0 n& I3 d) }, k' [7 d- L
3 G$ ]( z2 R( I/ v
甲骨文最强大的事情就是跨团队的报表评估,他们可以查看每一个跑了多少次,里面有多少次成功,多少次失败。里面所有复杂的任务,他们都可以进行时间的评估。也有可视化的工具,不用派几个人,周末加班,给领导做一个报告或Excel,现在有自动化的页面可以给领导看,这是非常重要的事情,即使不太懂底层技术的人,也可以上线看团队的一些效率方面的评估报告。
# d) k1 \0 R; r0 M5 q& p

( G! W7 V1 l/ W" w, q8 G3 [9 x
DevOps平台内部扩容

* Y9 `4 z5 e& J* e0 v, X

7 ?& G+ b; a. w% r7 T3 B' p( N
?wx_fmt=png.jpg

/ \: N$ x( W9 s4 Z, V( L$ Q# b- j
' l2 R5 M  u5 h, d
甲骨文是 JFrog Artifactory 的早期用户,在2013年-2015年间,他们某一个研发中心某一个仓库的数据,一年半之内从17TB涨到了70多TB,这还只是其中一个研发中心(甲骨文有6个研发中心),当数据达到70多TB时,他们开始做一些自动化的删除,前面也讲过了一个规范,如果包在半年之内没有被用到、没有被下载,这个包就会被删掉,都会用这个去做。

4 Q& J' Q% G* h" v+ n
% Z9 B- x5 }/ ^$ M; {" e
3ING

0 @1 y' A9 l/ g

' o! g( P8 h1 U
?wx_fmt=jpeg.jpg
# N, o9 j& l9 F  l9 J, p2 O
6 O$ q" m# j8 e3 I  `9 N( ?' d
第三个例子是ING。ING是全球金融巨头,虽然中国的银行在全球十大银行里面占了6个,但ING在国外算是比较大规模的了,去年超过1000亿收入的规模,也有全球的研发中心。现在他们要面对国内很多金融公司要面对的事情,就是怎么从传统的开发模式变成一个超前的DevOps模式。

' _1 [) `3 ^3 p- M
2 q' l* }! Q4 x8 a
ING持续集成

6 O" y6 B  G' f4 |

+ S+ N2 K; G- j
?wx_fmt=png.jpg
  l2 b: E' G9 O

0 g9 O9 O# `0 G6 K
之前ING 公司 IT 部门有1000多个团队,每个团队都有自己的上线流程,每个团队都在重复踩坑,开发重复的功能来支持上线。所以ING为公司所有IT部门搭建了统一持续交付流水线,让公司所有团队都受益,也叫作"CDaaS",提供端到端的上线服务。
) B+ r9 D' K; R! M2 {$ ?8 q) U  W9 {

: O8 K0 a/ X1 J/ @) b5 W
ING持续交付

, T& e( Z3 O  d+ d$ q7 S8 G$ H

- y! S* M: q* T
?wx_fmt=png.jpg
; \+ {$ E( v1 W( C1 \
部署工具支持Ansible、Puppet、XL Deploy、Nolio、Chef等多种部署工具,这些工具在分发包之前都从 JFrog Artifactory去获取包的对应版本。

4 Q0 G, H* ]" `$ V( [5 Q, v$ Q: f
8 p% v, l3 O$ l# I; D' q/ Z# @- M
ING多语言开发

! K: w" Y& y* }. o; U
" b+ l& Q. f0 o7 H
?wx_fmt=png.jpg

/ x; R, `( U# m; f$ h

7 g- c% S$ U* ^3 ]6 |
部署的话,他们也能部署到多个工具,比如Artifactory,因为不同的研发中心,不同的团队,不同的工具都要去做部署。所以这个平台得非常灵活,能够支持很多团队的工作。他们也是多元的,有Maven、Docker、NPM等,他们都要开始管理。

1 \- t% [* l8 P; Y- X' J( V
, r) W- {/ O/ ]% Y* E- I% R
ING自定义流水线
, W. R3 T$ w6 K. J$ n
+ u* H# m7 m7 t' P! |& }
?wx_fmt=jpeg.jpg
) @4 k8 T" T+ m# N. O6 K
8 M) n/ {8 y$ m5 }
他们的目的是最终实现600个团队的支持,一个自定义的流水线,从拉源码开始,然后做一些测试,把包放到Artifactory,他们用一些付费的工具去做部署,测试也很多跑在Docker容器里面。ING提供的统一交付平台对接了很多工具,覆盖了代码管理、构建管理、工件管理、部署管理、环境管理等上线所需的功能,为ING的内部 IT 团队提供了可靠的交付流水线。

' C* I  {3 n4 m  z$ g' T1 {
  L% N6 H/ U; k
ING高可用容灾

+ S2 T& Y1 [) Q7 p* ], S

* \1 c; i  n: \# A
?wx_fmt=jpeg.jpg
0 r0 e% T( x8 Y0 G
) m) N' U3 a& r; x
金融行业比较关注的是高可用的容灾,这些包肯定要用容灾的,那么可以做高可用的包管理,也可以用多个节点去做分流。例如华为,在深圳有七个 Artifactory的节点,因为他们要进行几万开发团队的并行上传、下载,是非常高的并发构建。
3 p$ \# [7 F- g, c
6 J" \& C4 Q% @
4思科

* A( l9 N0 {% e2 d/ d4 {
5 u& O1 m3 [6 P! m5 M
?wx_fmt=png.jpg
) L( L% r; ~7 X' p- K% k6 j5 u1 \
- v7 k5 k! ], n/ W6 h6 s9 F" A
最后介绍下思科,思科的平台叫Account Management,他们有一个5人团队,做了一个平台,可支持全公司3万开发者,同时也是全球多地开发的。Account Management是封装Jenkins、JFrog,从图中可以发现基本上是一样的工具。Account Management通过给团队一个页面,去申请一个Jenkins容器,申请JFrog的资源外包,都在Account Management里。

* H* m* l0 e" X! g) y
7 d  j( t6 l$ B6 `  e/ M; k6 j; L
?wx_fmt=jpeg.jpg

) j" B: y$ ]% y
1 s6 Q$ E: V% z" B
从这里我们可以看到,创建一个新的Service非常简单,你不用关注底层的Jenkins配置,不用关注包管理系统,只需要在一个页面上去申请。

; t6 t0 \& \/ H
+ h1 K. m; ^+ A* a
全球DevOps

; z1 p( _! @: M7 @  a/ @7 P% B
6 k# \/ F: E7 [% h( P* z; a
?wx_fmt=jpeg.jpg
9 G4 W1 M9 A1 n
8 b% U# \; ?  m4 x6 I5 f3 q1 k
它们也有全球的包复制方案,他们在美国的硅谷有一个高可用的容灾,英国和印度都要做实时复制,比如说他们的某一个包是在硅谷构建,但要复制到印度去做测试,这就需要有实时复制的能力,这里都是用高可用容灾去做实时复制。

5 C  |1 T; j. X$ w1 {% p9 N5 \9 n; v
+ y, C! `3 ^) R
元数据
# v6 }* y8 Q$ l$ x0 o  _, O2 m
8 F# Y/ j$ T/ K% c2 X
?wx_fmt=png.jpg

' o8 W) C, V. P6 a+ B
9 ~- C2 f! z. l  A
之前那个例子就是把思科每个包绑定很多的数据,测试报告、测试类型、QA的状态,所有的都要在一个地方去管理。
) E4 n) x6 s5 F$ \( d) g+ R: e: _
4 q& P% h. F, q( f
5JFrog杰蛙
/ A" S. C0 x. k* ^( |! {
2 u* X5 W3 \6 f/ v% g* y9 w
?wx_fmt=jpeg.jpg

3 C2 o- B; A$ u" _2 t9 H- H. Z( i

& K! E$ m; N" ^+ q* s  b+ G
最后跟大家介绍下JFrog的平台(官网:JFrogchina.com)。JFrog是作为一个全语言的管理系统,统一管理外网的依赖包和公司内部构建的包,并且提供企业级高可用,它可以跟Jenkins对接,能够分析这次构建涉及到的外网的包是否存在漏洞,也能做元数据收集,跟测试工具集成,将测试数据跟包做绑定,并将应用部署到虚拟机或者容器环境的信息回写到Artifactory,作为元数据与包进行绑定。
% `4 B) l! @& z9 i( l- _
我们还有一个平台,提供一站式的快速发布服务。我们今天看很多公司都有一个页面去做整套DevOps,但这些都不是开源的,也不能快速地落地。我们跟腾讯联合开发了一个应用叫DevOpsOne(官网:devopsone.cn),对接到蓝鲸做部署,下一步我们要做一个全开源的平台,这个开源的平台就是做甲骨文、思科做过的事情。具体做法是封装这些开发工具链,提供一个统一的平台去做流水线、部署、测试,报表及数据挖掘,全面降低DevOps上手的复杂度。
+ X7 z) z" A/ H. a6 l7 g" w9 K
0 `* s+ p5 }$ ?
?wx_fmt=png.jpg
4 j3 Y/ w2 w. V* Z
, @( d. X8 e: ^/ ]  Z
这个架构也是用Jenkins、Maven、JUnit、Sonar、Docker容器等工具来做的平台,这是一个免费开源的平台,可以快速实现企业内部的一站式持续交付平台。

; K) d+ o/ H: ?+ b4 _
+ @3 n% ^7 ]$ R
?wx_fmt=png.jpg
  U- E& L, W) x0 ^' c. V
未来还要做很多报表,在需求到上线的整个流程中,持续度量团队上线的速度和平均的上线速度,我们都会根据标准进行分析和评估。所有工具都会在一个系统里面去做,从需求、构建、源码、测试到部署都在一个地方去做流水线,包括管理、部署、报表,都是开源、免费的。
9 p- Y4 f7 F; L$ S- _3 u7 L
0 l. P; F9 x0 w$ s7 Z" X1 D  u
?wx_fmt=png.jpg

7 g- R6 ]) @: ~. V) z6 y; |4 F

' z( {, C8 R9 i( o
最后这是提供流水线的形式,底层就是用Jenkins Pipeline,用户只需要在 DevOpsOne上定义自定义的持续交付流水线即可。

, l& h8 Z$ N* D; Z- Q$ K2 o

) V+ d  L7 E1 ?4 ^
Q&A
# ~0 I5 d8 I1 @

- l# U* N+ w" w9 n% t# f
Q1:关于DevOps的问题,您刚才提到国外的很多企业,比如甲骨文、思科他们都是用同样一个DevOps平台,大家的开发、部署、业务都是统一一个平台。但我们公司不太一样,我们之前倾向于统一的平台,但这个统一的平台出问题了,所有人都在等,后来我们就拆了,就是说每个团队的运维,这些全部都是自己的团队去负责,你可以选自己的工具,这个工具也是自己维护的,我不知道是统一平台管理所有的东西,还是交给自己的团队去负责整个DevOps的东西的做法,哪一种比较正确?

6 Z8 w- U$ G2 U9 }& b- B3 G) E; `2 A

3 O; ~9 }& ]- r5 f2 ?" t* T$ o
A1:先不说正确与否,从业界的趋势来说,大家做开发,他们所有的团队构建是底层基于一个很庞大的构建系统,包括测试、打包、发布,每个团队维护的成员就是一个很小的团队,每个人上来以后做自己的构建、测试。你刚刚说的问题可能是平台稳定性的问题,这里面还是回到甲骨文这个案例,甲骨文是平台公司内部有500个Jenkins的Slave节点,这500个节点都是跑在高可用容器环境里面,让其具备很强的高可用能力,它用这个容器去保证这个节点的高可用,如果宕掉了,它会实时再虚拟出来一个环境,让它接着跑这个任务。这个是容器环境让它具备这种高可用的性能。

& j6 l! z% ?; f% t8 l' t
1 x! }) b9 b' ~* }7 P) M& _+ C7 Z
它还有一个好处,我的资源就这么多,当每个团队都来申请,势必出现资源紧缺、排队的情况,所以容器的好处是我用完以后,测试完以后,我自然就释放了。但我把这个构建产出物,上传到我这里,把每一步执行的测试元数据记在这个包上面,再走到下一步,通过这种方式去给每个团队提供统一的流水线。
   
) D; u" i  ^; _: J2 s2 f  G! o
Q2:想问关于自动化测试这一方面的,刚才介绍了很多工具,我们公司目前现状是上线之前会有测试组,人工来测,关于DevOps自动化这一套测试有什么好的建议?

( }0 r) g! w1 R& I8 Y/ j+ {  `

# ]. N9 V+ P; O9 Q
A1:从测试角度来看,其实如果有在外企、国企或者是国内民营企业待过的,可能会发现有一些明显的不同。外企的研发团队对这个测试的覆盖率、自动化率相对来说会高一些,国内由于业务上线的压力,我先上了,实现功能了,再来补这个测试用例,但最后发生一个什么问题呢?上线交付周期越短,没有那么快的时候还好,如果交付频率变快,那你的测试团队会变成瓶颈。
+ t' U1 Y0 N- Z/ d7 q* Z# P& k! z7 V
+ x: a0 ?3 P2 T# @
之前我们和亚马逊 Kindle团队的测试负责人聊过,他们就用这个Kindle做完全自动化的UI测试,他们用一个工具叫做APPIUM,专门做这种模拟屏幕的点击,完全百分之百的案例覆盖,他们杜绝一切人工的模拟屏幕的点击,虽然这个投入很大,但在一年半载之后会产生很大的收益。同时你的测试团队会从一个点击的角色,人工测试的角色变成一个开发团队。亚马逊全公司都是自动化测试,没有员工手动测试的概念,雅虎也是,这两个公司测试做得非常好。
% {' d( J$ @0 O/ d/ E# k6 K

4 F( ]; \5 w' G4 L+ a
Q3:你们有没有计划跟云厂商合作,会不会考虑这种资源会更节省的方案?因为其实我们如果一个很大新的项目,需要很多 Artifactory实例,想了解一下你们这边的情况。

+ l' K! \! l" G$ f2 }
' B* G8 `3 ?$ D- R7 _* y
A3:本身JFrog 也有一个公有云版本,目前支持在亚马逊和谷歌云、微软云上部署。如果是部署到亚马逊,也有一个工具。如果你已经是亚马逊的用户了,可以在亚马逊上建一个帐号,你不用维护任何的 Artifactory机器即可使用,按照用量、存储量计费,用量会比你实际存储还要少一些。

9 i: ~* m! X7 K* l9 j3 a
% n7 N+ n( e5 a
原创:马致杰,英文名:George Hurn-Maloney,JFrog中国区创始人/CEO
* o2 G1 ?& }  F- w, `; C

! i! ]/ @, K* a" v/ }2 ?( ?
1.png




上一篇:在项目实践中,容器化改造和DevOps建设如何进行?
下一篇:看万达网络+普元:面向IT运营效率提升的DevOps平台架构解析

本版积分规则

参加 ITIL 4 Foundation和中级过渡MPT认证、DevOps专家认证、ITSS服务经理认证报名

QQ|小黑屋|手机版|Archiver|艾拓先锋网 ( 粤ICP备11099876号-1 )|网站地图

Baidu

GMT+8, 2020-7-6 19:46 , Processed in 0.215874 second(s), 27 queries .

Powered by Discuz! X3.4 Licensed

Copyright © 2001-2020, Tencent Cloud.

快速回复 返回顶部 返回列表