请选择 进入手机版 | 继续访问电脑版

ITIL,DevOps,ITSS,ITSM,IT运维管理-ITIL先锋论坛

 找回密码
 立即注册

扫描二维码登录本站

QQ登录

只需一步,快速开始

查看: 216|回复: 0

你也被 DevOps 的流水线坑过吗?

[复制链接]
发表于 2021-12-24 23:02:44 | 显示全部楼层 |阅读模式
本帖最后由 FYIRH 于 2021-12-24 23:06 编辑
6 U8 d. E! ~7 K4 e
- t( M7 Z* B7 I背景
在一次 DevOps 线上活动的提问环节中,有这样一个问题:“我们公司刚刚完成了 DevOps 转型,搭建了一条流水线,流水线确实让我们部署上线的效率提升了,但是也更快的让客户当上小白鼠,因为我们让问题更快的暴露出来了……”

) {2 U( _1 B4 Z5 H; k$ y
可以想象,一个开发人员开心的点了一下流水线的启动按钮,然后就开心的下班了,然后用户看着屏幕的404,然后就没有了然后(坏笑)……
) l1 C  Z' u% T7 G7 c# Y
其实这真不是开玩笑,如果将项目中的流水线发布权限下放给了开发,那么404真的就是很现实和普遍的问题,因为很多开发认为自己的工作就是开发。0 c* a( |4 T9 r# }  f  P/ N

! j0 i) Z& Y/ T" H. k
' f! k1 u: Q' \) v
像这样的坑你是否也掉进去过,我们一起基于此,来看看什么样的流水线是不坑人的吧。
, {% P7 o$ o4 }2 R5 d. ]( \, Y3 \0 x
) n3 x! `( F4 ]: [
1 Q0 }: V: S4 l  V4 y/ r
问题分析
! h2 {/ e' e8 c
这些年来,DevOps 已经逐渐的深入到软件企业中,尤其是一些互联网的项目中,需要更快的适应市场的变化迎合用户的需求,传统低效的方式来部署生产环境已无法存活, DevOps 的流水线(部署流水线)也应运而生。然而在企业追求高效的同时,往往又引入了新的问题——高效的将 bug 展现给了用户。

) ]/ B0 c- |7 l2 {5 I7 B6 [
项目开发的前期,代码都是比较简单的,开发团队的人员也比较少。但慢慢随着时间的推移,代码越来越复杂,团队成员越来越越多,经手变更的也越来越频繁。一旦出现了问题,作为一个开发人员往往首先会想到的是——快速修复上线。DevOps在速度这点上确实帮了大忙,经历过传统部署发布的同学肯定深有体会。但是这样往往却又伴随了新的问题——“打地鼠现象”。
9 H) ?. v6 J5 U
何为打地鼠现象? 简单的说,就是一个问题你修复了,可能又会蹦出来几个新的问题。长期下去,不仅开发团队压力大,客户更是成了“小白鼠”。7 _6 V8 e5 j7 v0 V* G' C

2 N: R( G* N6 G% {; j- C

2 u3 z; d6 i, L其实,这并不能把问题归结到部署流水线身上(无辜躺枪),借助流水线的快速发布,只是将问题更早的暴露出来,其归根结底上,问题还是出在质量上。
( z# \# f% L" ?$ d. n3 s
) y, a& h5 {( r% i3 d

6 r3 N8 L% ^7 [1 Y那么,我们就不得不谈到——质量内建。& ^/ ^# V9 [3 H6 T) c

3 j$ |/ @9 r5 ]" v( ~

5 Y( \( Q" j# B, F戴明(William Edwards Deming)曾提出“问题发现得越早,修复的成本越低”,有数据指出85%的缺陷都是在代码编码阶段引入的,然而大部分的缺陷并不是在编码的时候发现的,而是在之后的测试阶段发现的,甚至是已经上线后。而且随着越往后发现缺陷,修复的成本也越高。
, T( a( e& G$ h7 J
" t2 F& t* g' B' h& W5 M! [8 E
& i% i+ O( x1 M0 F0 @
粘贴上传202112242301404247..png

' L# g$ i/ R$ ?
6 H1 q( S* t/ Z5 f
按照STICKYMINDS网站上上的一篇名为The Shift-Left Approach to Software Testing的文章中所给出的(如上图),假如在编码阶段发现的缺陷只需要1分钟就能解决,那么单元测试阶段需要4分钟,功能测试阶段需要10分钟,系统测试阶段需要40分钟,而到了上线之后再发现可能就需要640分钟来修复,这可以说是很难让人接受的,所以质量内建是至关重要的。在质量问题上,当然离不了我们老生常谈的开发阶段的编码规范、重构、检视等活动,这里不做叙述。

' X" L9 h& `) u8 N; T" m
随着 DevOps 的引入,我们需要将质量内建,加入到DevOps的各个环节中,而部署流水线就是贯穿这些环节的重要工具。某种程度上说,部署流水线的质量基本上决定了软件质量——是带伤上阵还是安稳的睡大觉,部署流水线是关键。

, T% a* w+ w! A  }) \
那么如何算是一条不坑的部署流水线呢?
# m. y* E7 @' y2 e" h
解决方案

1 C+ S8 P, y4 t
1 R# k7 P! j6 J测试左移(Shift-Left testing)4 Y+ |; G- K) F/ p$ t" K, v9 F! M

1 m* \0 U9 Y' E' H
$ t- W0 E: a1 _+ U" X
如上面所提到了,在开发完成后,越到生命周期的后面修复的成本越高。那么基于这样的情况,测试应该尽早的开始。在传统的开发周期中,问题都在什么时候发现的呢?如下图所示:6 [$ p+ L0 m, ^8 c7 I# b2 t& }
$ X4 O6 p3 s% G# ^' y- u0 ]; O
3 d$ G# F# |% f. X8 {
粘贴上传202112242302123618..png

. m" j- Y  c! j  i7 {8 B
- H: f) E3 d$ t1 p
可以看到传统模式下,问题很少会在开发阶段发现,而现在提出的测试左移,就是在要在开发阶段尽可能的发现更多的问题,而避免问题被发现在之后的阶段。

) o- s- I. O6 k0 ~) r
这也就是我们搭建一条不坑的流水线最基本的理念之一。

& q' A0 P' H' v: `# [3 v. `* X
一般来说,在流水线的构建阶段我们会加入静态代码检查,比如使用Findbugs、Sonar等。可按需自行设置是否随代码提交而触发检查(推荐),或伴随持续集成的工程实践开展,可一天一次或多次,这就保障了不会掉进最基本静态代码层面的坑。

2 T8 O4 O7 ^; G+ v+ j4 Z
此外在流水线的设计上一定要有API、UI等自动化测试。一般来说,可按部署到不同的环境,对应创建不同的流水线阶段,如集成环境有对应的流水线的集成阶段,测试环境有其测试阶段。当部署时,就可以在对应的阶段中加入所需要的测试活动。如当开发人员修复某一个bug后,想要保证其他功能的成长,可以通过在流水线的自测阶段通过加入API的测试等。
0 ^7 Q, y: }0 E
总结来说,就是在流水线的构建阶段加入静态代码的检查,在部署阶段加入自动化的测试活动,以保证代码的质量和功能的可用。

# ^0 c6 h. r/ O4 i9 [& U6 C, Q
/ O7 g; b# @$ {9 r+ |1 y质量要求, s) W$ k$ k* d6 g
7 u3 l6 S, n, Y% |9 G$ |1 t8 [: s
, l2 ^! r3 c9 M9 d* Z' o3 C3 z3 Y
在质量建设中,不能仅停留在质量管控的基本要求——有,还要注重质量的高低。因为某种意义上来说,较松的管控等于没有,这也是最坑的地方——有等于没有,试想如果流水线中只有某个API测试的情况,那么验证的基本就是这个服务有没有成功启动而已。' J; x. a# N0 c: G  k- h

4 z2 J. z# U- k/ x/ D8 w0 |) a

2 M: P2 h) H1 c那么,这就需要加入一个质量阀值的要求。质量阀值的高低是一个衡量质量高低的重要标准。这个阀值可以是接口覆盖率达到多少,也可以是静态代码检查出来问题的数量等。一个严格的质量门禁可以说流水线完成后发布上线的定心丸,这也就可以用来解决了上文提到的“打地鼠”现象。
" K: o* D# Q9 z
7 X3 C6 w. T7 k2 y& U" g' Z+ Z

3 g' z& X0 H: V. O6 c* C一般来说,接口测试的覆盖率建议达到百分之百,而考虑单元测试和接口测试某些程度上的重复以及UI测试的ROI等因素可按需进行配置,因情况不同这里不做叙述。0 ?) n1 R9 P4 Y) G

; K- E0 v: A* `- T  v2 F6 y
5 z: g; k: {7 s% O$ z- }
对于代码检查来说,也可设置某一个数值作为阀值,这个数值可以按照某种规则设定。如一般问题记1分,严重问题记5分,安全问题记8分等,当检查后所累积的数值超过10则不能发布或进入下个一个阶段,当然数值越低越好,具体设置(代码检查的维度不再此叙述)也需按实际情况而定。
1 F7 A# l& r! R) ?
; a( _8 b1 D7 Q+ Q! r4 J" a
3 _0 {8 w  ~& t# q
此外,还可以考虑如开源第三方jar包的扫描、安全漏洞扫描等活动。如果考虑划分的更有层级和模块化,相对于接口测试或静态代码检查的质量建设,扫描的可以单独作为一个阶段按需设置。
. q( `* m0 I$ x  }6 e4 w% J! p/ U# L" `) [! D9 _2 G0 h
总结来说,质量建设按照项目的实际情况来设置,而且对于团队来说,质量永远不仅仅是某一个人或团队的事情,而是所有人的事情。相对于质量的坑来说,意识上更是我们应该避免掉进的坑。

+ _3 G8 d$ M* _; d% }, j; U) B* S这里提到了意识,意识是关乎人的主观性层面的了,那么应用在流水线上,其实也是需要考虑的。诚然有些时候我们依赖于机器和自动化,如上面说提到的接口测试、安全扫描等。但是也不能完全依赖于自动化,比如我们也需要人工的代码检视活动。这在搭建流水线的时候也可以考虑到把人工环节加入到其中,比如在发布到生产环境的阶段增加一个发布看板,其中包含了是否有人工代码的检视以及检视出来的代码的质量的阀值或要求等。
5 c$ x5 I6 Y* v+ ~9 a
* p( `6 l7 B; R- ^8 k: C
6 l9 P4 |3 k' Y2 `9 T
综上,一条流水线除了必须的、按需的自动化+人工以外,还需要在实践的过程中不断的总结结合自身特点加以定制,然后才能放心大胆的点击“启动”而不被坑。(转自Tony老师不剪头)) `- x2 m2 ?6 V

+ R- U1 M3 w7 ]. y

; o7 U# G" l& a# U* u
0 Z+ N3 J5 z  \; r8 _

2 ~0 s3 n5 G! I
粘贴上传202112242301016593..png




上一篇:DevOps生命周期,你想知道的全都在这里了!
下一篇:使用开源工具构建 DevOps 管道的初学者指南
您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

参加 ITIL 4 基础和专家认证、长河ITIL实战沙盘、DevOps基础级认证、ITSS服务经理认证报名
ITIL(R) is a registered trademark of AXELOS Limited, used under permission of AXELOS Limited. The Swirl logo is a trademark of AXELOS Limited, used under permission of AXELOS Limited. All rights reserved.

QQ|ITIL ( 粤ICP备11099876号 )|appname

GMT+8, 2022-12-7 18:04 , Processed in 0.099879 second(s), 32 queries .

Powered by Discuz! X3.4 Licensed

Copyright © 2001-2020, Tencent Cloud.

快速回复 返回顶部 返回列表