请选择 进入手机版 | 继续访问电脑版

ITIL,DevOps,ITSS,ITSM,IT运维管理-ITIL先锋论坛

 找回密码
 立即注册

扫描二维码登录本站

QQ登录

只需一步,快速开始

查看: 2415|回复: 0

15个标准衡量DevOps是否成功

[复制链接]
发表于 2018-11-14 10:08:28 | 显示全部楼层 |阅读模式
本帖最后由 adminlily 于 2018-11-14 10:14 编辑 4 Y2 @  h# b3 A: o$ E* C- q3 ]

, w- j5 Y. v! u/ \5 r% K9 ~) F

/ s* b: q7 E% G# I1 A

7 v, }& Z' r! p1 K# b; J
DevOps在你的组织中运行的如何?如果你需要帮忙衡量它运行的如何,我们准备了一些DevOps的关键指标来进行追踪。这些指标可以帮助理解你的团队过去做的如何。

3 r  W! P0 b! W+ I! n

0 U7 i- b, M2 L/ z
定义DevOps对你的组织意味着什么
6 k: d& L6 Q- v: L. N
& {- s- G& c8 o! c! ]' S. e

! _) z+ b6 U/ O4 x/ D9 H, m
DevOps这个词,不同的人不同理解。有些人说他是一种文化并且行业中的每个供应商声称,他们的工具有助于DevOps。取决于你如何定义DevOps,这些指标会对你和你的团队多多少少有些帮助。

4 T# I5 f  k& s

0 ^( s, g2 |5 Z" n, F
我把DevOps定义为与部署和监视应用相关的所有内容。从许多方面来说,这都是现场可靠性工程的问题。在Stackify,我们都没有一个操作团队来合作。我们的开发人员直接部署到云上,我们的操作方式更多的是“NoOps”风格。可以看我的博客,了解我对DevOps的更多看法。

- g  R# @. M) V* O5 |8 i

3 }4 V* @: h+ f: J7 {
确定你的DevOps挑战

0 }2 Q, F6 Q3 F4 h% t( y7 g* M1 |
8 R- ~$ g8 w/ {; O( G
在弄清楚DevOps衡量标准是什么之前,需要确定组织所面临的挑战以及你要解决的问题。在Stackify,我们最大的问题不是频繁部署,和降低的bug逃逸率。我们的执行团队正把重点放在2018年的具体指标上。

+ `, ]4 ]) z1 f; ^  ~9 K- l
6 }, N! p* _+ r9 @7 V6 h# E. J
DevOps衡量标准的类型

# t' ~& k7 W0 y+ `% w8 j
2 b4 X3 }, t9 Y$ w3 o; x- b
DevOps是关于持续交付和尽可能快的发布代码。你想要的是行动迅速而不是打破常规。通过跟踪这些DevOps指标,可以评估在事情开始变坏之前,你可以移动多快。

& n' @4 x1 v8 c9 s5 _) f2 K+ T
- U! S  ?1 S3 @( P9 ~# I% N/ X
1.部署频率
' {! E& K1 n2 c  ~3 e2 L( T% h

; T2 Q7 F1 T/ R, ?( e- d8 q4 u; r
2 P  z4 y( s8 i# j  a0 @6 k% [
2.体积变化

8 h  q' `4 v+ A9 O5 H1 {- d: X5 o

* ]" y9 r3 r* r1 |3.部署时间
5 r+ p3 |2 K8 V4 B- J: v: ]! {
) P3 k7 B  |5 w3 h

! F1 P" _, t+ q; u: m* n4.交付时间

  r6 Q, h9 d) a0 x$ ^! s2 \+ K; p) _7 t# K
" I; N. }/ C- N" k8 S& J
5.客户反馈

8 r" g- O/ y0 I. c: h: O# ]  c8 k9 i; l( }7 i% {
7 X6 m" J- {7 B% B0 d0 C7 N! n
6.自动化测试通过百分比
: E2 B7 L" c& t1 `

4 f- y, o' E$ x; n4 T

7 Q- |& ^0 Y9 L  A  T2 h, X. }7.bug逃逸率

( X/ S1 ^; @7 Y) c' J2 O) B( J+ r
: E5 Q2 K) ]. f% C* o2 S% b$ Q6 c
" z0 D+ u/ E$ Z+ e7 e
8.可用性

9 V5 ?) }" N- X7 S8 [5 ]) Z2 x" a8 l6 j# N7 j! i) D/ z# e% F8 K

& C) n' y. u+ ~9.服务水平协议
3 |& s( D# V1 p) b! x
; X, ^% a, @7 h3 U( J% ?

4 ?$ ^/ ~& `$ k. F3 J/ c: M, v! N10.失败部署
4 Q6 g! r# l$ D" y6 a  i

3 |) o* X. p& }* G+ e
, c2 o& S/ y' v% g! ?. [; r6 P
11.错误率

& J" Y2 `& U% |. Y- a' n# Y: U# l
. o/ z) ^- h7 W, F& }: C. ~
( z- x9 u3 l8 f: E! T* F
12.应用的使用和流量

, e2 e7 e- {  J( T, q0 A& k1 {
+ _( e. Q) \) t" q" ]
0 R# d& d: m9 o3 \9 z) [8 I3 |13.应用性能

" k6 h: m) c( A
4 a. |+ y: D& `9 k  \& j

4 y6 b+ H' V. B+ v14.平均检测时间(MTTD)8 k% \! J: Z; Q8 v, p
. M* ?$ w! S+ }* F" U
- i" U# s  }6 a4 b, g$ p  W5 A. f
15.平均恢复时间(MTTR)
* R7 @4 S) U% r2 s. H, s
& g8 @4 _2 l4 b2 W. r
: i; T, w/ B7 M* B3 U8 f
DevOps的目标:速度、质量、性能
8 B, ^- C( |8 u! J) R

! h  E6 L& F2 w: S; \/ B  L
DevOps的主要目标是速度、质量和应用性能。

0 ~; }1 q% W' I' _/ P' C  y- J$ C: w
1 p+ F3 X/ ]) B4 u- c
你希望尽快地发布代码。根据你的产品类型、团队和风险承受能力,可以有多快地实现这一目标。

' s. }9 W; ~5 P* n* J- z

' r5 [4 L; |! ^
即使没有在速度上跟踪任何DevOps指标,至少应该在质量上评估下工作方式。也许在可能的情况下试着发布,而且并不在意有多快,但是质量你总是关心的。你最不想要的就是总是在追着生产的灾难。

, w" V7 E$ t' O( T: E7 F

8 Q$ @* T7 _! i! s6 V+ h( `
方程式的第三个部分是性能。你可以说,这也与你的高速度和高质量的目标不一致。性能也与质量有关,但可能略有不同。
部署大小

( W! }4 f. h' b9 l# k- l* d
9 S' q1 u1 n2 _6 i
跟踪多少stories、特性请求和错误修复正在被部署,这是DevOps一个很好的衡量标准。根据你的项目有多大,它们的数量可能会有很大差异。还可以跟踪部署了多少个story points或这几天开发工作的价值。
* o& g0 l; t3 c8 a

  n7 T/ K& ~; M. ?& n, G
部署频率

) f& b) N  c8 N% |6 ]( Q5 \0 l& c

+ m, y, m; o! G7 H
跟踪部署频率是DevOps一个良好的衡量标准。最终,目标是尽可能多地做更多小型部署。减少部署的大小让测试和发布变得更加容易。

; L4 N" b" u( s9 ~3 |% {

5 G5 R1 l* ~  C: G; }6 I8 t: x
我建议单独计算生产和非生产部署。部署到QA或预生产环境的频率也很重要。需要在QA中尽早部署,以确保测试的时间。在QA中发现bug很重要,可以降低bug的转化率。
8 C4 r. a8 e9 L8 ]
3 s2 C! x1 a$ N: O9 a+ ]
部署时间

/ R% g6 _9 [3 h* q# F3 n
, x. T" M1 B- d0 G4 [/ @9 c% Z
这看起来可能很奇怪,但是跟踪实际部署需要多长时间是很好的指标。我们在Stackify的一个应用中部署了Azure工作者角色,部署大约需要一个小时。这是一个噩梦。跟踪这些事情可以帮助识别潜在的问题。当实际执行比较快时,更容易频繁部署。

; b8 q6 X( u: f: @4 {+ h* F( H
1 b- m9 v- E: G
交付时间

8 b8 B0 V8 ~) x6 j# r- M5 g
: ^7 y. v& G2 E; T6 }
如果目标是快速发布代码,这是一个非常关键的指标。我把交付时间定义为从工作项开始到它被部署之间的时间。这可以帮助你知道,如果你今天开始一项新的工作,它平均需要多长时间,直到它开始生产。这也是有助于BizDevOps的一个好方法。

  T" q. Q, ]: @* C! b2 _
: ?# a* b% P% B- A- T; `
客户反馈

# P$ X  x: M0 ?  b' X
2 H, q; E1 @( _  \
应用问题的最好与最差的指标是客户的支持和反馈。你最不想要的就是让的用户发现bug或者发现你软件有问题。因此,它们也能很好地反映应用的质量和性能问题。

3 p' V! O, ]4 {8 S2 t2 `
- y7 ?1 v* D' a8 V6 X
自动化测试通过百分比

/ j" p1 I* N$ M9 i! v& `, ^  A8 m

: O6 T0 G, C1 c  S
为了提高速度,建议团队广泛使用单元测试和功能测试。由于DevOps严重依赖于自动化,所以跟踪自动化测试工作的好坏是一个DevOps指标。了解代码更改导致测试中断的频率是很好的。
% e6 {" [' Z) Z8 T3 I% ^

0 \/ Z( H, p. b. r
bug逃逸率

! ^. k3 z0 J1 y: O7 C

$ c5 \: F) t8 C) ^
你知道在生产和QA中发现了多少软件bug吗?如果想要快速地发布代码,需要有信心,可以在他们开始生产之前发现软件bug。bug逃逸率是DevOps一个很大的指标,用来跟踪这些bug在生产过程中经常发生的情况。
+ u; W7 C4 H3 l/ [) |3 c

* U" b  W* Y/ K0 r  K7 M: F
可用性

. v) |( i" a* U1 N  F. Z

: U9 v  I* Q, R- l
最不想发生的就是应用停机。根据应用类型以及如何部署它,可能会有一些停机时间作为计划维护的一部分。建议跟踪这一点,以及所有计划外的停机。
& ?" K9 m" A1 d
( `- z/ ]; z& x5 m8 x4 P; k) ?3 S5 g
服务水平协议
5 @, z" G( g0 _8 D+ s6 E4 e
# t, q2 ^3 d$ \0 ^
大多数公司都有一些服务水平协议(SLA)。同样重要的是你要追踪是否遵守SLA。即使没有正式的SLA,也可能需要实现应用需求或预期。
: b: k' g8 S" V4 u' j5 m0 @: [

4 r0 c  _9 r) }( d! N* r
失败部署
4 z+ d3 c# _6 x- u" x* c- A; ~  Q

: U" k" ~+ h; w, z
我们都希望这种情况永远不会发生,但是部署经常会给用户造成中断或重大问题吗?反转失败的部署是我们永远都不想做的事情,但这是应该一直计划的事情。如果遇到了部署失败的问题,请务必跟踪这个指标。这也可以看作是对失败的跟踪平均时间(MTTF)。

! k+ s# H$ o* E' a
: d  {7 _- \8 n
错误率

( S, g& }, r9 D) P  I; Y) a! R8 @
5 a- I+ U4 U6 S+ O" x$ j' k! A& q
在应用中跟踪错误率非常重要。它们不仅是质量问题的指示器,而且是与持续性能和正常运行时间相关的问题。好的异常处理最佳实践对于良好的软件是至关重要的。

) j" k- I6 h8 V
! ?4 x' d# m8 l" z
  • bug——在部署后识别在代码中抛出的新异常。
    ( u9 ]4 \! W/ o* Z

2 d4 m! a; s7 v/ c
  • 生产问题——通过数据库连接捕获问题,查询超时和其他相关问题。
    + D& l: G, l0 K& l; \; n9 H
; [# p) R; \( m6 u) D$ R7 D
对于大多数应用程序来说,错误是无法更改事实。在Stackify,我们在几百个服务器和上千个SQL数据库中处理数百万条消息。这里有一些错误,只是一个繁忙系统的部分噪音。重要的是,你要对你的错误率保持一个脉冲,并寻找峰值。
9 l* A2 O) N3 w7 a: U8 X
5 j7 q7 ]. \; I: `: a
5 r" L+ L+ N. o: ]) G0 R" k
?wx_fmt=png.jpg

2 C2 A0 Y; C4 J7 e9 g& I7 s) G
; H: C2 k3 a7 ]5 a+ j7 `3 Y+ y1 V

* U1 \" L: g  A1 E& S
应用使用和流量
3 z4 h/ H/ @( q3 ]8 t: w! O

. U1 p8 b  e5 u8 A
在部署之后,想查看访问系统的事务或用户数量是否正常。如果突然之间没有流量或者流量有大幅上升,那么有些东西可能是错误的。
. j% N& {/ q, G+ x; `; Q# s

& h, T/ r/ P; z7 G& H# e( _+ f  P( [
最不想看到的就是根本没有流量。如果使用的是微服务可以看到流量激增,而你某个应用突然导致了大量的流量。

* f) Q' _: u; a4 W
. N" Y7 V5 `2 M
应用性能
. n. ]  v1 n2 {
4 _2 j; l) z9 N: {+ S2 w
在进行部署之前,应该使用像Retrace这样的工具来查找性能问题、隐藏的bug和其他问题。在部署期间和部署之后,还应该寻找总体应用程序性能的任何变化。

! ^9 i% b# [9 ~! U0 }# ^4 e$ n. U
  Q4 t% O$ W7 U8 M8 B; M
在部署之后,可以看到特定SQL查询、web服务调用和其他应用依赖项的使用的主要变化。Retrace这样的工具可以提供有价值的可视化效果,比如下面这个,可以帮助轻松地发现问题。
% m% q( ?8 ?. P7 V; O' ~

# G! C0 l7 h. p1 p; I0 J4 y
?wx_fmt=png.jpg

' n% j  \- Y6 p3 }1 {6 U  M
$ e# x% m7 R* K( C, O0 C

2 a4 V" D6 T0 |* O8 F2 B. V
平均监测时间(MTTD)

7 ^7 C9 @/ H1 }( A9 U& U4 E: v
1 [& Q+ `2 C+ C# I
当问题发生时,重要的是你要快速地识别它们。最不希望的是出现重大的部分或广泛的系统中断,而却不知道为什么。拥有强大的应用监控和良好的覆盖将有助于快速发现问题。一旦发现它们,也必须快速修复问题。

/ e/ M* X$ U, r6 _0 V- ~9 n
. V5 c3 W3 z; z% Q0 {9 H
平均恢复时间(MTTR)

8 P  E) R" n& k4 k
* S" a4 m8 u" D! V6 ]: D! _
这个指标可以帮助跟踪从失败中恢复需要多长时间。对企业来说,一个关键的衡量标准就是将失败降到最低,并且能够迅速地从失败中恢复过来。它通常是按小时计算的,可能是指工作时间,而不是时钟时间。
6 Y, F  v$ t! B' c8 ~; x
0 F, G* Y$ u. a$ @$ t* W8 w
拥有良好的应用程序监视工具可以快速识别问题并快速部署修复程序,这对减少MTTR非常重要。
2 y8 e. q, u1 D" a
& n( v  X  L! j/ Q2 k3 a
应用指标

& H: q! B1 F, I0 ]

. `( j* R( Q7 h7 ]" p, \* v% ^
除了上面列出的DevOps指标之外,还可以跟踪许多其他的指标,这些指标都是特定于你的应用程序的。它们中的大多数与DevOps在部署应用方面不一定相关。但是,它们对于监视应用程序在生产中的使用和性能非常关键。

. c* K  W# Y8 W5 I7 t# D: [0 ]' a

+ a* k  X; D5 T2 T! R' I( U9 K
例如,在Stackify中,我们使用自定义指标来跟踪每分钟通过API接收的日志消息数量。这是一个重要的衡量指标,帮助我们理解流经系统的数据量。根据你应用程序的不同,可能有类似的自定义指标,对你的应用程序至关重要。
, L- ~+ V$ {1 ~; X% W  a/ g* i

" v3 b, G: I( M# e, ~
在部署之后,你将希望监视所有关键的应用程序指标,以确保一切仍然正常。

7 T- e% u' h8 `: }0 V

4 `6 m: n3 v$ X/ [# R- m1 q
总结

9 F# v* m/ d8 Y) s( n/ `/ E
* t# c: V5 h# g
如果你想要让DevOps进行到下一个级别,我相信我们的DevOps指标列表将帮助你了解如何跟踪和改进。DevOps的目标是协作,让开发人员更多地参与部署过程和应用程序监控。

) a  b: z: d* a& u$ _' p

* G. f' H- c2 {7 @$ w
原创:Matt Watson
1 Y) K4 f1 b# e

% L2 v2 j7 G; j. M1 o9 i. b& L2 X




上一篇:可供安全借鉴的DevOps中五项经验
下一篇:DevOps最后一层:有效构建海量运营的持续反馈能力
您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

参加 ITIL 4 基础和专家认证、长河ITIL实战沙盘、DevOps基础级认证、ITSS服务经理认证报名
ITIL(R) is a registered trademark of AXELOS Limited, used under permission of AXELOS Limited. The Swirl logo is a trademark of AXELOS Limited, used under permission of AXELOS Limited. All rights reserved.

QQ|ITIL ( 粤ICP备11099876号 )|appname

GMT+8, 2022-12-3 00:53 , Processed in 0.131468 second(s), 30 queries .

Powered by Discuz! X3.4 Licensed

Copyright © 2001-2020, Tencent Cloud.

快速回复 返回顶部 返回列表