本帖最后由 蓉ZXM 于 2021-3-31 12:36 编辑
H. K) `9 ?6 m2 T% |5 v$ b
9 @, _4 E. G, i; U: ]% o1 s2 T" J+ T" M# R% C
在技术工作中,对于产品/基础技术研发和 SRE 两种角色,通常会有于「是否侧重编码」的理解。对于产品研发转做 SRE ,经常会产生是否要「脱离编码工作」的看法,或者认为是否要「偏离对产品/基础技术的推进」。3 ~" F0 a& Q' `. ?
基于过往的技术研发和稳定性保障的经验,分享个人对 SRE 的理解,探讨「面向产品/基础技术的研发」和「稳定性保障」两种角色之间的协作关系,更好地为业务服务。 # e2 y, d: O& E# y. A. Q& e8 ~
' c( J" F, v+ e, N. P, H
* I- f$ f+ T$ i+ S5 g" Y& o1 R- ] g 1 g! o: |; O+ k2 r! ]9 v4 t+ o
6 T4 Q. c9 Q. b0 w0 e0 |' H8 s U
6 i9 y% E" g0 |0 c2 [
最早讨论 SRE 来源于 Google 这本书《Site Reliability Engineering: How Google Runs Production Systems》。由 Google SRE 关键成员分享他们是如何对软件进行生命周期的整体性关注,以及为什么这样做能够帮助 Google 成功地构建、部署、监控和运维世界上现存最大的软件系统。, B3 C% O* |# Y: }% j
1 c# k! w: @1 s
从 wikipedia: Site reliability engineering(https://en.wikipedia.org/wiki/Site_reliability_engineering) 中可了解到 SRE 的定义: Site reliability engineering (SRE) is a discipline that incorporates aspects of software engineering and applies them to infrastructure and operations problems. The main goals are to create scalable and highly reliable software systems.
其中有句形象描述 SRE 工作的描述: SRE is "what happens when a software engineer is tasked with what used to be called operations."
即 SRE 的目标是构建可扩展和高可用的软件系统,通过软件工程的方法解决基础设施和操作相关的问题。 在 Google SRE 书中,对 SRE 日常工作状态有个准确的描述:至多 50% 的时间精力处理操作相关事宜,50% 以上的精力通过软件工程保障基础设施的稳定性和可扩展性。
& _9 E3 e0 f. r) _: [
基于上述描述,我对 SRE 的理解是: % p$ u5 I/ X3 Q' p: I
( U# I0 s; E& w/ ]$ Z
! m* l: Z# a G v" {. V
/ r' C. D: C) g7 y
Google SRE 一书中,对软件工程从生命周期角度有一个很形象的描述:
: \% g9 [$ z% \0 H" L
: t3 V7 ^. J* \ i, ?
软件工程有的时候和养孩子类似:虽然生育的过程是痛苦和困难的,但是养育孩子成人的过程才是真正需要花费绝大部分精力的地方。 一个软件系统的 40%~90% 的花销其实是花在开发建设完成之后不断维护过程中的。
3 u- q. @3 T# f9 V k' ^
项目生命周期中,设计和构建软件系统的时间精力占比,通常是少于系统上线之后的维护管理。为了更好地维护系统可靠运行,需要考虑两种类型的角色: - C5 \$ }4 W8 Y, N+ R
( K0 t! O' q4 }& W4 s6 G% }+ n* m. Q
第一类角色对应产品/基础技术研发,第二类角色对应 SRE,二者的共同目标均是为了达成项目目标,协同服务好业务。 ( h' ^" J: J4 Y5 q' l
4 l6 S, P' ?- i( u! X% C. D/ n& a& Z
7 I& ]4 ?3 r) |9 ]) A3 J* a }% B/ T' u# K% C3 x/ G
, p7 s" {) r) n8 F- F6 R3 N
针对稳定性的影响,直接参与处理客户问题的同学会更有体感:$ B( W: w6 m/ w# o9 P" e; m) d
, E0 ?" |$ B# h( ^. i
通过问题发生时客户直接反馈的影响程度、紧急程度,感受到稳定性给客户带来的焦虑 通过问题处理结束后客户的反馈,感受到客户对稳定性保障的感谢或愤怒; 通过事后在营收状况、客户规模变化,感受到稳定性对业务营收的影响; 通过产品规划的的延期,感受到稳定性对产品迭代的影响。 ; p' D7 [- C' Z: Z7 U: X
2 ?0 Z6 }6 w* L: L
稳定性保障的价值由此凸显: ' e5 O* N3 \. X9 j- K% E) Y; v# P
# ^1 w! ~# g5 M8 \5 B& e' r
/ X5 N% r1 U" G, u& {9 B
9 S. k9 X8 R$ B8 @0 V8 V7 z+ t
. ?/ E* M9 X/ l, |# z: ]; y
稳定性问题通常会有这些特征:3 E! B& z8 z6 D* J
人为导致,依赖专家经验; 一系列因素综合导致; 不可避免; 100% 保障没有必要。
$ o* S* u5 p/ k7 Q6 q* F6 k
线上稳定性问题,人为操作不当导致的比例很高,集中在 发布 和 线上运维 两个环节,均是高频操作。对于复杂系统,这两个环节对专家经验有较强的依赖。 发生的稳定性问题通常具有系统性的特征,即非单个功能组件缺陷导致,而是由一系列因素综合作用导致,如缺少监控告警导致不能及时感知,缺少日志不能有助于快速定位问题,缺少良好的问题排查流程导致依赖个人能力,缺少良好的协调沟通极致导致问题处理时长增加、客户影响程度加剧等。 问题是不可避免的,流量的突增、服务器/网络/存储的损坏、未覆盖的输入等,均会诱发问题的出现。 业务对外有 SLA,向客户承诺一定程度的稳定性,未达到时按照协议进行赔付,同时问题又不可不免,在满足内部 SLO 标准的前提下继续提升稳定性,会带来更高的实现成本,对业务的收益增量也会更小。 SRE 需要对问题特征有深入理解,系统性设计和实施解决方案,并抓住一段时间内的主要问题进行解决。 一种可参考的整体解决方案如下:
h% o: {/ r6 g; e
: S2 u" h( P- D
6 t- C* m4 F3 u1 b' w
8 w( L9 a& A* a% S# m* G6 |- L6 \落地过程中,可先从如下三个抓手系统解决: 可控性 可观测 稳定性保障最佳实践 % `6 o4 K$ d5 o0 B. L! T
9 |2 ^* J5 h ^2 w2 H& i
可控性方面,包括如下三个主要维度: / V/ R; p9 ?# |2 Z6 e J
1)发布管理 重点解决发布导致的人为稳定性问题 包括发布前重要变更评审和发布中变更动作管理等 1 f0 H1 v/ v( [) _3 j
3 C: Z- E0 [4 [& Z) z# [
2)操作管理
3 k% S; m4 P% `1 g
3)设计评审 重点解决软件系统设计阶段应用稳定性保障最佳实践 包括集群方案评审和重要功能设计评审等 ' h% W2 X" I+ Y! I
, R4 j6 A- v, `2 | q) e
可观测方面,包括如下几个重要维度:
' `( E# \ @) e0 B: ]1 _0 u8 m# }0 p& H
1)监控 重点解决软件系统运行态的感知能力 包括监控收集/可视化系统的搭建和维护等
8 G P! V% ]6 B3 g
2)日志 重点解决软件系统的问题可排查能力 包括日志收集/存储/查询/分析系统的搭建和维护等 # @, ]& R% s1 b( S; g h
2 v; @& \# _) A. d9 L( d$ j
3)巡检 重点解决软件系统功能是否正常的主动探测能力 包括巡检服务的搭建、通用巡检逻辑的开发维护等
- S( O8 M/ X) e3 v( O8 B
% B8 t1 v g" A9 N7 j" B/ c
4)告警 稳定性保障最佳实践,是从历史问题和业界实践方面抽象出意识、流程、规范、工具,在系统设计之初就融入其中,并在系统整个生命周期中加以使用,如通过模板固化最佳实践: 项目质量验收标准 项目安全生产标准 项目发布前 checklist 项目 TechReview 模板 项目 Kick-off 模板 项目管理规范 3 ^( V2 e6 T1 t
6 c' [$ {5 H$ Z4 z, r5 s
/ d" Z! L+ Y9 P; |: @, H# @1 `
R* b& p6 [) [7 J6 t
为了便于理解,可以再针对 check 项形成分级,便于交流和进行项目稳定性评估:/ C" B8 U. j7 {/ H$ N" U1 p x
# \* ?2 [( C% h. H
8 k) }9 P1 t) s3 g# T
| | | | | · 可观测、可灰度、可回滚 满足 50% 以上要求 | | · 可观测、可灰度、可回滚 满足 90% 以上要求 | | · 可观测、可灰度、可回滚 满足 90% 以上要求 · 可保护满足 50% 以上要求 | | · 可观测、可灰度、可回滚 满足 90% 以上要求 · 可保护满足 90% 以上要求 · 可控成本满足 50% 以上要求 | | · 可观测、可灰度、可回滚 满足 90% 以上要求 · 可保护满足 90% 以上要求 · 可控成本满足 90% 以上要求 |
6 o/ Y4 c5 h# a3 r/ C7 k
1 r' B3 `% a0 Y, z5 D
当最佳实践可以通过文档进行规范化,接下来就可以提供工具或服务将其低成本应用,使得稳定性保障最佳实践成为基础设施。7 W2 k4 p$ z4 ]" Z) i& {+ Q, B) u4 M
SRE 需要在稳定性相关的方法论和实践方面不断迭代,自上而下设计,自下而上反馈,合理、可靠保障稳定性。 4 G- Z5 m+ z1 |' [4 s9 I- s
$ m2 a; C7 G& y0 Q u
" }3 Z3 v9 ?& @9 H! I6 Q: l
7 ]6 h) E8 E% K9 |/ y4 A! z6 l) [1 z6 r
5 {; C+ w9 S" t. K" z
( B- V7 x, X0 Q: d4 J
再回顾下软件系统生命周期中的两类角色:9 @. [# }7 Y8 D7 H2 G# h, g
" d% ~8 _/ S0 ^# A
% @/ H) u" e0 h4 z" r' p' R% c/ r
这两类角色是相互协作、相互服务的关系,拥有共同的目标:满足业务需求,更好服务业务。
+ Z, e/ Z+ y6 c/ K1 o/ @) E
SRE 通常会横向支撑多个项目,对线上问题的类型、解决实践有更为全面的理解和思考,基于此会形成最佳实践的理论、工具或服务,为研发提供理论、工具的支持,也可以在此基础上产品化稳定性保障解决方案,为更多的客户服务,创造更大的价值。 产品/基础技术研发对业务需求、功能/技术细节有更深入的理解,一方面直接带来业务价值,一方面可通过实践为稳定性保障带来切合实际的需求,进一步和 SRE 共同保障稳定性。 两种类型的角色,需要朝着共同的目标并肩协作,与业务共同发展,实现共赢。
! R( x d) @# E( j
小结 / v+ F" y. G) [- T9 m9 ~
2 f% a% l5 x9 F" z
SRE 由于工作的性质,在横向方面会服务大量的业务,以实践积累对稳定性保障问题域的深入理解和稳定性保障重要性的深刻认知,在纵向方面会通过技术手段将稳定性保障最佳实践进行沉淀和应用;同时眼光又是与研发、业务一齐向前看,综合技术和管理创造价值。3 K- i& w# d) J* y
以上是从个人角度对 SRE 及稳定性保障的理解,重点在于 解决问题 和 创造更大的价值。(IDCF) 3 k8 O; B4 O; c! j% s8 \0 s9 L
|