请选择 进入手机版 | 继续访问电脑版

IT运维管理,ITIL,ITSS,ITSM,ISO20000-ITIL先锋论坛

 找回密码
 微信、QQ、手机号一键注册

扫描二维码登录本站

QQ登录

只需一步,快速开始

搜索
查看: 366|回复: 0

对于 Docker Image 在DevOps 流程中的分层管理与实践

[复制链接]
来自- 日本

参加活动:0

组织活动:0

发表于 2018-11-11 15:22:16 | 显示全部楼层 |阅读模式 来自- 日本
本帖最后由 adminlily 于 2018-11-11 15:24 编辑
9 a5 Z6 Y( @" h. S
  @3 |( J* {/ A. Y
概念介绍
* M+ t1 G  Y- r* H6 q
, D" Q% M0 ~/ C, Z6 s  n
Docker
9 `3 D0 v# y3 u0 V
Docker 是一个开源的应用容器引擎,让开发者可以打包他们的应用以及依赖包到一个可移植的容器中,然后发布到任何流行的 Linux    机器上,也可以实现虚拟化。容器是完全使用沙箱机制,相互之间不会有任何接口(类似 iPhone 的    app);几乎没有性能开销,可以很容易地在机器和数据中心中运行。最重要的是,它们不依赖于任何语言、框架包括系统。

& c1 e9 E  G$ t( ~5 _

+ G# g9 h) d7 P2 \! o
DevOps- C; V0 s0 O/ n2 \- m, ^# W2 j5 P& v
8 m8 n* W( i% [+ E1 J7 r( W1 |
DevOps(英文 Development 和 Operations    的组合)是一组过程、方法与系统的统称,用于促进开发(应用程序/软件工程)、技术运营和质量保障(QA)部门之间的沟通、协作与整合。它的出现是由于软件行业日益清晰地认识到:为了按时交付软件产品和服务,开发和运营工作必须紧密合作。越来越多的企业和项目将整体的代码管理、构建、集成、发布流程通过    DevOps 自动整合在了一起。同时还融入自动化测试等其他技术,使得整个整个软件产品的生命周期实现了可持续的运转。
% I/ j/ U  A; j1 d
' F( A2 l; U/ V* t$ c5 G
Docker Image 分层存储& [9 E: Z9 t3 E& o& m( W0 m

5 v: h! v# p* r$ z% z1 o7 d) D
为了最大化重用 Image,加快运行速度,减少内存和磁盘的占用,Docker container 运行时所构造的运行环境,实际上是由具有依赖关系的多个 Layer组成的。如图 1 所示,每一串数字 ID 就代表了一个 Docker Image Layer。当我们在 pull 一个 Docker Image 的时候我们会发现所有依赖的 Layer 文件将会被 download。

: U$ `3 n4 ~! D. M0 j" y
" i3 g/ z" \; P5 X
图 1. Docker Image 分层示意图

% V# M! R! @7 s: a0 n
1.png

2 L- d5 N8 T- u

+ ?! V# }% x- \) C
例如一个 Docker App Image 的运行环境是在基础的 Docker  Base Image 的基础上,叠加了包含例如 JDK 等各种工具的 Image,再叠加包含Liberty 及其相关依赖 Liberty 的 Image,以及包含了 J2EE 应用的 EAR 包的 layer。这些 Image 由 AUFS 文件系统加载合并到统一路径中,以只读的方式存在,最后再叠加加载一层可写的空白的 Layer 用作记录对当前运行环境所作的修改。因此,当 Docker Image 每次由一个基础 Image 创建后,新 Image 就自动增加了一层。如图 2 所示

1 A( |, u: o- ^# T& P

1 C: W2 Y! _1 c! Y
图 2.    Docker Image Layer 的叠加
$ W. m8 N$ l8 g. R$ }
1.png

- M/ h7 C: p6 Z6 u+ h" C$ X
Docker Image在DevOps流程中的应用

/ L# A7 _7 }  H2 t7 i/ N& {
2 G5 k: T# q3 |, J7 A% M5 j
尽管 Puppet、Chef、Salt 以及其它先行者已经在 DevOps 的探索中作出了相当的贡献,但这些工具的主要活动舞台仍然集中在运营团队而非开发者群体当中。
# A; s0 R* T2 \% J" m
5 U2 u9 G. J0 b4 N8 Q
由于 Docker 的可移植性和容器的封装性。开发人员可以在容器机制内部工作,而运营工程师则能够在容器外部以并行处理自己的任务,使其成为了一款能够在开发人员群体中获得与运营工程师同等认可效果的 DevOps 工具。

( O" t0 @  h1 X4 [& c
" C! I0 z- |6 s" G
Docker 技术在 DevOps 过程中使用方式并没有特别的规定,但大致可分为两类
$ y6 F# O' q# H( }; p
  • 将产品封装到 Docker 容器中做成 immutable 的 Image 使用
    # ]& B% k, B7 ?# {# o/ O* e

) O  }7 z0 @. L0 N. n' U2 d
/ v+ [' ~5 a2 x. R/ O  K8 o6 d* e
  • 将 docker 容器作为固定并统一的运行环境。与构建出来的产品进行绑定使用。

    , J8 E4 e/ m3 L2 o8 X- E1 B
1 q4 C3 w  e! M2 _
两种使用方式上并没有本质的差别,完全根据实际情况进行选择。本文下面的章节将主要以将产品封装到 Docker 容器中做成 immutable image 的方式为背景进行介绍。基于 Docker 的 DevOps 流程如图 3 所示:
% D* G" P+ D" x; f

5 i. N; u' y: r1 X" H1 g2 ?2 r
图 3. 基于 Docker 的 DevOps 流程图
* J: R0 z& m  H" e/ P' x
1.png

+ ]0 e; g  r$ s
" o! c& y6 @2 s; Z& ~
随着项目基于 Docker 的使用逐渐增加,Docker Image 的数量也将逐渐增加。随之而来的问题就是如何维护这些 Docker Image 的升级。如果缺乏规划和设计,每个 Docker Image 均来自一个最基础的 OS Image,那么就需要对于所有的 Docker Image 进行重构。如图 4 所示:

2 c) H- D7 R2 u# l9 c% T! B7 k
+ S. X3 F' J% f0 j
图 4. Docker Image 衍生单一 Base Image

# S$ q) {  n& a4 u
1.png
2 d: q2 H8 {6 Z) T$ C
当环境进行更新升级的时候,如果所有的节点均来自一个基础的 OS Image,重复的 layer 层将会被重复更新。也就意味着,这部分重复的内容会被反复的下载。如果一个 Docker Image 达到了 1G 以上的规模,而每个 Docker Host 节点的更新都需要重新下载新的 Image. 这样环境更新所花费的时间将会是成倍的增加。如图 5 所示,Docker Image 2 和 Docker Image3 均是基于 Docker Image 1

+ r/ R6 r1 m) H4 I; n
% e0 L/ z9 _- ~5 `5 x3 [
图 5.  基于同样 Base Image 的 Docker Image Layer 的叠加
* d' y; }" T$ @# [, [8 D% Z
1.png
/ x9 E1 b$ L8 _( e: R
图 6.  Docker Image Layer 在 Docker Host 上的存储关系

4 o) ~, u* I* ~* r6 y
1.png

1 {  E8 e( K3 k2 g- N( u
- i$ x2 P" }* K2 Z' U
从图 6 可以看出在同一个 Docker host 上 download 来自同样 Base Image 的 Docker Image, Docker 在下载 Image    layer 的时候,对于已经存在的 layer 是不会重复下载的。但是如果 layer 不同,即使内部包含的内容一样,也还是会重复下载的。
. f8 T5 W( [/ A" @3 U

& N9 @7 Q5 m6 P0 r% A, y2 b6 S: W, P
利用分层机制优化 Docker Image
' [! e/ z9 n# O1 }$ n
% x" ^- z% R: @. B6 [* Q+ u
通过上一节的介绍,可以看缺乏良好设计的 Docker Image 会给日后的维护以及 DevOps 的效率带来较大的问题。本文接下来就将重点介绍如何利用分层机制对项目的 Docker Image 进行合理的规划。从而大幅提升 Docker 在 DevOps 过程中的可持续性。并提升 DevOps 的效率。
$ [" X/ D$ ^7 ?, {. I

* Q3 ~# C" s5 |% w  A9 D
设计基于分层机制的 Docker Image
0 E. f0 {5 p' A  g4 q3 r- N

9 `" ?1 f' q# `. p; X
以基于云平台的分布式应用为例. 在分布式系统中我们假设有两个应用 App1 和 App2。 这两个节点所的环境信息如下:

! A7 d& |' F% G

# m8 M3 g5 {* O
表 1. 分布式应用环境配置需求对照表
( G6 ^% H* N9 b: P/ _
1.png
& M8 \- Z  m9 e1 j. W
通过表 1 环境信息的对比,我们发现在这两个不同引用的节点上,不同的部分只是 logstash 的 config 文件和最后的 Ear 包。
" @7 [5 O* C2 I( m( b$ R/ e4 V
; W( S& F1 ?0 [+ x
对于其他相同的部分,我们可以考虑通过 Docker Image Layer 的概念将其复用。从而最大限度发挥 Docker 的能力。
' h$ c( k& u9 S+ |) I9 N

& c* K  D' a0 m) J# w2 e
将上表中的两部分环境信息以分类为节点名,重新以树状结构组织如图 7 所示。

; g2 O; z$ `& y2 i5 e0 {) j7 Y
" ~+ X, d, }( o
图 7. 分布式应用环境配置树状图 1

+ n( _7 i* w6 n: I( I& B9 _
1.png
: W, c) m4 v; B3 U  |; a1 t' j. J
然后以 Docker Image Layer 最多不超过 4 层的标准,将一些不会经常发生变化或者可以用于其他 Docker Image 的层合并。如图 8 所示:
0 P  M0 ]' I- K5 z) A
; t- T9 e$ s+ `, a! ?: z. z
图 8. 分布式应用环境配置树状图 2

9 f. J, S# E. x3 C4 D7 D8 b
1.png
* U8 m: m5 |. M* X
8 f  e5 N$ M5 c1 j( M  G
最后将图中的两个树状结构图进行叠加将重复的节点进行合并,最后得出如下树状结构图:
# E+ W! ]4 D7 T" v4 W
4 j' i" w# v- l4 J5 s# o' K8 K+ w+ f; h
图 9. 分布式应用环境配置树状图 3
# f0 r/ u( j" J$ c* n
1.png

4 }: j! L% y5 L* a; b# W
) r  m7 W% X! @) `- h# J3 E
到目前为止我们已经基于 Docker Image 的分层存储机制完成了一个基于云平台分布式系统的 Docker Image 的规划。接下来就可以根据上图结构分别制作    Image。最终我们将会有三个 Base Image。如图 10 所示,其中 Base OS Image,将作为项目中所有 Docker Image 的 base,JDK Image 可以在其基础上继续衍生出其他的 Image。 例如以该 Image 为基础创建 Tomcat Image 等。Liberty Image 可以在其基础上创建更多类型的应用 Image。

$ a3 E+ h  \3 d9 c/ G

  t+ a5 H# j- z
图 10. 基于分层存储的 Docker Image 树的多版本衍生
1 g. c# [' b1 x7 s" J$ J0 G
1.png
& j8 Z$ M9 i; P3 m1 w: `
2 f1 u4 E" Y* Z3 {4 G
如果其中的 Liberty Image 发生变化的时候,例如需要升级 Liberty 版本的时候,只需要重新更新该节点和该节点之后的其他 Image 节点,而不会影响到 Liberty Image 节点的兄弟节点或者父亲节点以及由这些节点衍生出来的其他的 Docker Image。当更新 App Image 的时候,由于其均来自同样的父亲节点 Liberty Image。 所以每次更新的时候只会做 EAR 包的增量更新。
5 ^# C  ~* U/ B+ G3 M

! |% g1 D2 G( a  {& Z; e. H
基于分层机制的 Docker Image 的实践
( G3 X3 u6 e0 h% Q9 q
  A9 D# z+ z, g1 N$ I
如图 11 所示, 按照之前介绍的安装 JDK、Logstash、Liberty 的 Docker Image 大小在 1.8 G 左右。以此为基础创建的的 App Image 的大小在 1.9G 左右。
, {, H8 _, \% Q! a+ [$ a- w
! |9 h: p5 w5 {/ w
图 11. Docker Image 分层存储实验 1

& Z5 ]4 `1 y6 P5 U2 Q
1.png
( m/ z6 s# F3 t0 W2 h+ I" y
  z- N7 A6 m: d# _9 [* Z) z
在一个已经 download 了 Liberty Docker Image 的环境下下载 App Image。如图 12 所示,可以看到已经存在的 layer 已经是 complete 状态。 唯一 download 的部分只有新增加的 EAR 所产生的新的 layer。所需时间仅仅为 1 分 33 秒。

# p) A; [% Q- Z6 `  r+ X
, D) V# C3 w3 J/ W  |5 j# G
图 12. Docker Image 分层存储实验 2
/ E- {. F8 S; w0 Q' ~( H
1.png
' f/ ^/ y' U2 y1 `% I  H

$ T! {: \% N3 A! j; p. t8 \4 k! z
如果直接在一个不存在 Liberty Docker Image 的 server 上去 download App Docker Image, 如图 13 所示,我们可以看到所需要的时间将超过 7 分钟。

2 s6 ~; s9 Q3 x4 ]- S
' o/ {" R) r% [5 A8 O6 H* X
图 13. Docker Image 分层存储实验 3

1 b8 c4 ~" @: C, S6 k$ a
1.png
* h# L( S7 U1 e8 ?, F: _1 k

" s- A2 }( |* w' h1 |, H- i8 X
通过图 14 可以发现其他 layer 的 download 时间要超过 4 分钟,如果反复对这些重复的 Docker Image layer 进行下载更新,将会严重影响环境更新的效率。随着不同 Image 之间在 Docker Image  Layer 上的差异越大,所花费的下载 Docker Image 的代价也将越大。

5 V$ G9 x5 Z2 V" I/ @7 c/ }/ Q

4 \& v- i; O# y; t7 ]3 _
图 14. Docker Image 分层存储实验 4
. |7 Q- l9 g$ I0 u+ O, T. G* K
1.png
6 B( j' Q% o. Z) b8 O3 ?( ?

. @0 M, Y+ S7 p8 B  j
小结
! m, T0 _1 f4 d

" J' ~3 O" z# [/ S' q1 M
本文通过对 DevOps 和 Docker 基本概念的介绍以及 Docker Image 分层存储的原理和实践结果说明,希望带给您一个思路,从而根据自身项目的实际情况规划和设计自己的 Docker Image。从而将 Docker 技术和 DevOps 更好的结合起来,构建一个可持续的产品生产,测试,发布的生态环境。
! n' ~/ e: S& N' u1 \
  \) Z! ~! B- K3 S
原创:孔毅&孟洁
" o  p+ U% k% o0 `- K
9 B% l8 x" Q: x3 J3 ~4 Q2 p

本版积分规则

QQ|小黑屋|手机版|Archiver|艾拓先锋网 ( 粤ICP备11099876号-1|网站地图

Baidu

GMT+8, 2019-6-17 23:07 , Processed in 0.207475 second(s), 29 queries .

Powered by Discuz! X3.2

© 2001-2013 Comsenz Inc.

快速回复 返回顶部 返回列表