请选择 进入手机版 | 继续访问电脑版

ITIL,DevOps,ITSS,ITSM,IT运维管理-ITIL先锋论坛

 找回密码
 微信、QQ、手机号一键注册

扫描二维码登录本站

QQ登录

只需一步,快速开始

查看: 585|回复: 0

工欲善其事,必先利其器——DevOps中如何管理工具包

[复制链接]
发表于 2020-8-10 15:49:11 | 显示全部楼层 |阅读模式
背景

- q7 N& [. C8 c+ I0 U; `1 t% q0 m* n" _; G# q2 _& K2 z
) M( |. g4 P) h/ I0 Z4 H( ]

; L# Q- Z) q& z/ F/ l6 _  `" O- ~  ~$ ~. R4 [
作为DevOps交付流水线的开发者,为支持CI/CD中各项任务的自动化,都需要依赖多种包管理工具来下载各种相关的工具,比如针对产生最终交付件的构建过程,就需要在构建流程的第一步,自动地把相关工具,如Curl、wget、Maven、Gradle、npm等等,下载到CI服务器。这些工具的下载,通常都需要依靠对应的公网服务器和包管理工具来支持。而这样通过公网来下载工具,有时会遇到稳定性的问题,也就是所谓的环境问题,导致工具下载失败,进而导致构建任务的失败。因此,我们需要引入新的技术来克服这些问题,保证工具包下载的稳定和可靠。
8 w9 n3 `3 \3 T) {2 i9 P/ j, J
2 s; k" ^& x6 z  f0 j0 A

+ b8 m% {& q# w" n: |* A; e; r
, f' t: s* K7 j5 Z& K. F- ^# `2 a! _6 ]' b" t' x* F  f$ p: a
工具包管理的痛点 ——缺乏稳定性
  M# |3 G8 `7 j& D2 H' C
; Z" ?0 \. F0 U
# V5 F3 ~1 y; c9 J( F

3 k% |. o; |; I; d* f
通常,我们会使用各种各样的包管理工具来帮助我们下载和管理这些工具包,如Windows上的Chocolatey,Mac/Linux上的Homebrew,还有npm、Yum、Debian、Docker等等。可是,有时我们通过这些包管理工具来下载工具包时,会碰到意外的5xx服务器错误。而更多的时候,通过这些包管理工具来下载会非常的慢。这些问题在我们使用自动化构建工具(如Travis CI、Jenkins、Gitlab CI,等等)来实现持续集成CI的时候,会被成百上千倍地放大。一种解决办法就是在碰到这些环境问题时,通过手动运行构建的方式进行补救,当然,这只是指标不治本。同时,在网络访问有限制的时候,如很多金融企业都会采用的网络隔离,根本不可能去下载这些公网服务器上的工具包。
! v+ C+ n8 O4 q2 q3 X0 g
- ]& B) [$ x% h* P7 Y8 h% r
1 G) J5 P' ~) y  f# \( E

0 ?! ^2 `- J# w  b) U% @
! M% S- f4 F- G& X( B) D
解决方案 ——使用JFrog Artifactory的远程仓库
* \: ^% L; U5 G7 D8 H5 X* S

7 S$ y! j2 o* X# Q) @& x, I) N, e, G* e, I# z" P, ]
  B9 m* k) Q, i3 j6 V! K; @$ k' `
JFrog Artifactory作为全语言制品仓库,其远程仓库可以作为公网服务器的本地代理和缓存。当我们通过其远程仓库来下载所需的工具包时,Artifactory首先检查在本地的缓存中是否已经存在。如果有,直接返回该工具包;如果没有,Artifactory将会代理到公网服务器去下载相应的工具包,并缓存到本地,以供后续的下载使用。
利用Artifactory的远程仓库作为下载前述工具包的代理和缓存,能够使得DevOps流程中的各个环节,如前面描述的持续集成流程,更加的迅速和稳定。在有网络隔离要求的环境中,如金融企业的研发/生产环境,Artifactory可以帮助技术人员建立自己的企业级单一可信源。
下面,我们将通过示例为大家一一展示,Artifactory的远程仓库是如何为不同种类的工具包提供服务的。
3 j0 J- k8 _( [: R" S

! F9 l/ y( m  `" t. Q
# R8 o4 d+ T( I" X9 ~! i& S2 C) c. L9 f7 S; T( J- f0 l- n
' S( E5 _4 g$ j9 L+ _
示例一 ——Chocolatey

0 r4 v! J5 T$ d9 a9 C6 B- q5 d! [, W" Z4 o. |" u9 l
! V) B$ t* ?) L1 v+ h" H
( ^. S: m7 f, d) e
当使用Choco为Windows系统下载Gradle的时候,我们经常会碰到类似下面这样的503错误,从而导致构建失败:
粘贴上传202008101548064791..png

. D- Y" g9 o. j2 y/ I0 o9 i6 P* u
解决的方法:我们在Artifactory里定义一个Nuget类型的远程仓库,利用它作为通过Choco包管理工具下载的来源。" x8 Q* Z: b# C# u

1 U. l2 t; B8 Q- S: t7 t
第一步:配置Artifactory远程仓库
在Artifactory里创建一个Nuget类型的远程仓库,其主要参数如下:
  • 仓库名:choco
  •   Url:https://chocolatey.org

    + O& p( \$ p. Z3 }
; U! e5 V+ O9 M+ k/ g, B, m3 o* H
第二步:安装Choco包
  • 用匿名安装的命令
    5 n6 r; d) [3 R
choco install <package-name> -s <artifactory-url>/api/nuget/choco
$ y' u" u- {# B% @& x
  • 使用带用户认证的方式
    7 X$ o! |$ [& s
choco install <package-name> -s <artifactory-url>/api/nuget/choco
      -u <artifactory-user> -p <artifactory-password>

( T7 |* b2 X  g" }
5 A. K# {: A8 `- \! ~& `, p. u7 C5 P0 h! b6 j+ m& g

. n  n7 q& i: T: N4 v& K* Y1 W- v% V2 W, g) t9 n8 u
示例二 ——Homebrew
. Y# F$ B1 o  e( s! J8 a$ Z
6 q! B- _( j5 b" b, R
, C. I- P% ~, S

! P$ ~0 t; R) s; |0 T! L2 P0 A
和Chocolatey类似,也可以用Artifactory来支持Brew的下载:

5 U7 r1 f% U5 \
第一步:配置Artifactory远程仓库
在Artifactory里创建通用(Generic)类型的远程仓库:
  • 仓库名:homebrew
  • Url:https://homebrew.bintray.com

    5 O4 o7 [5 b/ g' x
$ K+ Q- i, n/ D2 n# o0 S
第二步:设置
“HOMEBREW_ARTIFACT_DOMAIN”环境变量
  • 匿名访问:

    0 `3 D( K) Q4 Z; p  E- r! K8 a% M" R7 E
setHOMEBREW_ARTIFACT_DOMAIN=<artifactory-url>/homebrew
  • 带用户认证的访问:
    - k& [7 q. H9 a
setHOMEBREW_ARTIFACT_DOMAIN=<artifactory-user>:<artifactory-password>@<artifactory-url>/homebrew

3 R8 H6 B! d! Z
第三步:安装
之后再通过  brew install命令安装,就会访问Artifactory的本地缓存了。
- g' R' Q. K( L! R. G5 ?
8 |: a* s3 W& b5 q* P( A

% d, i1 A. O& R
0 C- ^1 F4 y# l% B- S! q8 ?/ a/ b
0 r0 a9 r) f5 n2 p2 X7 n
示例三 ——Yum
# \. `- @( q- w% F1 j/ X

. `2 G. }4 P3 `4 p
/ i- T! e! z& O, _' z5 q1 o' u" A1 O# {& O+ x. z
本节将介绍如何利用Artifactory的远程仓库来使用Yum下载RPM包。
% S9 Q: o5 n! d* ?) J4 y* B- U
第一步:配置Artifactory远程仓库
在Artifactory里创建一个RPM类型的远程仓库:
  • 仓库名:yum
  • Url:http://mirror.centos.org/centos/<version>/os/<architecture>

    . x( k; ^5 P2 O" O, V( M! ^, p
   例如:http://mirror.centos.org/centos/7.6.1810/os/x86_64

4 x9 H4 ~; r$ c5 m( N% m
第二步:创建yum的配置
创建下述文件:
/etc/yum.repos.d/artifactory
  • 匿名访问时,文件内容为:

    " v$ K6 g6 ]( E, v0 ?7 c! I
[artifactory]HERE
. X" r3 G  Z; O3 M- hname=artifactory
baseurl=https://<artifactory-url>/yum
enabled=1
8 `( k2 B. G5 Y! qgpgcheck=0
# `$ J3 [  U3 g$ N) i
  • 带用户认证时,文件内容为:
    + }2 {4 C# }+ y1 ]5 S1 J
[artifactory]
7 e7 K2 D& u" h/ o8 G  jname=artifactory
baseurl=https://<artifactory-user:<artifactory-password>@<artifactory-url>/yum
enabled=1, ~: V4 O) V5 `- Z" E/ {* I; b
gpgcheck=0
之后正常使用yum命令就可以从Artifactory的本地缓存下载RPM包了。
6 }' @+ Z! Y. P' _& e% s! f" K
1 g+ t+ \% [6 X
+ R4 ?4 S$ E1 ^; h% b

7 W# H* a# K& ]+ @! w% }4 x4 W6 v( c8 g5 x, P/ a
示例四 ——Docker

  |+ ^5 R  o, h9 x. |- z( R) n* X" |- N) }
5 @8 |. `" W0 L) V
! a* C) ]7 a* i: n# z8 W
本节将介绍如何利用Docker命令从Artifactory的远程仓库来下载Docker镜像。
. S% d/ s) b( F- D( {4 T. g2 i8 r
第一步:配置Artifactory远程仓库
在Artifactory里创建Docker类型的远程仓库:
  • 仓库名:docker
  • Url:https://registry-1.docker.io/

    " y0 X, k. D  T8 ~: n9 ~8 `
) w: @3 b3 C) z# P# u7 g
第二步:登录
用下述命令登录Artifactory的Docker仓库:
Docker login <your docker domain>
其中<your docker domain>的写法可以参考Artifactory中docker仓库对应的”Set Me Up”显示的设置。
4 Y3 \  o% C4 M5 u8 v5 n
第三步,拉取镜像
执行下述命令,从Artifactory的缓存拉取Docker镜像:
docker pull <your docker domain>/<docker image>:<docker tag>
当然,针对Docker应用,你可以使用JFrog提供的免费版镜像中心——JCR(JFrog Container Registry,https://jfrog.com/container-registry/),来管理自己的Docker镜像。

% u' O* b" l7 _' G/ ~- \) e
! }6 n' L6 f, d- N$ q: }  U  F. y/ }( b
( E. f! f% O! J; d9 U
9 M  v! r1 w" L9 p% K
总结
" J  C3 N% Z. j. v
; [: ^9 r! ^% K6 j- g7 N

& X; m- M6 {5 I- d5 L* h* Y, i4 ^1 G' l/ k, o! t! f" N9 h
在DevOps流程当中,我们需要下载很多工具包,来支持整个流程的自动化运转。然而。直接从外网下载这些工具包,经常会碰到环境问题,进而影响整个DevOps流程的效率和可靠性。
Artifactory通过其远程仓库的设置和全语言制品支持的能力,能够帮助我们建立各种工具包的本地源,从而使得DevOps的流程更加迅速和稳定。本文还列出了几种典型类型工具包的配置方法。(高欣)
& D+ Y, C/ O8 j2 V  O: o1 Z4 d6 q7 S
3 {* Z( x# G8 J  K- H" [

2 {4 B4 S* P1 K& Z/ I& ?




上一篇:杀死 “DevOps 团队”
下一篇:通往成功DevOps的六大障碍

本版积分规则

参加 ITIL 4 基础和中级专家认证、v3专家升级、DevOps专家认证、ITSS服务经理认证报名
本站关键字: ITIL| ITSM| ISO20000| ITIL培训| ITIL认证| ITIL考试| ITSS| ITSS培训| ITSS认证| IT运维管理| DevOps| DevOps培训| DevOps认证| itop| itil4| sre| 开源ITSM软件

QQ|小黑屋|手机版|Archiver|艾拓先锋网 ( 粤ICP备11099876号-1 )|网站地图

Baidu

GMT+8, 2021-4-13 18:44 , Processed in 0.160677 second(s), 33 queries .

Powered by Discuz! X3.4 Licensed

Copyright © 2001-2020, Tencent Cloud.

快速回复 返回顶部 返回列表