请选择 进入手机版 | 继续访问电脑版

ITIL,DevOps,ITSS,ITSM,IT运维管理-ITIL先锋论坛

 找回密码
 立即注册

扫描二维码登录本站

QQ登录

只需一步,快速开始

查看: 648|回复: 0

自动化运维平台设计之【文件分发】

[复制链接]
发表于 2021-12-25 22:19:51 | 显示全部楼层 |阅读模式
本帖最后由 FYIRH 于 2021-12-25 22:35 编辑 4 U8 d, V( Y6 U

/ h& }2 K4 p4 H# e: H
前言

文件分发是自动化运维平台设计中不可或缺的原子操作,如何快速的分发文件到目标主机上?如何解决大文件传输的性能和带宽问题?
1 Z& U/ o+ P) u% H# D. t( |" Q
2 l2 k1 `7 e5 w! v' X: }
0.什么是运维原子操作?
( [* z7 z' s+ T8 X- n

" Z- V( t$ `) P7 o+ J
在开始之前有必要澄清下什么是运维的原子操作,所有的自动化运维平台,底层通道通过类型区分只有三种原子操作:命令执行、数据采集、文件分发。例如不管你是安装、启动一个软件都是属于命令执行、监控采集和日志采集都属于数据采集。然后就是文件分发。然后通过将这些原子操作组合起来就可以完成非常复杂的作业编排和流程编排。
; m, x( v( V" a. j- q! ~

% y/ A( m; y: [8 p
1.使用Ansible进行文件分发
如果你是Ansible的用户,我们可以快速的执行一个ad-hoc进行文件分发。

  [1 o% p3 K2 E; O5 C# A
粘贴上传202112252212393101..png

1 i/ ]6 V2 B2 M# ^
案例测试:
, X- E5 V8 P) a, V" J, i+ E5 i8 \
粘贴上传202112252213075608..png

2 \& q, R# {2 G+ w
2.使用SaltStack进行文件分发9 R5 |+ K! B* l  r" M( P) j

7 V4 ?! d* @: ]; ^0 C% m6 ~' Z
如果你是SaltStack的用户,你可以有两种选择。

- z( q: `. P7 K- F/ {. P
2.1 salt-cp
首先是可以直接使用salt-cp这个命令进行快速的文件分发:

0 Y7 K$ K& g7 I1 m
粘贴上传202112252213327446..png
  u; ^7 m, D. l
案例测试:

# N$ q# J- {: f  |
粘贴上传202112252213556145..png

* H# v& A$ L: X+ H
中文支持测试:
, v, d" s, v6 u1 y4 ?" b
粘贴上传202112252214133288..png
6 e# J# C% R! |
而且你也可以使用-C, --chunked 采用分块模式进行文件分发,此模式支持大文件、递归目录复制和压缩的功能。
  r) K0 b( c+ M1 ^
2.2 cp.get_file
$ x, G( g5 J; }; T
对于大文件的分发,SaltStack官方建议使用远程执行模块cp.get_file进行大文件的分发管理,这个需要使用Salt内置的一个轻量级的file server。而且也支持环境的区分。

0 t5 X6 P0 I+ Y
粘贴上传202112252214468971..png
( G9 P. ~" _- x9 n* I3 w9 w

0 x) X: T1 N9 @# B
3. 使用蓝鲸作业平台进行文件分发

+ ]$ A; a, c9 T7 r; r; Z
如果你是蓝鲸的用户,蓝鲸的作业平台提供了分发文件的功能,主要是靠蓝鲸的管控平台来实现的.

8 F" u" B. F6 M- g4 x* ]  l
粘贴上传202112252215222835..png
- U6 p+ [) \: d4 t
蓝鲸管控平台主要提供了三种类型的服务能力:文件传输能力、实时任务执行能力、数据采集与传输的能力。架构图如下:1 M4 j% h% ?: Z. h# {% K: D

+ _7 t# d4 k3 K! ~6 k0 B
粘贴上传202112252215572992..png

9 ?8 ~- R. A. e
4.使用P2P工具进行文件分发, w! t3 v) e3 @) v: I! O( q
不管是使用Ansible还是SaltStack的两种文件分发模式,都无法解决大文件分发的效率和带宽的问题,蓝鲸的管控平台是支持P2P进行文件分发,所以BitTorrent成为了海量大文件分发的首选,这里介绍一下Twitter开源的murder。

- [! T+ b$ g* @6 P: w1 ]8 s
不过请注意,该项目在Github上已经不维护了,但不影响使用

: J/ P  ?+ @, V7 Q# @6 N/ S
Murder是Twitter开源的的一个P2P文件传输工具,主要是解决Twitter内部做应用部署发软件包的问题。
% e% X% b" T. U. A( V9 D( f
4.1 Murder组件介绍:" o& W* I7 N/ X! q( Q; g

) a( I/ V! o# O0 i6 z8 c1 C
torrent tracker:这是Murder的追踪器,需要独立运行的一个服务,通过运行murder_tracker.py就可以启动,tracker实际上只是一个迷你的httpd,对外提供/announce路径,Bittorrent客户端会将他们的状态更新到这个路径上。
& m  l# ~+ y6 K5 T# k( r2 C3 j
seeder:这是一个播种机,将文件存放在seeder的节点的一个目录下,通过murder_make_torrent.py会生成一个.torrent的文件,保存着要分发的文件的一些信息,在开始进行P2P传输之前,其它的节点会先从seeder节点来下载文件分片。

: \# W- D8 x) }  X3 w
Peers:指的是所有需要接收文件的节点,它们将接收文件并在彼此之间分发文件分片。一旦有节点同伴完成分发文件的下载,它将继续播种一段时间,以防止热点效应的播种机。
( x1 {; R$ x7 g
4.2 快速实验:
) i( `7 {  ]' N

. t0 }5 p$ I2 c) x
下面快速的做一个小实验,为了方便使用murder,这里简单的编写了一个安装脚本https://github.com/unixhot/filebt.git,使用supervisor来启动tracker服务。
1 L$ x% f7 {, ?4 Q2 H/ ]3 [# t5 r
1.下载代码
6 z  `4 d, m  @9 q7 p
粘贴上传202112252217155066..png
, K% Y, Q; q/ R0 d1 B& j/ \; N
2.使用Ansible/SaltStack分发到所有机器上

    $ D- b' S( _' ~8 b5 j4 Q) T% y$ _+ [# [2 t8 J1 N: N; k" o& {* i
    粘贴上传202112252232208474..png
      o$ N' j5 V6 I! A6 E: v
    3.执行安装

    • 7 ?  E8 o" M; y" Z7 C6 R! H
    # ansible all -m raw -a 'cd /usr/local/src && unzip master.zip && cd filebt-master/install/ && ./install.sh install'

    & \/ Y4 S3 F1 Z
    4.启动tracker服务
    本案例就在Ansible/SaltStack的控制节点启动

    3 Y8 q+ E) Z8 t# S4 ^2 X( s
    粘贴上传202112252230599532..png

    $ s! @1 J' w3 l; K6 l( W2 n
    5.准备一个测试文件
    ) |# j; _! O  w" [: z: k$ ~
    粘贴上传202112252235025729..png
    # K6 [) |% s. t5 S( Z& P3 H
    6.生成种子文件
    1. # python /opt/filebt/murder_make_torrent.py bigfile.tar.gz 192.168.56.234:8998 bigfile.tar.gz.torrent
    注意:这里需要指定tracker的地址,案例是192.168.56.234:8998。

    ; v& r( N6 L: H5 B# l& y& a
    7.启动seeder
    1. # python /opt/filebt/murder_client.py seed bigfile.tar.gz.torrent bigfile.tar.gz 192.168.56.234
    2. done and done
    3 a6 c. w" l" k  b) ]
    注意:最后一个IP地址,是seed所在服务器的地址,当前是和tracker在同一台主机上。而且执行完命令执行,会一直等待。+ y- n: Z5 c( D; G+ M  w

    / ^$ ?  a7 d/ C$ y& G
    8.将文件种子分发到所有要下载的节点上。
    1. # ansible all -m copy -a "src=/usr/local/src/bigfile.tar.gz.torrent dest=/usr/local/src/bigfile.tar.gz.torrent"

    " @2 i, r) ]2 N' M, D
    9.所有节点进行P2P下载
    1. # ansible all -m raw -a 'LOCAL_IP=$(hostname -i) && cd /usr/local/src && python /opt/filebt/murder_client.py peer bigfile.tar.gz.torrent bigfile.tar.gz $LOCAL_IP'

    / R7 h; z3 E7 X8 t
    注意:最后一个IP为各个节点本地IP地址。

    - d7 b0 h  T/ i' j) x% c
    警告⚠️:如果需要分发的节点比较少,文件也特别小,不要使用P2P的方式进行文件分发,因为速度还没有直接使用Ansible或者SaltStack快。
    ; B1 q1 C$ H% d( B  F* N, \, F4 O* O
    建议:; g. [' I" p. X" @
    - F5 B- z  [: g5 e" o
    在实际的应用过程中,你可以通过自定义脚本来简化这些操作,通过自定义Web界面也可以很好的隐藏掉复杂的细节,同时也可以根据文件大小和分发节点的数量,自动判断是否开启P2P传输。) m3 X! a9 n) j! M3 Y& _, C/ v/ W* [) D

    * H7 l- O9 e; j1 C7 z  N2 K
    总结:; _& D8 k% U9 \

    ( G# [( o" G1 B+ U
    如果你想自己开发自动化运维平台,文件分发的实现可以直接借助像Ansible、SaltStack、Murder这些开源工具的能力,也可以直接使用蓝鲸社区版本、也可以自定义实现,自研的前提就是先学习开源工具的实现方式。(转自OpsAny)

    " O! O3 H) ?0 r) n6 G5 Z, p4 o
& a; @0 F* _) g/ r




上一篇:2021年你不能错过的 DevOps 趋势
下一篇:【运维知识体系】运维人必备技能图谱
您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

参加 ITIL 4 基础和专家认证、长河ITIL实战沙盘、DevOps基础级认证、ITSS服务经理认证报名
ITIL(R) is a registered trademark of AXELOS Limited, used under permission of AXELOS Limited. The Swirl logo is a trademark of AXELOS Limited, used under permission of AXELOS Limited. All rights reserved.

QQ|ITIL ( 粤ICP备11099876号 )|appname

GMT+8, 2022-12-7 17:24 , Processed in 0.104222 second(s), 32 queries .

Powered by Discuz! X3.4 Licensed

Copyright © 2001-2020, Tencent Cloud.

快速回复 返回顶部 返回列表