请选择 进入手机版 | 继续访问电脑版

IT运维管理,ITIL,ITSS,ITSM,ISO20000-ITIL先锋论坛

 找回密码
 微信、QQ、手机号一键注册

扫描二维码登录本站

QQ登录

只需一步,快速开始

搜索
查看: 548|回复: 0

DevOps实践——打造自服务持续交付(下)

[复制链接]
来自- 广东广州

参加活动:0

组织活动:0

发表于 2018-10-10 16:29:50 | 显示全部楼层 |阅读模式 来自- 广东广州
本帖最后由 adminlily 于 2018-10-10 16:32 编辑 , f1 Y/ T* g% }
6 R, p- N0 [) K; s* B
实践过程: s0 B2 U  V* v' e4 T0 U
  r" \$ E; s7 ~! y: a4 M" ^
下图是我们为团队设计的持续交付流水线,目的是能让Platform团队和交付团队之间的触点能够被融入到持续交付流水线中,并且以基础设施即代码作为协同媒介,通过自动化的方式实现开发于运维(即基础设施与软件系统)的无缝对接。
1.png
(点击查看大图)
我们来看看我们给持续交付流水线赋予了哪些能力:
  y9 Z* C; N; _  u
  W- K. z  C; U7 J- Q
5 H( m& {# H/ z( A+ f7 |' |
1.站在交付团队的视角,我们决定将基础设施构建,流水线构建、部署等活动都代码化,与应用代码放在同一个代码仓库中。* U0 b  n  W+ x4 ?7 P9 k5 k

4 H3 N, \, j2 X9 U" V- f/ N+ y1 q% f
2.交付团队通过提交我们的基础设施代码到仓库后自动触发持续交付工具创建或更新流水线。& \3 w$ E3 ]- N* A

, Q* w1 S7 c8 B) k% p/ L

" n: [4 [$ c, b. q! v# Z$ K* F! |3.接着会自动触发构建,静态检查,测试覆盖率校测,代码规范验证等任务,最终输出构建产物并将构建产物推送到仓库。5 Z2 ~# E- Y) o, I/ ~! L
, e! \9 y4 Z6 C' F; C

1 Z7 a' n0 e* ^3 ~9 t3 t6 `: f# `4.然后会根据交付团队对基础设施和环境的定义到当前要部署的网络环境中去创建或更改虚拟机、网络、存储方式等。
+ V/ l- z' T4 a5 j3 S
# g" T) W" R6 R7 P4 ]2 R- y" H
1 u7 Y' l. M# L! @& O3 U/ C, {
5.最后,当基础设施创建成功以后,就会去仓库下载指定版本的构建产物进行最终的部署活动。
, Y# c! t4 R/ M3 t$ z8 \3 i6 K) k( `: ~" d( E+ u& d

, m2 j$ M6 t& D0 F但需要注意的是:
+ {, W" X# M& k# j' j8 }

  q1 s- m+ x; W  d& l/ r

* w* `# p7 ~9 ~4 x$ X! u7 K. p1.为了持续优化交付流程,我们对开发的许多活动进行的数据收集和分析,以报表的形式去分析展示代码提交频率,系统和代码的质量情况,缺陷和构建情况等,帮助团队找到自己的瓶颈或问题。
2 R7 @& j2 l4 G6 M7 _8 X
5 B. V/ x6 }% z. @, U; g* h
) c8 X9 F: d! M- t) S  \
9 J6 @  @( `) G6 }7 L
2.帮助团队能够实时监控自己应用的运行状态,设计和查看不同纬度的日志总汇等。
' {: ]# M+ J6 s8 x
( g2 D6 d- {5 t- Y* I) s

& H, \2 }* ?: G0 b/ K, h3 o2 _7 k5 |# E1 ~  S- N6 v- R& J
那我们来看看通过什么技术可以实现这样的持续交付流程:
* k. ^3 k8 a9 n$ T5 B8 `% l) m
1 y+ P9 ^9 n" p! H0 y" U. K4 ^
我们选择了一种轻量级、低耦合的技术组合Ansible+Jenkins+AWS。我认为其核心是Ansible。

4 Q$ ]+ U) ]4 s. j
8 ]  O* |$ p8 H8 I2 {: B4 w
下面我们来看看Ansible可以帮助我们做些什么:
' G! s9 m& k  l* c$ c) I. X8 ^

7 h( _( P  K3 N2 B3 a: \8 O
  • 1.创建和更改AWS中的资源;

    ! a( z9 b  n7 l/ _8 u. m
' r) `0 o+ r4 e- q
  • 2.自动化部署和基础设施测试;

    9 i. c0 _1 P- ]# S+ C- ^

' D7 I# n0 q3 Z9 K5 P
  • 3.建立开发与平台团队之间的沟通体系。

    + g; ]% t! k( ]$ `- V! @  S* f

+ B$ J3 E$ P& c

, h5 \% Z! q2 k/ M0 ~7 k8 N; |+ j
考虑到基于yaml语法的Ansible配置简洁且易读,所以我们选择直接用它作为提供给交付团队的公有DSL模板,利用Ansible Playbook的模块化思想将开发团队的职责和平台团队的职责很清晰的分离,平台团队关注Ansible提供给交付团队的服务是否满足需求和DSL模板是否易用,而交付团队只用关注如何基于公有DSL去定制自己的基础设施,环境依赖和部署等。

- `1 J* G/ @4 B4 ]. i; k7 z
于此同时也满足了很多开发对于Ansible和AWS的兴趣和热情,更使得之后在交付团队落地变得更容易。

5 F* L7 D' E, L1 U; z' }2 ]4 S
接下来通过一个实例来看看:
1.png
(点击查看大图)
左边是Platform团队的仓库,这个仓库里面包含了创建基础设施、环境配置和部署的实现。

2 N/ U7 L) {' s, N7 C0 ?. g0 [
右边是交付团队的仓库,其中deployment目录下,是公有的DSL模板,其中包含多种环境(开发、测试、预生产环境等的独立配置),以及一套基于DSL的代码模板,其中包含创建基础设施和部署应用这两部分DSL代码模板。

! q/ Z# b) V8 @3 U. {1 G0 ~6 ~
接下来,我们来看看它们配合与集成的方式:
1.png
(点击查看大图)
他们会在持续集成流水线中被动态组合到一起:
, b/ e9 ?: p# T1 x6 G) K' y# F
1.在创建基础设施和部署的时候会分别拉取基础设施代码库和应用代码库。
0 K$ _1 }( d/ [; H; ~% }2 I5 j  m% P' M" f: x. o. f% D$ a4 ?

5 x! Z2 V$ h7 p5 [' O+ A2.此时应用代码为调用入库,公有基础设施为功能框架库,两者配合,完成环境的创建和应用部署。
/ k( ]: e+ x/ G8 t) {
6 {% r" Z* c( p) h4 q+ b# r

6 @8 k0 n8 j: j; n  @" e0 n
在做微服务的团队,接受度非常高,能够快速上手,而且甚至有团队因为自身的一些需求,自己去写一些Ansible模块,然后向我们发起pull request。

0 z7 l. i' O) I* K# t7 ]
当然,我们在推广这套流程的过程中发现,一些实践能够帮助我们更快速落地:
0 N8 l% ~  f6 |: U2 D0 u/ ?& x: ^$ b
1.DevOps团队的成员由各交付团队和原运维团队组成,这样的组成方式,能够保证团队的视角可以关注到整个持续交付过程的每个环节。
0 q* Q4 f- j9 q3 t4 K2 H; c/ P; F& j

' a* A. F1 Y  j2.交付团队成员与DevOps团队成员定期轮岗制,DevOps小组中的文化(如自动化优先)可以蔓延开,让交付团队更快适应。2 _+ O0 v0 Y! S' r: C' |4 }/ Q* k

  c: P- D; e3 u

: c+ A+ ~- c4 S  U4 u5 x% I1 A3.结对、Showcase和培训,主要目的是知识的传递,让更多地团队逐步采用新的交付模式,得到更多改进中的反馈。
  a7 Z+ o. ~2 A% m) `  \' ~, g/ ?9 ~

- I; a, [1 f, S3 ?4.提供给交付团队的自服务代码仓库对每个人开放,交付团队被授权优化、新增基础设施,让DevOps文化和职责落地到交付流程中。- ?- n& z. M! Q8 u1 E
; ?% k. Y* w4 N
) \' m! @! h9 P) Q8 L# A) }$ z$ f( S
现在来看,集中式、审批式、被动响应请求的中央运维团队不再是整个交付流程中的依赖和瓶颈,已基本转向带自服务化、审查式、主动优化的去中心化交付团队:
1.png
(点击查看大图)
我们通过技术驱动改进,让团队之间的合作方式发生了巨大改变,开发与运维之间的那道墙也渐渐消失,以前被动响应请求的中央运维团队逐步被平台团队所替代,平台团队中一部分人会负责基础设施平台的发展,负责公有云与企业内部系统的对接、完善安全、灾备、提供基础设施的自服务机制,另一部分人会为产品团队提供可定制的工作、平台、并为产品团队赋能。这时交付团队开始管理自己的环境、维护流水线、负责生产环境变更。
) y9 F) L. ?( L' H

; d' |$ O1 r+ v& N( t
在推广和落地自服务持续交付流程的过程中,我们也遇到了很多遗留系统和复杂部署应用的交付团队,他们无法直接对接这套交付流程。
% q0 P8 h$ D9 q+ P7 g3 U) q4 u

$ y; ]7 N/ m! x$ Z) k$ i" s3 H
例如有一个40-50人的团队,它是基于AEM开发整个公司所有的前端门户,AEM是Adobe公司的CMS系统,其安装和部署很复杂,以前都是通过手工安装和拷贝的方式进行部署,而且他们在开发→测试→部署阶段可能会动态扩张多套环境来支持,且每次代码变更的提交都会对已经安装的AEM进行修改、配置、重启等操作。
! Q7 C, b+ ]+ l: Y4 c' {: ?' Z
' h. f* k$ a- H" b$ @/ ^7 a* b8 N
整个开发和测试流程都很复杂,而且效率很低,出现问题和故障的风险也很大,如果我们直接利用Ansible把AEM的安装和部署过程都自动化,由于AEM本身部署的复杂性,可以预见以后这部分更新和维护的工作还是很难交由交付团队自治。所以我们第一步要做的就是为其设计新的持续交付流水线,然后在这个流程中去定义和识别两个团队的职责和关注重心,最后再通过打造高效的自服务使整个交付流程得到改进。

" G* r) g4 N& D

: T% R! s. N: w3 ^$ d4 v
首先我们根据校服团队提交变更的平率,从低到高依次定义了三条持续集成流水线(如下图):
7 h5 H; E/ {" G+ t6 d3 V- R2 N
1.创建和测试基础设施资源;
$ u* Y6 c8 Z1 }: L8 X, L
; z$ ?! l5 |" D, q

) x+ s% f( D0 }2.配置基础设施资源和环境;
( z8 e/ h# b6 q/ V8 t8 O$ Z0 _! \. q9 _- e8 o/ b0 Q
6 c* S: O3 n! D( W
3.部署应用程。
5 d# Y; H7 Q3 ~) Q: l
1.png
(点击查看大图)
因为AEM安装和更新很复杂,所以我们引入了镜像技术。基础设施和基础设施配置两条流水线的产物为一个image,应用流水线在部署阶段会去检查是否存在新的环境镜像,如果存在,就会基于快速创建一个新的AEM环境,然后进行应用代码的部署。

9 _$ O0 q: s) p; C- K/ z

  D9 o5 N, w% U  D! ?3 _" v. j
通过新的自动化持续交付流水线大大加速了AEM团队的开发和测试速度,也使得整个环境更加可控和易维护。对于交付团队来说,他们可以自己去维护包括基础设施、环境变更和应用部署等全生命周期交付活动。
  X! x9 m$ ?1 |. O0 w$ g

, J  h9 z3 [! n" x# T) {
对于Platform团队来说,只用去考虑镜像的生命周期管理,如何去优化镜像的创建速度等,这些可以帮助到更多其它团队解决类似问题的领域。对于这种特殊情况,我们尽管引入很多与大多数团队不同的交付流程和技术,但所有的工作和优化都是基于之前打造的自服务持续交付流程、协议和工具平台之上的,保证了不同的交付团队与Platform的配合方式的一致性。

8 l- J- n+ a- G+ J3 }
6 G4 ^5 y/ |, {* F2 i: A
实践启示7 H8 M- Z' u) m, p% z
# s8 M- j" k- g8 ]) s

" A' i3 d0 H' Q( f$ V' [
通过在大量交付团队落地基于自服务的持续交付流程,两种团队的职责更加清晰了:
1.png
(点击查看大图)

8 `- D$ r. m' _* p+ t# ~& `
所有好的实践都必须考虑规模化的问题,如果无法大规模的被接受和落地,再好的实践也没用。对于咱们这个转型的过程,我也给出一个套路:
1.png
(点击查看大图)
有了套路,接下来总结一下应用这个套路进行DevOps转型过程中的一些经验和思考:

+ ~' l, G; G' s1 u
8 i  t7 t# ^9 [2 k4 _
1.易用的通用DSL模板设计,提供交付与Platform团队统一的DSL模板(build and update anything)。# C+ g2 U* A* K( @0 C* I
+ G2 Q, h! S* t

$ f3 |* _5 \  ~4 C' Z" ]2.构建通用持续交付流水框架,提供给交付团队定制化流水线的能力,使流水线主要关注点始终在产品的成功交付。
# q8 D0 y4 ^5 A6 F  q/ k0 @/ t
* k" c) v( U: r; v. Q7 ^
5 g- ~+ `5 {: t- `. D8 r, F
3.以技术驱动DevOps文化大面积传播,让Platform团队成员走入交付团队,协作改进、知识传递,确保实践落地。$ W4 q% Y5 t5 T! t
8 r! o; T* V  s; U* k

' ^4 _/ [+ y+ L4.将一切自动化、自服务化。交付团队应该被授权优化、新增基础设施服务,让DevOps能力和职责在交付团队落地生根。
4 u+ u# I2 X) X6 v$ `1 _' W
$ V) b5 f! Q9 ]5 o" Q
9 c+ [% y2 K0 |" N9 V, T" p
最后,我提取了5点对我们来说非常重要的策略或是推进方法:

  l  q1 m* g( U/ T+ }

5 @" c6 n# k. A" w
1.小步快跑,在有大方向的基础上,需要将每一步改变都设计得足够小,这样才能足够快的去改进。
0 Q2 r% ^9 Y& \5 F/ u/ ]
( p: Q/ D" C: n$ k0 C
! v4 ~: G) y; z9 V
2.交付团队赋能,给每个人都留一扇门,在他意识到要做些事情的时候,可以很快付诸行动。
8 u- A3 G% I9 u4 s) d+ V5 R" [3 ]( A7 n; z3 K# P0 H. t+ i! R
2 b# |% o+ u1 d& Q
3.逐步用基础设施自服务化替代运维部门的审批流程。 建立持续反馈和改进机制。! C4 W- B/ Z! z
* W* @; G; i  ]5 t" S
5 @& C. c$ }% p. s
4.以DevOps团队为杠杆,撬动更大范围自服务交付。
& x+ g7 ^3 @6 M+ Y* e# a
  ?6 Y3 ]9 e! ?- l6 a

6 D# H1 k) B5 L
非常感谢你的耐心阅读,希望我的文章能够给你带来哪怕一点点启示。有任何问题或是想与我讨论的点,欢迎留言。

) r6 L3 `7 N+ v" S* c+ L' _! ^

: d3 r: l1 J1 q4 \3 a& H
原创:钟健鑫
/ W4 B/ Y2 {/ m1 s) o6 H- K
" S  u: j. c: P4 Q

本版积分规则

QQ|小黑屋|手机版|Archiver|艾拓先锋网 ( 粤ICP备11099876号-1|网站地图

Baidu

GMT+8, 2019-6-27 14:45 , Processed in 0.261850 second(s), 40 queries .

Powered by Discuz! X3.2

© 2001-2013 Comsenz Inc.

快速回复 返回顶部 返回列表