简介

Kubernetes (k8s) 是一套用于管理容器化工作负载和服务的开源平台。k8s 提供了一系列功能来简化服务的注册和发现，从而让微服务架构能够在动态和可扩展的环境中无缝运行。

服务注册与发现

服务注册与发现是一种机制，用于在集群中动态地发现和连接不同的服务。在 k8s 中，服务注册和发现由以下组件提供： Service：抽象的实体，代表一组具有相同标签和选择器的 Pod。 Endpoints：存储了 Pod 的 IP 地址和端口信息的资源。 DNS 解析：将服务的名称解析为其集群 IP 地址。 kube-proxy：网络代理，将服务暴露给其他 Pod 和外部网络。

原理

k8s 中的服务注册与发现的原理如下： 1. 服务创建：创建一个 Service 资源，定义服务的名称、类型、选择器和端口。 2. Endpoints 维护：Endpoints 控制器根据服务的标签选择器创建 Endpoints 资源，并将 Pod 的 IP 地址和端口信息存储在其中。 3. DNS 解析：创建服务时，CoreDNS 为该服务添加一个 DNS 记录，将服务的名称解析为其集群 IP 地址。 4. kube-proxy 转发：kube-proxy 在每个节点上运行，将服务请求转发到正确的目标 Pod。它创建 iptables NAT 规则或 ipvs 服务器来进行请求转发。

优点

k8s 的服务注册与发现提供了以下优点： 动态性：在 Pod 数量和位置动态变化的集群中进行自动发现。 透明性：使用服务名称访问其他服务，而无需关心具体地址。 负载均衡：将请求均匀地分发到后端服务实例。 容错性：自动检测并移除不可用服务实例，确保高可用性。

示例展示

以下是一个基于两个配置文件的示例，展示了 k8s 中的服务注册与发现： service.yaml ```yaml apiVersion: v1 kind: Service metadata: name: my-service labels: app: my-app spec: ports: - name: http port: 80 targetPort: 8080 selector: app: my-app ``` deployment.yaml ```yaml apiVersion: apps/v1 kind: Deployment metadata: name: my-app labels: app: my-app spec: selector: matchLabels: app: my-app replicas: 3 template: metadata: labels: app: my-app spec: containers: - name: my-app image: my-image:latest ports: - containerPort: 8080 ``` 部署这些配置文件后，k8s 将创建 Service 和三个 Pod。Service 将具有一个集群 IP 地址，该地址由 DNS 解析为 "my-service"。kube-proxy 将将请求转发到三个 Pod 中的任何一个。

结论

服务注册与发现是 k8s 中一个重要的功能，它使微服务架构能够在动态和可扩展的环境中无缝运行。通过理解其原理和优势，您可以构建高效且可靠的分布式系统。

---

vivo大规模Kubernetes集群自动化运维实践

一、背景

随着vivo业务迁移到k8s的增长，我们需要将k8s部署到多个数据中心。如何高效、可靠的在数据中心管理多个大规模的k8s集群是我们面临的关键挑战。kubernetes的节点需要对os、docker、etcd、k8s、cni和网络插件的安装和配置，维护这些依赖关系繁琐又容易出错。

以前集群的部署和扩缩容主要通过ansible编排任务，黑屏化操作、配置集群的inventory和vars执行ansible playbook。集群运维的主要困难点如下：

二、集群部署实践

2.1 集群部署介绍

主要基于ansible定义的OS、docker、etcd、k8s和addons等集群部署任务。

主要流程如下：

上面看到是集群一键部署关键流程。当在多个数据中心部署完k8s集群后，比如集群组件的安全漏洞、新功能的上线、组件的升级等对线上集群进行变更时，需要小心谨慎的去处理。我们做到了化整为零，对单个模块去处理。避免全量的去执行ansible脚本，增加维护的难度。针对如docker、etcd、k8s、network-plugin和addons的模块化管理和运维，需提供单独的ansible脚本入口，更加精细的运维操作，覆盖到集群大部分的生命周期管理。同时kubernetes-operator的api设计的时候可以方便选择对应操作yml去执行操作。

集群部署优化操作如下：

（1）k8s的组件参数管理通过

ConmponentConfig[1]提供的API去标识配置文件。

（2）计划切换到kubeadm部署

（3）ansible使用规范

2.2 CI 矩阵测试

部署出来的集群，需要进行大量的场景测试和模拟。保证线上环境变更的可靠性和稳定性。

CI矩阵部分测试案例如下。

（1）语法测试：

（2）集群部署测试：

（3）性能和功能测试：

这里利用了GitLab、gitlab-runner[2]、ansible和kubevirt[3]等开源软件构建了CI流程。

详细的部署步骤如下：

如上图所示，当开发人员在GitLab提交PR时会触发一系列操作。这里主要展示了创建虚拟机和集群部署。其实在我们的集群还部署了语法检查和性能测试gitlab-runner，通过这些gitlab-runner创建CI的job去执行CI流程。

具体CI流程如下：

如上图所示，当开发人员提交多个PR时，会在k8s集群中创建多个job，每个job都会执行上述的CI测试，互相不会产生影响。这种主要使用kubevirt的能力，实现了k8s on k8s的架构。

kubevirt主要能力如下：

三、Kubernetes-Operator 实践

3.1 Operator 介绍

Operator是一种用于特定应用的控制器，可以扩展 K8s API的功能，来代表k8s的用户创建、配置和管理复杂应用的实例。基于k8s的资源和控制器概念构建，又涵盖了特定领域或应用本身的知识。用于实现其所管理的应用生命周期的自动化。

总结 Operator功能如下：

3.2 Kubernetes-Operator CR 介绍

kubernetes-operator的使用很多自定义的CR资源和控制器，这里简单的介绍功能和作用。

【ClusterDeployment】 : 管理员配置的唯一的CR，其中MachineSet、Machine和Cluster它的子资源或者关联资源。ClusterDeployment是所有的配置参数入口，定义了如etcd、k8s、lb、集群版本、网路和addons等所有配置。

【MachineSet】 ：集群角色的集合包括控制节点、计算节点和etcd的配置和执行状态。

【Machine】 ：每台机器的具体信息，包括所属的角色、节点本身信息和执行的状态。

【Cluster】 ：和ClusterDeployment对应，它的status定义为subresource，减少

clusterDeployment的触发压力。主要用于存储ansible执行器执行脚本的状态。

【ansible执行器】 ：主要包括k8s自身的job、configMap、Secret和自研的job控制器。其中job主要用来执行ansible的脚本，因为k8s的job的状态有成功和失败，这样job 控制器很好观察到ansible执行的成功或者失败，同时也可以通过job对应pod日志去查看ansible的执行详细流程。configmap主要用于存储ansible执行时依赖的inventory和变量，挂在到job上。secret主要存储登陆主机的密钥，也是挂载到job上。

【扩展控制器】 ：主要用于扩展集群管理的功能的附加控制器，在部署kubernetes-operator我们做了定制，可以选择自己需要的扩展控制器。比如addons控制器主要负责addon插件的安装和管理。clusterinstall主要生成ansible执行器。remoteMachineSet用于多集群管理，同步元数据集群和业务集群的machine状态。还有其它的如对接公有云、dns、lb等控制器。

3.3 Kubernetes-Operator 架构

vivo的应用分布在数据中心的多个k8s集群上，提供了具有集中式多云管理、统一调度、高可用性、故障恢复等关键特性。主要搭建了一个元数据集群的pass平台去管理多个业务k8s集群。在众多关键组件中，其中kubernetes-operator就部署在元数据集群中，同时单独运行了machine控制器去管理物理资源。

下面举例部分场景如下：

场景一：

当大量应用迁移到kubernets上，管理员评估需要扩容集群。首先需要审批物理资源并通过pass平台生成对应machine的CR资源，此时的物理机处于备机池里，machine CR的状态为空闲状态。当管理员创建ClusterDeploment时所属的MachineSet会去关联空闲状态的machine，拿到空闲的machine资源，我们就可以观测到当前需要操作机器的IP地址生成对应的inventory和变量，并创建configmap并挂载给job。执行扩容的ansible脚本，如果job成功执行完会去更新machine的状态为deployed。同时跨集群同步node的控制器会检查当前的扩容的node是否为ready，如果为ready，会更新当前的machine为Ready状态，才完成整个扩容流程。

场景二：

当其中一个业务集群出现故障，无法提供服务，触发故障恢复流程，走统一资源调度。同时业务的策略是分配在多个业务集群，同时配置了一个备用集群，并没有在备用集群上分配实例，备用集群并不实际存在。

有如下2种情况：

3.4 Kubernetes-Operator 执行流程

四、总结

vivo大规模的K8s集群运维实践中，从底层的集群部署工具的优化，到大量的CI矩阵测试保证了我们线上集群运维的安全和稳定性。采用了K8s托管K8s的方式来自动化管理集群（K8s as a service），当operator检测当前的集群状态，判断是否与目标一致，出现不一致时，operator会发起具体的操作流程，驱动整个集群达到目标状态。

当前vivo的应用主要分布在自建的数据中心的多个K8s集群中，随着应用的不断的增长和复杂的业务场景，需要提供跨自建机房和云的多个K8s集群去运行原云生的应用程序。就需要Kubernetes-Operator提供对接公有云基础设施、apiserver的负载均衡、网络、dns和Cloud Provider 等。需要后续不断完善，降低K8s集群的运维难度。

CIO之家 微信公众号:imciow

Service Mesh 浅析：从概念、产品到实践

近几年，微服务架构逐渐发展成熟，从最初的星星之火到现在大规模的落地和实践，几乎已经成为分布式环境下的首选架构。 然而软件开发没有银弹，基于微服务构建的应用系统在享受其优势的同时，痛点也越加明显。 Service Mesh 技术也因此而生，受到越来越多的开发者关注，并拥有了大批拥趸。 本文会从概念介绍开始，让大家理解 Service Mesh 技术出现的原因以及愿景；接着会对目前最主流的两个产品 Istio 和 AWS App Mesh 进行详细的比较；最后简要介绍一下我们目前在该领域的一些探索与实践。 Service Mesh - 服务通信的济世良方 Service Mesh 是什么？ Service Mesh（中文译做服务网格）这一概念由 Buoyant 公司的 CEO，William Morg」n 首先提出。 2017 年 4 月该公司发布了第一个 Service Mesh 产品 Linkerd，这篇同一时间发表的文章 What’s a service mesh？ And why do I need one? 也被业界公认是 Service Mesh 的权威定义。 “A service mesh is a dedicated infrastructure layer for handling service-to-service communication. It’s responsible for the reliable delivery of requests through the complex topology of services that comprise a modern, cloud native application. In practice, the service mesh is typically implemented as an array of lightweight network proxies that are deployed alongside application code, without the application needing to be aware.” 其定义翻译为：Service Mesh 是一个处理服务通讯的专门的基础设施层。 它的职责是在由云原生应用组成服务的复杂拓扑结构下进行可靠的请求传送。 在实践中，它是一组和应用服务部署在一起的轻量级的网络代理，对应用服务透明。 这段话有点晦涩难懂，但只要抓住下面 4 个关键点就能轻松理解： 本质：基础设施层 功能：请求分发 部署形式：网络代理 特点：透明 如果用一句话来总结，我个人对它的定义是：Service Mesh 是一组用来处理服务间通讯的网络代理。 为什么需要 Service Mesh？ 上面晦涩抽象的定义很难让你真正理解 Service Mesh 存在的意义。 你可能会想，服务间通信（service-to-service communication）无非就是通过 RPC、HTTP 这些方式进行，有什么可处理的？没错，服务间只需要遵循这些标准协议进行交互就可以了，但是在微服务这样的分布式环境下，分散的服务势必带来交互的复杂性，而规模越大的系统其通信越加错综复杂。 分布式计算下的 8 个谬论 很好的归纳了分布式环境下存在的网络问题。 而为了解决这些问题，提高系统的容错能力和可用性，出现了服务注册与发现、负载均衡、熔断、降级、限流等等和通信相关的功能，而这些才是 Service Mesh 要真正处理的问题。 Pattern：Service Mesh 这篇文章详细的讲述了微服务架构下通讯处理的演进，由此引出 Service Mesh 出现的意义和核心价值。 下图为服务通信演变的过程：最初，流量管理和控制能力（比如图例中的熔断、服务发现）是和业务逻辑耦合在一起，即便以引用包的方式被调用，依然解决不了异构系统无法重用的问题。 流控功能和业务耦合相当不美好，于是出现了提供这些功能的公共库和框架。 但这些库通常比较复杂，无论是学习使用，与业务系统整合、维护都会带来很大的成本。 为避免花费太多时间开发和维护这些通用库，人们希望流量控制能力可以下沉到网络通讯栈的层面，但几乎无法实现。 于是另一种思路出现，就是将这些功能独立成一个代理，由它先接管业务服务的流量，处理完成后再转发给业务服务本身，这就是 Sidecar 模式。 为统一管理 Sidecar，该模式进一步进化，形成网络拓扑，增加了控制平面，演变成 Service Mesh（最后的网格图中，绿色代表业务服务，蓝色代表 sidecar 服务）。 可以说，Service Mesh 就是 Sidecar 的网络拓扑形态，Mesh 这个词也由此而来。 （关于 Sidecar 模式这里不做讨论，你可以自行 Google）。 业务系统的核心价值应该是业务本身，而不是服务，微服务只是一种实现手段，实现业务才是目标。 现有的微服务架构下，为解决可能出现的网络通信问题，提升系统的弹性，开发人员不得不花费大量时间和精力去实现流量控制相关的非业务需求，不能聚焦在业务本身。 而 Service Mesh 的出现解决了这一问题，带来了下面 2 个变革： 解决了微服务框架中的服务流量管理的痛点，使开发人员专注于业务本身； 将服务通信及相关管控功能从业务程序中分离并下层到基础设施层，使其和业务系统完全解耦。 在云原生应用中，面对数百个服务或数千个实例，单个业务链路的请求经由服务的拓扑路径可能会非常复杂，单独处理非常必要。 这就是 Service Mesh 的意义所在。 Service Mesh 的主要功能 那么 Service Mesh 到底能带来哪些实用的功能呢？可以把它们归纳为下面 4 个部分： 流量控制：流控是最主要也是最重要的功能，通过 Service Mesh，我们可以为应用提供智能路由（蓝绿部署、金丝雀发布、A/B test）、超时重试、熔断、故障注入、流量镜像等各种控制能力； -安全：在安全层面上，授权和身份认证也可以托管给 Service Mesh； 策略：可以为流量设置配额、黑白名单等策略； 可观察性：服务的可观察性一般是通过指标数据、日志、追踪三个方式展现的，目前的 Service Mesh 产品可以很容易和和主流的后端设施整合，提供给应用系统完整的监控能力。 通过上面的讲述，我相信 Service Mesh 的概念大家都已经有所了解。 接下来我们来介绍两个重要的网格产品，让大家进一步了解 Service Mesh 的产品形态是什么样的。 Istio vs AWS App Mesh - 开源与闭环之争 目前市面上比较成熟的开源服务网格主要有下面几个：Linkerd，这是第一个出现在公众视野的服务网格产品，由 Twitter 的 finagle 库衍生而来，目前由 Buoyant 公司负责开发和维护；Envoy，Lyft 开发并且是第一个从 CNCF 孵化的服务网格产品，定位于通用的数据平面或者单独作为 Sidecar 代理使用；Istio，由 Google、IBM、Lyft 联合开发的所谓第二代服务网格产品，控制平面的加入使得服务网格产品的形态更加完整。 从今年的风向看，作为构建云原生应用的重要一环，Service Mesh 已经被各大云厂商认可，并看好它的发展前景。 在 Istio 红透半边天的情况下，作为和 Google 在云服务市场竞争的 Amazon 来说，自然不愿错失这块巨大的蛋糕。 他们在今年 4 月份发布了自己的服务网格产品：AWS App Mesh。 这一部分内容我们会聚焦于 Istio 和 App Mesh 这两个产品，通过横向的对比分析让大家对 Service Mesh 的产品形态和两大云厂商的策略有一个更深入的认识。 产品定位 从官方的介绍来看，Istio 和 App Mesh 都明确的表示自己是一种服务网格产品。 Istio 强调了自己在连接、安全、控制和可视化 4 个方面的能力；而 App Mesh 主要强调了一致的可见性和流量控制这两方面能力，当然也少不了强调作为云平台下的产品的好处：托管服务，无需自己维护。 从某种程度上讲，Istio 是一个相对重一点的解决方案，提供了不限于流量管理的各个方面的能力；而 App Mesh 是更加纯粹的服务于运行在 AWS 之上的应用并提供流控功能。 笔者认为这和它目前的产品形态还不完善有关（后面会具体提到）。 从与 AWS 技术支持团队的沟通中可以感觉到，App Mesh 应该是一盘很大的棋，目前只是初期阶段。 核心术语 和 AWS 里很多产品一样，App Mesh 也不是独创，而是基于 Envoy 开发的。 AWS 这样的闭环生态必然要对其进行改进和整合。 同时，也为了把它封装成一个对外的服务，提供适当的 API 接口，在 App Mesh 这个产品中提出了下面几个重要的技术术语，我们来一一介绍一下。 服务网格（Service mesh）：服务间网络流量的逻辑边界。 这个概念比较好理解，就是为使用 App mesh 的服务圈一个虚拟的边界。 虚拟服务（Virtual services）：是真实服务的抽象。 真实服务可以是部署于抽象节点的服务，也可以是间接的通过路由指向的服务。 虚拟节点（Virtual nodes）：虚拟节点是指向特殊工作组（task group）的逻辑指针。 例如 AWS 的 ECS 服务，或者 Kubernetes 的 Deployment。 可以简单的把它理解为是物理节点或逻辑节点的抽象。 Envoy：AWS 改造后的 Envoy（未来会合并到 Envoy 的官方版本），作为 App Mesh 里的数据平面，Sidecar 代理。 虚拟路由器（Virtual routers）：用来处理来自虚拟服务的流量。 可以理解为它是一组路由规则的封装。 路由（Routes）：就是路由规则，用来根据这个规则分发请求。 上面的图展示了这几个概念的关系：当用户请求一个虚拟服务时，服务配置的路由器根据路由策略将请求指向对应的虚拟节点，这些节点最终会与集群中某个对外提供服务的 DNS 或者服务名一一对应。 那么这些 App Mesh 自创的术语是否能在 Istio 中找到相似甚至相同的对象呢？我归纳了下面的表格来做一个对比： App MeshIstio 服务网格（Service mesh）Istio并未显示的定义这一概念，我们可以认为在一个集群中，由Istio管理的服务集合，它们组成的网络拓扑即是服务网格。 虚拟服务（Virtual services）Istio中也存在虚拟服务的概念。 它的主要功能是定义路由规则，使请求可以根据这些规则被分发到对应的服务。 从这一点来说，它和App Mesh的虚拟服务的概念基本上是一致的。 虚拟节点（Virtual nodes）Istio没有虚拟节点的概念，可以认为类似Kubernetes里的Deployment。 虚拟路由器（Virtual routers）Istio也没有虚拟路由器的概念。 路由（Routes）Istio中的目标规则（DestinationRule）和路由的概念类似，为路由设置一些策略。 从配置层面讲，其中的子集（subset）和App Mesh路由里选择的目标即虚拟节点对应。 但Istio的目标规则更加灵活，也支持更多的路由策略。 从上面的对比看出，App Mesh 目前基本上实现了最主要的流量控制（路由）的功能，但像超时重试、熔断、流量复制等高级一些的功能还没有提供，有待进一步完善。 架构 AWS App Mesh 是一个商业产品，目前还没有找到架构上的技术细节，不过我们依然可以从现有的、公开的文档或介绍中发现一些有用的信息。 从这张官网的结构图中可以看出，每个服务的橙色部分就是 Sidecar 代理：Envoy。 而中间的 AWS App Mesh 其实就是控制平面，用来控制服务间的交互。 那么这个控制平面具体的功能是什么呢？我们可以从今年的 AWS Summit 的一篇 PPT 中看到这样的字样： 控制平面用来把逻辑意图转换成代理配置，并进行分发。 熟悉 Istio 架构的朋友有没有觉得似曾相识？没错，这个控制平面的职责和 Pilot 基本一致。 由此可见，不管什么产品的控制平面，也必须具备这些核心的功能。 那么在平台的支持方面呢？下面这张图展示了 App Mesh 可以被运行在如下的基础设施中，包括 EKS、ECS、EC2 等等。 当然，这些都必须存在于 AWS 这个闭环生态中。 而 Istio 这方面就相对弱一些。 尽管 Istio 宣称是支持多平台的，但目前来看和 Kubernetes 还是强依赖。 不过它并不受限于单一的云平台，这一点有较大的优势。 Istio 的架构大家都比较熟悉，数据平面由 Envoy sidecar 代理组成，控制平面包括了 Pilot、Mixer、Citadel、Galley 等控件。 它们的具体功能这里就不再赘述了，感兴趣的同学可以直接去 官网 查看详细信息。 功能与实现方式 部署 无论是 Istio 还是 App Mesh 都使用了控制平面+数据平面的模式，且 Sidecar 都使用了 Envoy 代理。 Istio 的控制平面组件较多，功能也更复杂，1.0.x 版本完整安装后的 CRD 有 50 个左右。 架构修改后 Mixer 的一些 adapter 被独立出去，crd 有所降低。 下面是最新的 1.4 版本，安装后仍然有 24 个 crd。 而 App Mesh 就简单得多，只针对核心概念添加了如下 3 个 crd，用一个 controller 进行管理。 尽管 Istio 更多的 crd 在一定程度上代表了更加丰富的功能，但同时也为维护和 troubleshooting 增加了困难。 流量控制 尽管两者的数据平面都基于 Envoy，但它们提供的流量控制能力目前还是有比较大的差距的。 在路由的设置方面，App Mesh 提供了相对比较丰富的匹配策略，基本能满足大部分使用场景。 下面是 App Mesh 控制台里的路由配置截图，可以看出，除了基本的 URI 前缀、HTTP Method 和 Scheme 外，也支持请求头的匹配。 Istio 的匹配策略更加完善，除了上面提到的，还包括 HTTP Authority，端口匹配，请求参数匹配等，具体信息可以从官方文档的虚拟服务设置查看。 下面两段 yaml 分别展示了两个产品在虚拟服务配置上的差异。 App Mesh 配置：Istio 配置：另外一个比较大的不同是，App Mesh 需要你对不同版本的服务分开定义（即定义成不同的虚拟服务），而 Istio 是通过目标规则 DestinationRule 里的子集 subsets 和路由配置做的关联。 本质上它们没有太大区别。 除了路由功能外，App Mesh 就显得捉襟见肘了。 就在笔者撰写本文时，AWS 刚刚添加了重试功能。 而 Istio 借助于强大的 Envoy，提供了全面的流量控制能力，如超时重试、故障注入、熔断、流量镜像等。 安全 在安全方面，两者的实现方式具有较大区别。 默认情况下，一个用户不能直接访问 App Mesh 的资源，需要通过 AWS 的 IAM 策略给用户授权。 比如下面的配置是容许用户用任意行为去操作网格内的任意资源：因此，App Mesh 的授权和认证都是基于 AWS 自身的 IAM 策略。 Istio 提供了两种认证方式，基于 mTLS 的传输认证，和 基于 JWT 的身份认证。 而 Istio 的授权是通过 RBAC 实现的，可以提供基于命名空间、服务和 HTTP 方法级别的访问控制。 这里就不具体展示了，大家可以通过官网 文档 来查看。 可观察性 一般来说，可以通过三种方式来观察你的应用：指标数据、分布式追踪、日志。 Istio 在这三个方面都有比较完整的支持。 指标方面，可以通过 Envoy 获取请求相关的数据，同时还提供了服务级别的指标，以及控制平面的指标来检测各个组件的运行情况。 通过内置的 Prometheus 来收集指标，并使用 Grafana 展示出来。 分布式追踪也支持各种主流的 OpenTracing 工具，如 Jaeger、Zipkin 等。 访问日志一般都通过 ELK 去完成收集、分析和展示。 另外，Istio 还拥有 Kiali 这样的可视化工具，给你提供整个网格以及微服务应用的拓扑视图。 总体来说，Istio 在可观察方面的能力是非常强大的，这主要是因为 Mixer 组件的插件特性带来了巨大的灵活性。 App Mesh 在这方面做的也不错。 从最新发布的 官方 repo 中，App Mesh 已经提供了集成主流监控工具的 helm chart，包括 Prometheus、Grafana、Jaeger 等。 同时，AWS 又一次发挥了自己闭环生态的优势，提供了与自家的监控工具 CloudWatch、X-Ray 的整合。 总的来说，App Mesh 在对服务的可观察性上也不落下风。 Amazon 与 Google 的棋局 AWS App Mesh 作为一个 2019 年 4 月份才发布的产品（GA），在功能的完整性上和 Istio 有差距也是情有可原的。 从 App Mesh 的 Roadmap 可以看出，很多重要的功能，比如熔断已经在开发计划中。 从笔者与 AWS 的支持团队了解的信息来看，他们相当重视这个产品，优先级很高，进度也比较快，之前还在预览阶段的重试功能在上个月也正式发布了。 另外，App Mesh 是可以免费使用的，用户只需要对其中的实例资源付费即可，没有额外费用。 对 AWS 来说，该产品的开发重点是和现有产品的整合，比如 Roadmap 列出的使用 AWS Gateway 作为 App Mesh 的 Ingress。 借助着自己的生态优势，这种整合即方便快捷的完善了 App Mesh，同时又让生态内的产品结合的更紧密，使得闭环更加的牢固，不得不说是一步好棋。 和 App Mesh 目前只强调流控能力不同，Istio 更多的是把自己打造成一个更加完善的、全面的服务网格系统。 架构优雅，功能强大，但性能上受到质疑。 在产品的更迭上貌似也做的不尽如人意（不过近期接连发布了 1.3 到 1.4 版本，让我们对它的未来发展又有了期待）。 Istio 的优势在于 3 大顶级技术公司加持的强大资源，加上开源社区的反哺，利用好的话容易形成可持续发展的局面，并成为下一个明星级产品。 然而 Google 目前对 Istio 的态度有一些若即若离，一方面很早就在自家的云服务 gcloud 里提供了 Istio 的默认安装选项，但同时又发布了和 Istio 有竞争关系的 Traffic director 这个托管的控制平面。 笔者的猜测是 Google 也意识到 Istio 的成熟不可能一蹴而就，鉴于网格技术托管需求的越发强烈，先提供一个轻量化的产品以占领市场。 目前各大厂商都意识到了网格技术的重要性并陆续推出了自己的产品（包括 AWS App Mesh，Kong 的 Kuma，国内的蚂蚁金服、腾讯云等），竞争也会逐渐激烈。 未来是三分天下还是一统山河，让我们拭目以待。 我们的实践 - 从 Service Mesh 迈向云原生 最后这部分给大家简要介绍一下我们（FreeWheel）在 Service Mesh 领域的实践。 希望通过一些前瞻性的探索，总结出最佳实践，为我们将来的微服务应用全面拥抱云原生提供一定的经验和指导。 目前我们已经开发完成的 Data service 项目就整合了 AWS App Mesh，即将上线，并使用网格的能力进行智能路由和发布。 Data service 项目只包含两个服务：Forecast service 和 Query service，前者作为业务服务通过 Query service 查询来自持久层（ClickHouse）的数据；后者作为数据访问代理，从持久层获取数据并进行对象化的封装。 这个 mini 的微服务系统非常适合作为一个先行者为我们探索网格的功能、性能、易用性等方面的能力，且范围足够小，不会影响到其他业务系统。 选择 AWS App Mesh 作为该项目的网格产品主要原因如下： FreeWheel 是一个重度使用 AWS 各项服务的公司，未来所有的服务也都会全部托管的 AWS 上。 作为一个闭环生态，App Mesh 可以和现有服务无缝整合，提高易用性； 相比 Istio 这样还不太成熟的开源产品，我们可以得到 AWS 技术团队的全力支持； 数据平面基于成熟高效的 Envoy，控制平面不存在 Istio 中的性能问题； 完全免费 下图是该项目的部署视图。 前端请求从我们的业务系统 UIF 发送到 Forecast service，它作为 App Mesh 的一个虚拟节点，调用 Data service 进行数据查询。 Data service 作为数据平面，会注入 App Mesh 的 sidecar 代理。 这两个服务组成了一个 Mesh 网格，并无缝整合在 AWS 的 EKS 中。 下图是网格内部的逻辑视图，展示了如何利用 App Mesh 进行智能路由。 Forecast service 作为调用者被定义为虚拟节点，Data service 作为虚拟服务，挂载着虚拟路由，内部根据需要可以设定若干路由规则。 用 App Mesh 实现一个金丝雀发布的过程非常简单：假设在 Data service 的新版本（V2）发布前，流量都被指向 V1 版本；此时我们在 App Mesh 里配置好一个新的路由规则，将 10%的流量指向新的 V2 版本；只需要将新的规则通过 kubectl apply -f 应用到集群中，金丝雀发布就可以完成，且无缝切换，对用户透明。 在后续的工作中，我们会先验证 App Mesh 的性能和可靠性，然后逐渐的将更多的流量控制（如超时重试、熔断等）功能添加进来，并总结出一整套可行的实施方案，供大家参考。 也欢迎对 Service Mesh 感兴趣的同学加入到我们的团队中，一起学习，共同进步。 总结 解耦是软件开发中永恒的主题，开发人员对消除重复的偏执是推动软件、以及架构模式演进的主要动力。 而 Service Mesh 的核心价值就是将服务通信功能从业务逻辑中解耦，并下沉为基础设施，由控制平面统一管理。 有人将 Service Mesh、Kubernetes 和 Serverless 技术称为云原生应用开发的三驾马车。 Kubernetes 是云应用实际意义上的操作系统；Service Mesh 将服务通信功能剥离，实现了与业务的解耦；Serverless 让你不用关心应用的服务器。 这三项技术让我们有能力实现应用开发的终极目标，那就是：只关注业务本身。 而它们，也会引领我们通向未来云原生应用的诗和远方。