云原生之深入解析Kubernetes中服务的性能

一、Pyroscope 简介

① 什么是 Pyroscope？

• 开发人员通常需要查看生产应用程序中的性能瓶颈以确定问题的原因，为此通常需要可以通过日志和代码工具收集的信息。不幸的是，这种方法通常很耗时，并且不能提供有关潜在问题的足够详细信息。
• 一种现代且更先进的方法是应用和使用分析技术和工具来突出显示最慢的应用程序代码，即消耗大部分资源的区域。现在将讨论持续分析，然后使用名为 Pyroscope 的开源工具检测在 Kubernetes 上运行的微服务。
• 必须对代码进行分析、调试和审查，以确定使其运行得更快的最有效方法。使用分析工具检查应用程序的代码有助于我们定位和修复性能瓶颈。这可以快速诊断应用程序的执行情况，并使程序员能够深入了解性能不佳的核心细节。结果是一个简化的代码库，减少了 CPU/内存消耗，使用户体验更好。
• Profiling 是一种程序分析，用于测量程序的内存、时间复杂度或函数调用的频率和持续时间。分析信息用于帮助程序优化和性能，Profiler 程序可以跟踪每一行代码。

② 连续分析

• Continuous Profiler 用于更快、更轻松地进行故障排除。Continuous Profiler 是生产代码分析器，可随时间分析整个环境中的代码级性能。
• 随着配置文件的不断收集，它们可以在引入新代码后快速揭示资源最密集的特性（或代码行）。优化可以减少最终云提供商帐户和用户的延迟。

③ 有哪些连续分析器？

• Pyroscope：Pyroscope 是一个开源平台，由服务器和代理组成，它允许用户以 CPU 和磁盘高效的方式收集、存储和查询分析数据。
• Parca：Parca 收集、存储和提供配置文件，以便随着时间的推移进行查询，它是开源的，可以部署在生产环境中，因为 Parca 专注于对两种主要类型的配置文件进行采样分析：跟踪和采样。
• Datadog：Datadog Continuous Profiler 始终在任何环境（包括生产环境）中分析和比较代码性能，它指出了由低效代码导致的难以复制的生产问题。还具有自动代码分析洞察力。
• Google - Cloud Profiler：Cloud Profiler 是一种低开销的统计分析器，可从生产应用程序中持续收集 CPU 使用率和内存分配信息，它具有可操作的应用程序分析、低影响的生产 Profilin 和广泛的平台支持。

④ 为什么使用 Pyroscope？

• 在开始探索 Pyroscope 之前，来看看它与市场上其他少数可用的连续分析工具有何不同。DataDog 和 Google Cloud Profiler 在业界被广泛使用，正如一位 Reddit 用户所指出的，以下是 Pyroscope 比其他两个更好的一些原因。
• Datadog、Google Cloud 和 Pyroscope 连续分析功能的比较：

• Pyroscope 专注于构建专门用于分析数据的存储引擎，以尽可能高效地存储和查询数据。它使用代理服务器模型将配置文件从应用程序发送到 Pyroscope 服务器：

• Pyroscope 允许任何语言的分析器向其发送数据，并让存储引擎有效地存储该数据。例如，Pyroscope 具有针对 Go、Python、Ruby、eBPF、Java、.NET、PHP 和 Rust 的语言特定代理。
• 另一方面，Parca 采用了稍微不同的方法，它依赖 eBPF 来编译 C、C++、Go 等语言。与 Pyroscope 类似，它也可以从 HTTP 端点读取任何pprof 格式的配置文件。
• 从理论上讲，由于所有这些语言最终都会编译下来并在内核上运行，因此 eBPF 应该适用于这些语言中的任何一种。然而，在实践中，如果你真的为 Python 等解释性语言运行 eBPF，在许多情况下，函数名称对人类来说是不可读的。这是因为符号不是以这些语言存储的。
• 出于这个原因，Pyroscope 同时支持特定于语言的分析器和 eBPF 分析器。与仅在内核级别运行的 eBPF 相比，这以集成语言特定代理的工作量稍多为代价，但它也带来了更多可操作和人类可读的配置文件的好处。

二、如何安装 Pyroscope？

• 无论使用什么，Docker、Linux，或者正在寻找 Ruby 或 Go 文档，Pyroscope 都可以启动服务器，然后再启动代理。即使目标是 10 秒或 10 个月的软件分析数据，他们定制设计的存储引擎也可以进行快速查询。
• 使用 minikube 来运行 Kubernetes 集群，使用 minikube 创建集群：

minikube start

• 添加 Helm 图表存储库：

helm repo add pyroscope-io https://pyroscope-io.github.io/helm-chart

• 安装 Helm 图表：

helm install pyroscope pyroscope-io/pyroscope --set service.type=NodePort

• 检查 Pyroscope Helm 图表安装成功：

helm list

• 检查 Pyroscope 是否正在运行：

kubectl get all

• 现在 Kubernetes 集群中运行了 Pyroscope，那么将继续使用该应用程序的步骤，这里使用 Google 微服务来进行此演示。

三、将 Google 微服务演示与 Pyroscope 集成

• 需要修改容器镜像以使用 pyroscope 二进制文件，这个二进制文件将启动应用程序并注入自己进行监控。使用来自 Google 微服务的 Python、Go 和 .NET 微服务进行演示，所有修改都推送到GitHub 上的 Google 微服务分支，来看看每个服务的这些更改。
• 要在 Google 微服务演示中试用 Pyroscope，无需自己构建 Docker 镜像，可以只应用 Kubernetes 清单，如从微服务获取分析数据部分所示。

① Python

• 将使用 Python 编写的电子邮件服务应用程序，在 DockerfilePyroscope 中使用 Python 应用程序需要进行以下更改：

COPY --from=pyroscope/pyroscope:latest /usr/bin/pyroscope /usr/bin/pyroscope
CMD [ "pyroscope", "exec", "python", "email_server.py" ]

• 编辑 Dockerfile 后，在同一文件夹下，继续构建和推送镜像：

docker build . -t beellzrocks/emailservice:latest
docker push beellzrocks/emailservice:latest

② .NET

• 使用适用于 .NET 的应用程序 Cart Service，要将 .NET 应用程序与 Pyroscope 一起使用，需要对 Dockerfile 进行以下更改：

COPY --from=pyroscope/pyroscope:latest /usr/bin/pyroscope /usr/bin/pyroscope
ENTRYPOINT ["pyroscope", "exec", "-spy-name", "dotnetspy", "/app/cartservice"]

• 编辑 Dockerfile 后，继续构建和推送镜像。

③ GO

• 采用 Go 编写的 Product Catalog Service 应用程序，要使用带有 Pyroscope 的 Go 应用程序，需要对 server.go 进行以下更改：

import (
  pyroscope "github.com/pyroscope-io/pyroscope/pkg/agent/profiler"
)

func main() {

  pyroscope.Start(pyroscope.Config{
    ApplicationName: os.Getenv("APPLICATION_NAME"),
    ServerAddress:   os.Getenv("SERVER_ADDRESS"),
  })
  // code here
)

• 编辑 server.go 后，继续构建和推送镜像。

四、从微服务获取分析数据

• 修改 Kubernetes 清单以将图像与 Pyroscope 一起使用，该 kubernetes-manifests.yaml 文件包含所有应用程序的资源，再对其进行编辑以使用在上述步骤中构建的镜像，即电子邮件服务、购物车服务、产品目录服务：

containers:
  - name: server
    image: beellzrocks/emailservice

• 在 Kubernetes 中运行 Pyroscope 时，需要做以下更改：
• • 添加 SYS_PTRACE 能力；
• • 告诉代理 Pyroscope 服务器的位置，以及使用环境变量的应用程序名称。

containers:
      - name: server
        env:
        - name: PYROSCOPE_SERVER_ADDRESS # To change Pyroscope Server Port change the value
          value: "http://pyroscope:4040"
        - name: PYROSCOPE_APPLICATION_NAME # Application name shown in the UI
          value: "email.service" 
        securityContext:
          capabilities:
            add:
            - SYS_PTRACE

• 现在，要部署所有服务，可以将 Kubernetes 清单应用到集群：

kubectl apply -f https://raw.githubusercontent.com/infracloudio/microservices-demo-dev/master/release/kubernetes-manifests.yaml

• 获取 Pyroscope 的服务 url：

minikube service pyroscope

|-----------|-----------|-------------|---------------------------|
| NAMESPACE |   NAME    | TARGET PORT |            URL            |
|-----------|-----------|-------------|---------------------------|
| default   | pyroscope | http/4040   | http://192.168.49.2:30639 |
|-----------|-----------|-------------|---------------------------|
	Opening service default/pyroscope in default browser

• 要访问 Pyroscope UI，可以访问 URL：http://192.168.49.2:30639（依据上述反馈打开实际地址）：

• 正如在上面的屏幕截图中看到的，Pyroscope 本身在本地存储数据时占用的 CPU 使用率很低，它使用 Badger 数据库在本地存储数据。

五、Pyroscope 资源利用

• 监控 Kubernetes pod 在资源使用、利用率和成本控制方面也很重要，Pyroscope 使用低资源和低开销，Pyroscope CPU 利用率如下所示：

六、使用 Pyroscope 进行监控

• Pyroscope 根据编程语言使用不同的代理来分析代码，如下是一些使用 Pyroscope 的分析应用程序的火焰图示例：
• • 带有 Go 产品目录服务应用程序的 Pyroscope：

• • Pyroscope 与 .Net Cart 应用程序：

• • 带有 Python 电子邮件应用程序的 Pyroscope：
    

七、结论

• 持续分析性能是满足最终用户期望的关键因素，如果出现性能问题，必须准备好在影响最终用户体验之前诊断问题。因此，需要继续优化应用程序并立即解决问题，以继续使用 Pyroscope 等工具为用户提供超快速的应用程序性能。