MySQL监控-Datadog数据库监控调研

　　阿里云官方镜像站：MySQ镜像源

　　https://developer.aliyun.com/mirror/?utm_content=g_1000303593

　　前言

　　MySQL是最流行的数据库之一，在大多系统的后端的存储都有MySQL的身影，MySQL运行的是否健康，直接影响着整个系统的运行，数据库的瓶颈往往也是整个系统的瓶颈，其重要性不言而喻，所以对于MySQL的监控必不可少，及时发现MySQL运行中的异常，可以有效提高系统的可用性和用户体验。

　　本文主要介绍下MySQL如何做监控，以及对Datadog的Database Monitoring的一些简单调研。

　　监控类型

　　Google提出在系统监控中的黄金指标，分别是Latency，Traffic，Saturation，Errors，MySQL一般作为资源类服务系统出现，在MySQL监控中也可以以这些指标为指引来进行指标收集和监控。

　　黄金指标

　　Latency延迟：比如MySQL中的查询的延迟，一条Select语句的延迟可能会直接影响用户体验，监控SQL语句的平均延迟，P99延迟可以提早发现对系统的影响。

　　Traffic：在MySQL中，查询的QPS是吞吐量的一种指标，比如MySQL服务器每秒可以支持多少查询，多少更新，吞吐量的指标也会影响到用户体验。

　　Saturation饱和度：饱和度是指系统的资源被消耗殆尽的程度，比如在MySQL最大连接数为300，当前连接数已经达到240的情况可能需要引起注意，因为可能在不久的将来会将连接数打满，导致新的连接进不来，影响上层服务的可用性。

　　Errors错误：MySQL中的Aborted_clients和Aborted_connects的增加往往意味了使用方在使用的时候出现了一些错误，需要引起注意，比如客户端在退出时没有调用mysql_close会导致Aborted_clients指标的增加，所以监控这个指标对于问题的排查很有帮助。

　　MySQL关键指标类型

　　黄金指标对于指标的监控有很大的指导意义，但是选取哪些指标，也是值得考量的，这里借用Datadog的一篇MySQL监控文章来描述MySQL监控中的关键指标。从性能和资源使用角度大致分为4类：

　　Query throuput：查询吞吐量，主要包括查询的QPS和更新QPS，用来表示延迟。

　　Query performance: 查询性能，主要包括查询的消耗的平均时间，查询错误指标，慢查询数量，分别包含吞吐量和错误。

　　Connections: 连接，主要包括当前打开连接数和运行连接数表示饱和度。错误连接数用来表示错误。

　　Buffer pool usage: 缓冲池使用情况，innodb_buffer_pool_reads表示InnoDB缓冲池无法满足的请求数，计算出的缓冲池中的页面使用数量使用率可以用表示资源的饱和度。

　　MySQL监控流程

　　MySQL的监控跟其他系统的监控类似，一般会包含指标日志类的数据收集，指标的可视化展示，指标告警，问题的排查等流程。

　　指标收集

　　MySQL的指标类型有很多，可以通过两种方式获取

　　服务内部状态/内部变量：一般通过show status或者show variable来获取，表示全局的一些指标。

　　peformance shema和sys schema，提供了更加底层的运行时的详细的指标信息。

　　可视化展示

　　通过Agent将指标数据采集到后端存储中，然后进行可视化展示，可视化仪表盘会将指标的历史值和当前值绘制成曲线，便于查看指标的变化，指标如果有明显的变化，从图表中可以明显的看出来，对于排查问题有一定的参考意义。

　　指标异常告警

　　在某个指标出现异常时，可以配置相应的告警，告警监控可以使用阈值设定或者AI算法来自动识别指标的异常，产生的告警可以分不同的严重等级，不同的等级可以配置不同的通知渠道，比如严重度低的发邮件提醒既可以，对于高严重度的指标异常，配置电话通知。

　　通过仪表盘或者告警，可以找到哪个指标出现了异常，然后根据不同的指标进行不同的排查方式，比如连接数超过最大连接数报警，可以调大数据库的最大连接数或者减少客户端的连接数。对于更复杂的场景，可能需要借助问题发生时其他的日志或者指标进行根因分析。

　　接下来以Datadog的数据库监控为例，来调研Datadog是如何做数据库监控的，文中图片来自Datadog官网。

　　Datadog 数据库监控

　　指标采集

　　Agent端采集

　　Datadog的指标采集是通过安装Agent来采集，Agent可以部署在自建机器或者云服务器上，可以连接到服务器即可。

　　指标数据

　　通过安装Datadog Agent到数据库所在服务器或者能连接到数据的服务器上，然后创建一个datadog用户，并且给datadog赋予一定的权限如REPLICATION CLIENT，PROCESS和SELECT ON performance_schema.*的权限。Datadog为了收集explain plan还会创建几个存储过程explain_statement，enable_events_statements_consumers。

　　日志数据

　　Datadog Agent支持采集MySQL服务器端General日志、错误日志、慢日志等，当然前提是MySQL服务端开启这些日志存储。

　　仪表盘

　　总体指标

　　MySQL总览，主要展示了收集的MySQL指标的整体态势。

　　Query Metrics

　　主要用来展示标准化查询（normalized query）的历史性能指标，可以按照查询数，平均延迟，消耗总时间，返回行数进行排序。

　　同时也可以根据标签或聚合维度来展示消耗了最多查询时间的Top查询和延迟。根据不同的维度来分组展示每个组的查询数，平均延迟，消耗总时间。

　　Query Details

　　在Query Metrics页面搜索特定的query，可以查看其Query Detail页面，在其中可以查看语句的平均延迟和查询总时间，同时页面还会展示查询关联的Datadog中标签，

　　查询页面除了延迟和消耗时间等，还会展示执行计划，时序和执行这条查询的主机分布。

　　执行计划页面，会展示不同的执行计划及其延迟和平均消耗。

　　性能指标页面，展示了一些常见指标的性能历史。

　　执行查询的主机分布页面，会展示执行当前查询的主机分布，通过菜单可以链接到主机的相关页面，这对于排查问题比较方便，比如某个主机上的查询延迟非常高，可以直接跳转到改主机的相关仪表盘页面进行查看。

　　Query Samples

　　主要包含采样查询的性能数据，延迟，消耗和执行计划，同时也支持按照Table来展示Top消耗的查询语句。

　　告警

　　Datadog提供了对于指标的监控告警，主要支持五种监控类型，包括：

　　Thresold Alert：阈值监控。

　　Change Alert: 事件变更监控。

　　Anomaly Dectection：异常检测，使用机器学习算法来判断指标的异常。

　　Outlier Alert：离群点检测告警。

　　Forecast Alert：预测告警。

　　总结

　　本文首先介绍了数据库监控的关键指标和MySQL监控的一般流程主要包括指标收集，可视化展示，指标异常告警。然后通过对Datadog的数据库监控产品做介绍，除了常规的总体指标展示，Datadog的数据库监控还提供了Query相关的指标，分别包括Query Metrics，Query Detail和Query Samples，从查询的角度进行监控和分析统计，除了Query级别的指标展示，还包括对执行计划的展示，同时也支持从仪表盘Drill down到主机级别查看资源指标，通过这些仪表盘可以比较方便的看出指标的异常。

　　本文转自：https://developer.aliyun.com/article/809609


       ymf