tidb初级课程体验8(文件和日志与监控)

wx5c241fe5127d0 wx5c241fe5127d0     2022-11-28     703

关键词:

TIDB

TIDB 是一个分布式数据库,那么与单机相比,他的文件的分布式使用与单机架构的数据库是有不同的。

一般我们的数据库包含有如下几类问题

1  数据文件

2  配置文件

3  数据日志文件

4  告警错误文件


TIDB


从图中看,TIDB分布式数据库的文件的分布和其他的数据库是不同的,TIDB作为客户端来说他不具有数据文件, 而PD中的数据文件是整体系统的元数据文件存储位置。TIKV 是用户数据的存储的位置。


通过tiup cluster edit-config 命令可以打开整体集群的配置文件,其中包含

deploy_dir  和 data_dir  两个文件存放地。


TIDB


在安装TIUP 的节点,我们直接使用TIDB 的TIUP 打开配置文件的命令

tiup cluster edit-config tidb-test

直接打开配置文件

TIDB


配置文件的内容可以了解不少TIDB 集群的信息

global:

  user: root    #当前操作TIDB 的LINUX 账号是什么 (这里偷懒了,使用ROOT)

  ssh_port: 22 # 集群之间服务器的沟通的通道(免密)

  ssh_type: builtin 

  deploy_dir: /tidb-deploy   tidb 执行文件的部署目录

  data_dir: /tidb-data           tidb 数据文件的部署的目录

  os: linux

  arch: amd64

tidb_servers:       #tidb server 配置的信息

- host: 192.168.198.100

  ssh_port: 22

  port: 4000

  status_port: 10080

  deploy_dir: /tidb-deploy/tidb-4000

  log_dir: /tidb-deploy/tidb-4000/log

  arch: amd64

  os: linux

tikv_servers:       #tikv 配置信息

- host: 192.168.198.101

  ssh_port: 22

  port: 20160

  status_port: 20180

  deploy_dir: /tidb-deploy/tikv-20160

  data_dir: /tidb-data/tikv-20160

  log_dir: /tidb-deploy/tikv-20160/log

  arch: amd64

  os: linux

- host: 192.168.198.102

  ssh_port: 22

  port: 20160

  status_port: 20180

  deploy_dir: /tidb-deploy/tikv-20160

  data_dir: /tidb-data/tikv-20160

  log_dir: /tidb-deploy/tikv-20160/log

  arch: amd64

  os: linux

从上面的配置文件可以很清晰的看到,整体集群的信息,其中可以看到有些配置模块是没有 data_dir  但deploy 和  log 都有相关的配置.



其中tidb  的文件夹中包含, conf文件, 二进制程序文件,日志文件 ,另外在tidb_data中存放的是tidb server的监控数据。


TIKV 节点在 /tidb_deploy  与TIDB server 的文件夹一致, 而tidb_data中包含了 tikv-20160 文件夹,与TIKV 有关的数据文件等


PD节点, 与上面的节点一致,主要的不同在 tidb_data  ,  其中包含 region-meta  和整体的成员数据。


在TIDB 的节点中,我们可以在日志目录发现三类日志

TIDB


分别是 tidb 日志,  tidb慢查询文件  , tidb 标准错误输出


tidb 的配置文件

TIDB


也可以从脚本中看到tidb  启动的命令

TIDB


TIDB 的监控通过两个组件完成,普罗米修斯的监控和grafana 展示系统

TIDB

同时还包含另一个TIDB的监控系统 tidb dashboard ,这个是部署在PD节点中的,这个监控不是你愿意不愿意部署,在按住TIDB 就部署在TIDB 系统中的。

TIDB

其中TIDB DASHBORAD 包含整体系统的状态,

1 集群的整体运行情况

2 组件与组件的运行状态

3 分析集群读写与写流量分布于趋势分析

4  SQL 慢查询分析

5  SQL 语句执行的信息

6  自动判断集群的状态与产生报告,并且可以汇总整体节点的日志信息,分析各个组件的性能数据。



TIDB


这里两个访问的系统的地址和断开

grafana的地址在3000 断开 而 TIDB 的dashboard 在 PD 的2379端口

TIDB

报警的参数设置在proetheus 中,报警系统的报警级别包含

1  警告级别:类似数据库中的warning信息

2  严重级别 :性能异常

3  紧急级别:节点可能DOWN机


在 grafana中包含常用的指标 system_info

CPU, 内存, CPU&内存使用率,网络状态

Service port status 可以查看整体系统中DOWN掉的节点

TIDB


TIKV 的监控中可以查看每个节点的热度与数据的均衡性。

TIDB


系统的TIDB Dashboard  是在 PD中的监控,通过监控PD来了解当前的系统的状态。

TIDB


这里对TIDB的监控系统的总结


1  TIDB 的监控包含两个系统,需要单独安装,和自动就继承在系统中的系统

2  Monitor 系统包含对所有节点的数据的监控和报警选择,dashboard  是对PD 中的数据进行监控,其中可以分析整体系统的运行的情况


首先我们先确认TIDB 集群的状态

tiup cluster display tidb-test


TIDB

从http://192.168.198.103:2379/dashboard  PD 节点上查看 TIDB dashboard

TIDB

这里通过PD 中的信息进行一些监控如慢查询 ,系统架构信息

TIDB

TIDB


TIDB




TIDB


tidb沙箱环境初体验

...全面,这和传统巨头Oracle的服务支持路径很像。培训课程,由浅入深,适合不同的人群,培训讲师,更是相当有经验,包老师,富有磁性 查看详情

springcloud实战之初级入门—利用hystrix实现服务熔断与服务监控

目录1.环境介绍2.服务监控2.1加入依赖2.2修改配置文件2.3修改启动文件2.4监控服务2.5小结3.利用hystrix实现消费服务熔断3.1加入服务熔断3.2测试服务熔断4.利用turbine监控所有应用4.1创建工程4.2修改配置文件4.3修改启动文件4.4启动5.一... 查看详情

日志监控告警系统

课程介绍课程名称:日志监控告警系统基于的日志进行监控,监控需要一定规则,对触发监控规则的日志信息进行告警,告警的方式,是短信和邮件。log4j---->error,info,debug应用程序程序的日志 error级别TimeOutException角标越界I... 查看详情

greenplum监控与运维

...象的元数据信息5.查看会话的内存使用6.查看查询的工作文件使用7.查看服务器日志文件8.使用gp_toolkit9.SQL标准错误码二、例行系统运维任务1.例行vacuum与analyze2.例行重建索引3.管理GP数据库日志文件三、推荐的监控与运维任务1.监... 查看详情

greenplum监控与运维

...象的元数据信息5.查看会话的内存使用6.查看查询的工作文件使用7.查看服务器日志文件8.使用gp_toolkit9.SQL标准错误码二、例行系统运维任务1.例行vacuum与analyze2.例行重建索引3.管理GP数据库日志文件三、推荐的监控与运维任务1.监... 查看详情

elk日志分析系统初体验

参考技术AELKlogstashelasticsearchkibanaELK技术栈要点总结官方文档之安装教程Mac第三方工具安装$brewinstalllogstash********启动命令********$bin/logstash-flogstash-example.confLogstash根据logstash-example.conf配置文件对数据源进行数据读取和清洗,并将清... 查看详情

tidb监控框架概述

TiDB使用开源时序数据库 Prometheus 作为监控和性能指标信息存储方案,使用 Grafana 作为可视化组件进行展示。Prometheus在TiDB中的应用Prometheus是一个拥有多维度数据模型的、灵活的查询语句的时序数据库。Prometheus作为热门的... 查看详情

tidb查询优化及调优系列慢查询诊断监控及排查(代码片段)

本章节介绍如何利用TiDB提供的系统监控诊断工具,对运行负载中的查询进行排查和诊断。除了上一章节介绍的通过EXPLAIN语句来查看诊断查询计划问题外,本章节主要会介绍通过TiDBSlowQuery慢查询内存表,以及TiDBDashboar... 查看详情

tiup部署tidb数据库集群

...景:利用本地Mac或者单机Linux环境快速部署TiDB测试集群,体验TiDB集群的基本架构,以及TiDB、TiKV、PD、监控等基础组件的运行。1、创建tidb用户组及用户[root@tidbhome]#groupaddtidb[root@tidbhome]#useraddtidb-r-m-gtidb2、关闭防火墙[root@tidb~]#syst... 查看详情

pingcapx亚马逊云科技,为tidb云端体验“加冕”

2021年9月,TiDB登陆亚马逊云科技Marketplace(中国区),为数据库用户和PingCAP自身带来了多方面的成效。为了帮助更多的数据库用户从云原生的架构中获益,PingCAP决定与亚马逊云科技合作,并由亚马逊云科... 查看详情

apache服务器的的日志监控

...能力和服务水平似乎必不可少的。通过对web服务器的日志文件进行分析和统计,能够有效的掌握系统运行的情况及站点内容的被访问情况,加强对整个站及其内容的维护与管理;管理web网站需要监视其速度、web内容传送,服务器... 查看详情

syslog日志分析与监控(代码片段)

Syslog日志分析与监控网络管理工具应同时具备主动监控和被动监控能力。主动监控是指主动保持网络正常运行,即不间断扫描网络,预防宕机。被动监控是指具备强大的排除故障机制,当发生网络故障时,分析解决。Syslog监控是... 查看详情

8.kong入门与实战基于nginx和openresty的云原生微服务网关---指标监控与报警(代码片段)

第 8章指标监控与报警  常见的监控指标有,cpu使用率,内使用率,GC,磁盘IO,网络流量,网络延迟,请求速度,请求排队,链接数,用户态与内核态的上下文切换等。 指标监控和报警主要分为以下6个方面: 1.采集指标数据... 查看详情

日志监控告警系统的设计与实现(代码片段)

日志监控告警系统基于的日志进行监控,监控需要一定规则,对触发监控规则的日志信息进行告警,告警的方式,是短信和邮件。log4j---->error,info,debug应用程序程序的日志 error级别TimeOutException角标越界IndexXXXExce... 查看详情

docker学习-容器监控与日志管理

当Docker部署规模变大后,需要对容器进行监控,一般Docker自带几个监控子命令ps、top和stats,然后是现在流行的开源监控工具PrometheusDocker自带的监控子命令psdockerps,列出容器,方便查看当前的运行的容器,以下是命令语法与参数语... 查看详情

数据源监控与预警

...应为数据接入过来的时候,已经记录了相关的日志。比方文件到达时间,文件总个数,文件里总记录数,文件大小,数据日期等,如今要对这些指标进行监控并及时预警(发短信或邮件到相应的负责人),并记录到预警表中。好... 查看详情

云存储对象存储管理与安全的知识你真的都了解吗?

...数据处理等服务,给客户提供更好的体验和更多服务。本课程主要讲解海量、安全、低成本、高可靠的云存储服务——对象存储的常用操作、文件上传下载和安全设置,带你玩转云存储。认证流程1购买认证 2学习课程/在线实... 查看详情

当日志文件中的时间与主机时间不同步时,怎么监控每隔五分钟检测一次日志文件是否出自按某个关键字?(代码片段)

今有需求:需要监控每隔五分钟检测一次日志文件是否出自按某个关键字。利用过滤全部的日志信息虽然可以过滤出来关键字告警,但是修复后,依然还是会报警,存在局限性,所以需要使用以下办法来实现需求。本想循环获取... 查看详情