<!--{subtemplate common/header_common}-->	<!--{if $_GET['mod'] == 'viewthread' && !empty($_G['tid'])}-->
	<link rel="canonical" href="https://www.qidao123.com/bbs/thread-{$_G['tid']}-1-1.html" />
	<!--{elseif $_GET['mod'] == 'forumdisplay' && !empty($_G['fid'])}-->
	<link rel="canonical" href="https://www.qidao123.com/bbs/forum-{$_G['fid']}-1.html" />
	<!--{elseif $_GET['mod'] == 'guide'}-->
	<link rel="canonical" href="https://www.qidao123.com/bbs/guide/" />
	<!--{elseif $_G['basescript'] == 'forum' && (empty($_GET['mod']) || $_GET['mod'] == 'index')}-->
	<link rel="canonical" href="https://www.qidao123.com/bbs/" />
	<!--{/if}-->
	r`n`t<meta name="application-name" content="$_G['setting']['bbname']" />
	<meta name="msapplication-tooltip" content="$_G['setting']['bbname']" />
	<!--{if $_G['setting']['portalstatus']}--><meta name="msapplication-task" content="name=$_G['setting']['navs'][1]['navname'];action-uri={echo !empty($_G['setting']['domain']['app']['portal']) ? $_G['scheme'].'://'.$_G['setting']['domain']['app']['portal'] : $_G[siteurl].'portal.php'};icon-uri={$_G[siteurl]}{IMGDIR}/portal.ico" /><!--{/if}-->
	<meta name="msapplication-task" content="name=$_G['setting']['navs'][2]['navname'];action-uri={echo !empty($_G['setting']['domain']['app']['forum']) ? $_G['scheme'].'://'.$_G['setting']['domain']['app']['forum'] : $_G[siteurl].'forum.php'};icon-uri={$_G[siteurl]}{IMGDIR}/bbs.ico" />
	<!--{if $_G['setting']['groupstatus']}--><meta name="msapplication-task" content="name=$_G['setting']['navs'][3]['navname'];action-uri={echo !empty($_G['setting']['domain']['app']['group']) ? $_G['scheme'].'://'.$_G['setting']['domain']['app']['group'] : $_G[siteurl].'group.php'};icon-uri={$_G[siteurl]}{IMGDIR}/group.ico" /><!--{/if}-->
	<!--{if helper_access::check_module('feed')}--><meta name="msapplication-task" content="name=$_G['setting']['navs'][4]['navname'];action-uri={echo !empty($_G['setting']['domain']['app']['home']) ? $_G['scheme'].'://'.$_G['setting']['domain']['app']['home'] : $_G[siteurl].'home.php'};icon-uri={$_G[siteurl]}{IMGDIR}/home.ico" /><!--{/if}-->
	<!--{if $_G['basescript'] == 'forum' && $_G['setting']['archiver']}-->
		<link rel="archives" title="$_G['setting']['bbname']" href="{$_G[siteurl]}archiver/" />
	<!--{/if}-->
	<!--{if !empty($rsshead)}-->$rsshead<!--{/if}-->
	<!--{if widthauto()}-->
		<link rel="stylesheet" id="css_widthauto" type="text/css" href='{$_G['setting']['csspath']}{STYLEID}_widthauto.css?{VERHASH}' />
		<script type="text/javascript">HTMLNODE.className += ' widthauto'</script>
	<!--{/if}-->
	<!--{if $_G['basescript'] == 'forum' || $_G['basescript'] == 'group'}-->
		<script type="text/javascript" src="{$_G[setting][jspath]}forum.js?{VERHASH}"></script>
	<!--{elseif $_G['basescript'] == 'home'}-->
		<script type="text/javascript" src="{$_G[setting][jspath]}home.js?{VERHASH}"></script>
	<!--{elseif $_G['basescript'] == 'portal'}-->
		<script type="text/javascript" src="{$_G[setting][jspath]}portal.js?{VERHASH}"></script>
	<!--{/if}-->
	<!--{if $_G['basescript'] != 'portal' && $_GET['diy'] == 'yes' && check_diy_perm($topic)}-->
		<script type="text/javascript" src="{$_G[setting][jspath]}portal.js?{VERHASH}"></script>
	<!--{/if}-->
	<!--{if $_GET['diy'] == 'yes' && check_diy_perm($topic)}-->
		<link rel="stylesheet" type="text/css" id="diy_common" href="{$_G['setting']['csspath']}{STYLEID}_css_diy.css?{VERHASH}" />
	<!--{/if}-->
</head>

<body id="nv_{$_G[basescript]}" class="pg_{CURMODULE}{if $_G['basescript'] === 'portal' && CURMODULE === 'list' && !empty($cat)} {$cat['bodycss']}{/if}" onkeydown="if(event.keyCode==27) return false;">
	<div id="append_parent"></div><div id="ajaxwaitid"></div>
	<!--{if $_GET['diy'] == 'yes' && check_diy_perm($topic)}-->
		<!--{template common/header_diy}-->
	<!--{/if}-->
	<!--{if check_diy_perm($topic)}-->
		<!--{template common/header_diynav}-->
	<!--{/if}-->
	<!--{if CURMODULE == 'topic' && $topic && empty($topic['useheader']) && check_diy_perm($topic)}-->
		$diynav
	<!--{/if}-->
	<!--{if empty($topic) || $topic['useheader']}-->
		<!--{if $_G['setting']['mobile']['allowmobile'] && (!$_G['setting']['cacheindexlife'] && !$_G['setting']['cachethreadon'] || $_G['uid']) && ($_GET['diy'] != 'yes' || !$_GET['inajax']) && ($_G['mobile'] != '' && $_G['cookie']['mobile'] == '' && $_GET['mobile'] != 'no')}-->
			<div class="xi1 bm bm_c">
			    {lang your_mobile_browser}<a href="{$_G['siteurl']}forum.php?mobile=yes">{lang go_to_mobile}</a> <span class="xg1">|</span> <a href="$_G['setting']['mobile']['nomobileurl']">{lang to_be_continue}</a>
			</div>
		<!--{/if}-->
		<!--{if !empty($_G['setting']['shortcut']) && $_G['member'][credits] >= $_G['setting']['shortcut']}-->
			<div id="shortcut">
				<span><a href="javascript:;" id="shortcutcloseid" title="{lang close}">{lang close}</a></span>
				{lang shortcut_notice}
				<a href="javascript:;" id="shortcuttip">{lang shortcut_add}</a>

			</div>
			<script type="text/javascript">setTimeout(setShortcut, 2000);</script>
		<!--{/if}-->
		<div id="toptb" class="cl">
			<!--{hook/global_cpnav_top}-->
			<div class="wp">
				<div class="z">
					<!--{loop $_G['setting']['topnavs'][0] $nav}-->
						<!--{if is_array($nav) && $nav['available'] && (!$nav['level'] || ($nav['level'] == 1 && $_G['uid']) || ($nav['level'] == 2 && $_G['adminid'] > 0) || ($nav['level'] == 3 && $_G['adminid'] == 1))}-->$nav[code]<!--{/if}-->
					<!--{/loop}-->
					<!--{hook/global_cpnav_extra1}-->
				</div>
				<div class="y">
					<a id="switchblind" href="javascript:;" onclick="toggleBlind(this)" title="{lang switch_blind}" class="switchblind"></a>
					<!--{hook/global_cpnav_extra2}-->
					<!--{loop $_G['setting']['topnavs'][1] $nav}-->
						<!--{if is_array($nav) && $nav['available'] && (!$nav['level'] || ($nav['level'] == 1 && $_G['uid']) || ($nav['level'] == 2 && $_G['adminid'] > 0) || ($nav['level'] == 3 && $_G['adminid'] == 1))}-->$nav[code]<!--{/if}-->
					<!--{/loop}-->
					<!--{if empty($_G['disabledwidthauto']) && $_G['setting']['switchwidthauto']}-->
						<a href="javascript:;" id="switchwidth" onclick="widthauto(this)" title="{if widthauto()}{lang switch_narrow}{else}{lang switch_wide}{/if}" class="switchwidth"><!--{if widthauto()}-->{lang switch_narrow}<!--{else}-->{lang switch_wide}<!--{/if}--></a>
					<!--{/if}-->
					<!--{if $_G['uid'] && !empty($_G['style']['extstyle'])}--><a id="sslct" href="javascript:;" onmouseover="delayShow(this, function() {showMenu({'ctrlid':'sslct','pos':'34!'})});">{lang changestyle}</a><!--{/if}-->
					<!--{if check_diy_perm($topic)}-->
						$diynav
					<!--{/if}-->
				</div>
			</div>
		</div>

		<!--{if !IS_ROBOT}-->
			<!--{if $_G['uid'] && !$_G['setting']['bbclosed'] && empty($_G['member']['freeze']) && $_G['member']['groupid'] != 5}-->
			<ul id="myprompt_menu" class="p_pop" style="display: none;">
				<li><a href="home.php?mod=space&do=pm" id="pm_ntc" style="background-repeat: no-repeat; background-position: 0 50%;"><em class="prompt_news{if empty($_G[member][newpm])}_0{/if}"></em>{lang pm_center}</a></li>
				<!--{if $_G['setting']['followstatus']}-->
					<li><a href="home.php?mod=follow&do=follower"><em class="prompt_follower{if empty($_G[member][newprompt_num][follower])}_0{/if}"></em><!--{lang notice_interactive_follower}-->{if $_G[member][newprompt_num][follower]}($_G[member][newprompt_num][follower]){/if}</a></li>
					<!--{if $_G[member][newprompt] && $_G[member][newprompt_num][follow]}-->
						<li><a href="home.php?mod=follow"><em class="prompt_concern"></em><!--{lang notice_interactive_follow}-->($_G[member][newprompt_num][follow])</a></li>
					<!--{/if}-->
				<!--{/if}-->
				<!--{if $_G[member][newprompt]}-->
					<!--{loop $_G['member']['category_num'] $key $val}-->
						<li><a href="home.php?mod=space&do=notice&view=$key"><em class="notice_$key"></em><!--{echo lang('template', 'notice_'.$key)}-->(<span class="rq">$val</span>)</a></li>
					<!--{/loop}-->
				<!--{/if}-->
				<!--{if empty($_G['cookie']['ignore_notice'])}-->
					<li class="ignore_noticeli"><a href="javascript:;" onclick="setcookie('ignore_notice', 1);hideMenu('myprompt_menu')" title="{lang temporarily_to_remind}"><em class="ignore_notice"></em></a></li>
				<!--{/if}-->
			</ul>
			<!--{/if}-->
			<!--{if $_G['uid'] && !empty($_G['style']['extstyle'])}-->
				<div id="sslct_menu" class="cl p_pop" style="display: none;">
					<!--{if !$_G[style][defaultextstyle]}--><span class="sslct_btn" onclick="extstyle('')" title="{lang default}"><i></i></span><!--{/if}-->
					<!--{loop $_G['style']['extstyle'] $extstyle}-->
						<span class="sslct_btn" onclick="extstyle('$extstyle[0]')" title="$extstyle[1]"><i style='background:$extstyle[2]'></i></span>
					<!--{/loop}-->
				</div>
			<!--{/if}-->
			<!--{if $_G['uid']}-->
				<ul id="myitem_menu" class="p_pop" style="display: none;">
					<!--{if $_G['setting']['forumstatus']}--><li><a href="home.php?mod=space&do=thread&view=me">{lang mypost}</a></li><!--{/if}-->
					<!--{if $_G['setting']['favoritestatus']}--><li><a href="home.php?mod=space&do=favorite&view=me">{lang favorite}</a></li><!--{/if}-->
					<!--{if $_G['setting']['friendstatus']}--><li><a href="home.php?mod=space&do=friend">{lang friends}</a></li><!--{/if}-->
					<!--{hook/global_myitem_extra}-->
				</ul>
			<!--{/if}-->
			<!--{subtemplate common/header_qmenu}-->
		<!--{/if}-->

		<!--{ad/headerbanner/wp a_h}-->
		<div id="hd">
			<div class="wp">
				<div class="hdc cl">
					<!--{eval $mnid = getcurrentnav();}-->
					<h2><!--{if !isset($_G['setting']['navlogos'][$mnid])}--><a href="{if $_G['setting']['domain']['app']['default']}{$_G['scheme']}://{$_G['setting']['domain']['app']['default']}/{else}./{/if}" title="$_G['setting']['bbname']">{$_G['style']['boardlogo']}</a><!--{else}-->$_G['setting']['navlogos'][$mnid]<!--{/if}--></h2>
					<!--{template common/header_userstatus}-->
				</div>

				<div id="nv">
					<a href="javascript:;" id="qmenu" onmouseover="delayShow(this, function () {showMenu({'ctrlid':'qmenu','pos':'34!','ctrlclass':'a','duration':2});showForummenu($_G[fid]);})">{lang my_nav}</a>
					<ul>
						<!--{loop $_G['setting']['navs'] $nav}-->
							<!--{if is_array($nav) && $nav['available'] && (!$nav['level'] || ($nav['level'] == 1 && $_G['uid']) || ($nav['level'] == 2 && $_G['adminid'] > 0) || ($nav['level'] == 3 && $_G['adminid'] == 1))}--><li {if $mnid == $nav[navid] || substr($_SERVER['REQUEST_URI'], 1) == str_replace('./', '', $nav[filename])}class="a" {/if}$nav[nav]></li><!--{/if}-->
						<!--{/loop}-->
					</ul>
					<!--{hook/global_nav_extra}-->
				</div>
				<!--{if !empty($_G['setting']['plugins']['jsmenu'])}-->
					<ul class="p_pop h_pop" id="plugin_menu" style="display: none">
					<!--{loop $_G['setting']['plugins']['jsmenu'] $module}-->
						 <!--{if in_array($module['adminid'], array(0, -1)) || ($module['adminid'] && $_G['adminid'] > 0 && $module['adminid'] >= $_G['adminid'])}-->
						 <li>$module[url]</li>
						 <!--{/if}-->
					<!--{/loop}-->
					</ul>
				<!--{/if}-->
				$_G[setting][menunavs]
				<div id="mu" class="cl">
				<!--{if $_G['setting']['subnavs']}-->
					<!--{loop $_G[setting][subnavs] $navid $subnav}-->
						<!--{if $_G['setting']['navsubhover'] || $mnid == $navid}-->
						<ul class="cl {if $mnid == $navid}current{/if}" id="snav_$navid"{if $mnid != $navid} style="display:none"{/if}>
						$subnav
						</ul>
						<!--{/if}-->
					<!--{/loop}-->
				<!--{/if}-->
				</div>
				<!--{ad/subnavbanner/a_mu}-->
				<!--{subtemplate common/pubsearchform}-->
			</div>
		</div>

		<!--{hook/global_header}-->
	<!--{/if}-->

	<div id="wp" class="wp">

qidao123.com ToB IT社区-企服评测·应用市场»论坛 › 容器及微服务 › 容器及微服务 › 基于 Prometheus+Grafana+Alertmanager 搭建 K8S 云监 ...
返回列表 发新帖

基于 Prometheus+Grafana+Alertmanager 搭建 K8S 云监控告警平台（附配置

[复制链接]
发表于 2024-10-8 02:09:07 | 显示全部楼层 |阅读模式

马上注册，结交更多好友，享用更多功能，让你轻松玩转社区。

您需要 登录 才可以下载或查看，没有账号？立即注册

×
目录

  • 一、机器规划
  • 二、摆设安装 node-exporter、prometheus、Grafana、kube-state-metrics

    • 1、创建 monitor-sa 定名空间
    • 2、安装node-exporter组件

      • 2.1、分析
      • 2.2、应用资源清单
      • 2.3、通过node-exporter采集数据

    • 3、k8s 集群中摆设 prometheus

      • 3.1、创建一个 sa 账号
      • 3.2、将 sa 账号 monitor 通过 clusterrolebing 绑定到 clusterrole 上
      • 3.3、创建数据目录
      • 3.4、安装prometheus

        • 3.4.1、将 prometheus.yml 文件以 ConfigMap 的形式举行管理
        • 3.4.2、应用 cm 资源清单
        • 3.4.3、通过 Deployment 摆设 prometheus
        • 3.4.4、应用 prometheus 资源清单
        • 3.4.5、给 prometheus 的 pod 创建一个 svc
        • 3.4.6、应用 svc 资源清单

      • 3.5、访问prometheus UI界面
      • 3.6、检察配置的服务发现

    • 4、prometheus热更新

      • 4.1、热加载 prometheus
      • 4.2、暴力重启 prometheus

    • 5、Grafana安装和配置

      • 5.1、下载 Grafana 必要的镜像
      • 5.2、在 k8s 集群各个节点导入 Grafana 镜像
      • 5.3、master 节点创建 grafana.yaml
      • 5.4、检察 Grafana 的 pod 和 svc
      • 5.5、检察 Grafana UI 界面
      • 5.6、给 Grafana 接入 Prometheus 数据源
      • 5.7、获取监控监控模板
      • 5.8、导入监控监控模板

    • 6、安装配置 kube-state-metrics 组件

      • 6.1、什么是 kube-state-metrics
      • 6.2、创建 sa ，并举行授权
      • 6.3、创建并应用 kube-state-metrics-deploy.yaml 文件
      • 6.4、创建并应用 kube-state-metrics-svc.yaml 文件
      • 6.5、获取 kube-state-metrics json 文件
      • 6.6、向 Grafana 导入 kube-state-metrics json 文件


  • 三、安装和配置 Alertmanager -- 发送告警到 QQ 邮箱

    • 1、将 alertmanager-cm.yaml 文件以 cm 形式举行管理

      • 1.1、alertmanager配置文件分析

    • 2、重新生成并应用 prometheus-cfg.yaml 文件
    • 3、重新生成 prometheus-deploy.yaml 文件

      • 3.1、创建一个名为 etcd-certs 的 Secret
      • 3.2、应用 prometheus-deploy.yaml 文件

    • 4、重新生成并创建 alertmanager-svc.yaml 文件
    • 5、访问 prometheus UI 界面

      • 5.1、【error】kube-controller-manager、etcd、kube-proxy、kube-scheduler 组件 connection refused

        • 5.1.1、kube-proxy
        • 5.1.2、kube-controller-manager
        • 5.1.3、kube-schedule
        • 5.1.4、etcd


    • 6、点击Alerts，检察
    • 7、把controller-manager的cpu使用率大于90%展开
    • 8、登录 alertmanager UI
    • 9、登录 QQ 邮箱检察告警信息

  • 四、配置 Alertmanager 报警 -- 发送告警到钉钉

    • 1、手机端拉群
    • 2、创建自定义机器人
    • 3、获取钉钉的 Webhook 插件
    • 4、启动钉钉告警插件
    • 5、对 alertmanager-cm.yaml 文件做备份
    • 6、重新生成新的 alertmanager-cm.yaml 文件
    • 7、重建资源以生效
    • 8、结果


一、机器规划

角色主机名ip 地点masterk8s-master1192.168.112.10nodek8s-node1192.168.112.20nodek8s-node2192.168.112.30平台VMware Workstation操纵系统CentOS Linux release 7.9.2009 (Core)内存、CPU4C4G磁盘大小20G SCSI二、摆设安装 node-exporter、prometheus、Grafana、kube-state-metrics

1、创建 monitor-sa 定名空间

master 节点操纵
  1. kubectl create ns monitor-sa
复制代码
2、安装node-exporter组件

master 节点操纵
  1. cat >> node-export.yaml  <<EOF
  2. apiVersion: apps/v1
  3. kind: DaemonSet
  4. metadata:
  5.   name: node-exporter
  6.   namespace: monitor-sa
  7.   labels:
  8.     name: node-exporter
  9. spec:
  10.   selector:
  11.     matchLabels:
  12.      name: node-exporter
  13.   template:
  14.     metadata:
  15.       labels:
  16.         name: node-exporter
  17.     spec:
  18.       hostPID: true
  19.       hostIPC: true
  20.       hostNetwork: true
  21.       containers:
  22.       - name: node-exporter
  23.         image: prom/node-exporter:v0.16.0
  24.         ports:
  25.         - containerPort: 9100
  26.         resources:
  27.           requests:
  28.             cpu: 0.15
  29.         securityContext:
  30.           privileged: true
  31.         args:
  32.         - --path.procfs
  33.         - /host/proc
  34.         - --path.sysfs
  35.         - /host/sys
  36.         - --collector.filesystem.ignored-mount-points
  37.         - '"^/(sys|proc|dev|host|etc)($|/)"'
  38.         volumeMounts:
  39.         - name: dev
  40.           mountPath: /host/dev
  41.         - name: proc
  42.           mountPath: /host/proc
  43.         - name: sys
  44.           mountPath: /host/sys
  45.         - name: rootfs
  46.           mountPath: /rootfs
  47.       tolerations:
  48.       - key: "node-role.kubernetes.io/master"
  49.         operator: "Exists"
  50.         effect: "NoSchedule"
  51.       volumes:
  52.         - name: proc
  53.           hostPath:
  54.             path: /proc
  55.         - name: dev
  56.           hostPath:
  57.             path: /dev
  58.         - name: sys
  59.           hostPath:
  60.             path: /sys
  61.         - name: rootfs
  62.           hostPath:
  63.             path: /
  64. EOF
复制代码
  1. kubectl apply -f node-export.yaml
  3. kubectl get pods -n monitor-sa -l name=node-exporter
复制代码

4.2、暴力重启 prometheus

热加载速度比较慢，可以暴力重启prometheus
如修改上面的prometheus-cfg.yaml文件之后，可执行如下强制删除
  1. # curl http://<master-ip>:9100/metrics
  3. curl http://192.168.112.10:9100/metrics
复制代码
线上最好热加载，暴力删除可能造成监控监控数据的丢失
5、Grafana安装和配置

5.1、下载 Grafana 必要的镜像
  1. kubectl create serviceaccount monitor -n monitor-sa
复制代码
5.2、在 k8s 集群各个节点导入 Grafana 镜像
  1. kubectl create clusterrolebinding monitor-clusterrolebinding -n monitor-sa --clusterrole=cluster-admin  --serviceaccount=monitor-sa:monitor
复制代码



5.3、master 节点创建 grafana.yaml

[code]cat >> grafana.yaml
回复

使用道具 举报

返回列表 发新帖
高级模式
B Color Image Link Quote Code Smilies
您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

登录后关闭弹窗

登录参与点评抽奖  加入IT实名职场社区
去登录

QQ|手机版|qidao123.com IT社区;IT企服评测▪应用市场 ( 浙ICP备20004199|浙ICP备20004199号 )|网站地图

GMT+8, 2026-11-14 09:14 , Processed in 0.037999 second(s), 7 queries , Redis On.

Powered by Discuz! X3.5 Licensed

© 2001-2026 Discuz! Team.

快速回复 返回顶部 返回列表