<!--{subtemplate common/header_common}-->	<!--{if $_GET['mod'] == 'viewthread' && !empty($_G['tid'])}-->
	<link rel="canonical" href="https://www.qidao123.com/bbs/thread-{$_G['tid']}-1-1.html" />
	<!--{elseif $_GET['mod'] == 'forumdisplay' && !empty($_G['fid'])}-->
	<link rel="canonical" href="https://www.qidao123.com/bbs/forum-{$_G['fid']}-1.html" />
	<!--{elseif $_GET['mod'] == 'guide'}-->
	<link rel="canonical" href="https://www.qidao123.com/bbs/guide/" />
	<!--{elseif $_G['basescript'] == 'forum' && (empty($_GET['mod']) || $_GET['mod'] == 'index')}-->
	<link rel="canonical" href="https://www.qidao123.com/bbs/" />
	<!--{/if}-->
	r`n`t<meta name="application-name" content="$_G['setting']['bbname']" />
	<meta name="msapplication-tooltip" content="$_G['setting']['bbname']" />
	<!--{if $_G['setting']['portalstatus']}--><meta name="msapplication-task" content="name=$_G['setting']['navs'][1]['navname'];action-uri={echo !empty($_G['setting']['domain']['app']['portal']) ? $_G['scheme'].'://'.$_G['setting']['domain']['app']['portal'] : $_G[siteurl].'portal.php'};icon-uri={$_G[siteurl]}{IMGDIR}/portal.ico" /><!--{/if}-->
	<meta name="msapplication-task" content="name=$_G['setting']['navs'][2]['navname'];action-uri={echo !empty($_G['setting']['domain']['app']['forum']) ? $_G['scheme'].'://'.$_G['setting']['domain']['app']['forum'] : $_G[siteurl].'forum.php'};icon-uri={$_G[siteurl]}{IMGDIR}/bbs.ico" />
	<!--{if $_G['setting']['groupstatus']}--><meta name="msapplication-task" content="name=$_G['setting']['navs'][3]['navname'];action-uri={echo !empty($_G['setting']['domain']['app']['group']) ? $_G['scheme'].'://'.$_G['setting']['domain']['app']['group'] : $_G[siteurl].'group.php'};icon-uri={$_G[siteurl]}{IMGDIR}/group.ico" /><!--{/if}-->
	<!--{if helper_access::check_module('feed')}--><meta name="msapplication-task" content="name=$_G['setting']['navs'][4]['navname'];action-uri={echo !empty($_G['setting']['domain']['app']['home']) ? $_G['scheme'].'://'.$_G['setting']['domain']['app']['home'] : $_G[siteurl].'home.php'};icon-uri={$_G[siteurl]}{IMGDIR}/home.ico" /><!--{/if}-->
	<!--{if $_G['basescript'] == 'forum' && $_G['setting']['archiver']}-->
		<link rel="archives" title="$_G['setting']['bbname']" href="{$_G[siteurl]}archiver/" />
	<!--{/if}-->
	<!--{if !empty($rsshead)}-->$rsshead<!--{/if}-->
	<!--{if widthauto()}-->
		<link rel="stylesheet" id="css_widthauto" type="text/css" href='{$_G['setting']['csspath']}{STYLEID}_widthauto.css?{VERHASH}' />
		<script type="text/javascript">HTMLNODE.className += ' widthauto'</script>
	<!--{/if}-->
	<!--{if $_G['basescript'] == 'forum' || $_G['basescript'] == 'group'}-->
		<script type="text/javascript" src="{$_G[setting][jspath]}forum.js?{VERHASH}"></script>
	<!--{elseif $_G['basescript'] == 'home'}-->
		<script type="text/javascript" src="{$_G[setting][jspath]}home.js?{VERHASH}"></script>
	<!--{elseif $_G['basescript'] == 'portal'}-->
		<script type="text/javascript" src="{$_G[setting][jspath]}portal.js?{VERHASH}"></script>
	<!--{/if}-->
	<!--{if $_G['basescript'] != 'portal' && $_GET['diy'] == 'yes' && check_diy_perm($topic)}-->
		<script type="text/javascript" src="{$_G[setting][jspath]}portal.js?{VERHASH}"></script>
	<!--{/if}-->
	<!--{if $_GET['diy'] == 'yes' && check_diy_perm($topic)}-->
		<link rel="stylesheet" type="text/css" id="diy_common" href="{$_G['setting']['csspath']}{STYLEID}_css_diy.css?{VERHASH}" />
	<!--{/if}-->
</head>

<body id="nv_{$_G[basescript]}" class="pg_{CURMODULE}{if $_G['basescript'] === 'portal' && CURMODULE === 'list' && !empty($cat)} {$cat['bodycss']}{/if}" onkeydown="if(event.keyCode==27) return false;">
	<div id="append_parent"></div><div id="ajaxwaitid"></div>
	<!--{if $_GET['diy'] == 'yes' && check_diy_perm($topic)}-->
		<!--{template common/header_diy}-->
	<!--{/if}-->
	<!--{if check_diy_perm($topic)}-->
		<!--{template common/header_diynav}-->
	<!--{/if}-->
	<!--{if CURMODULE == 'topic' && $topic && empty($topic['useheader']) && check_diy_perm($topic)}-->
		$diynav
	<!--{/if}-->
	<!--{if empty($topic) || $topic['useheader']}-->
		<!--{if $_G['setting']['mobile']['allowmobile'] && (!$_G['setting']['cacheindexlife'] && !$_G['setting']['cachethreadon'] || $_G['uid']) && ($_GET['diy'] != 'yes' || !$_GET['inajax']) && ($_G['mobile'] != '' && $_G['cookie']['mobile'] == '' && $_GET['mobile'] != 'no')}-->
			<div class="xi1 bm bm_c">
			    {lang your_mobile_browser}<a href="{$_G['siteurl']}forum.php?mobile=yes">{lang go_to_mobile}</a> <span class="xg1">|</span> <a href="$_G['setting']['mobile']['nomobileurl']">{lang to_be_continue}</a>
			</div>
		<!--{/if}-->
		<!--{if !empty($_G['setting']['shortcut']) && $_G['member'][credits] >= $_G['setting']['shortcut']}-->
			<div id="shortcut">
				<span><a href="javascript:;" id="shortcutcloseid" title="{lang close}">{lang close}</a></span>
				{lang shortcut_notice}
				<a href="javascript:;" id="shortcuttip">{lang shortcut_add}</a>

			</div>
			<script type="text/javascript">setTimeout(setShortcut, 2000);</script>
		<!--{/if}-->
		<div id="toptb" class="cl">
			<!--{hook/global_cpnav_top}-->
			<div class="wp">
				<div class="z">
					<!--{loop $_G['setting']['topnavs'][0] $nav}-->
						<!--{if is_array($nav) && $nav['available'] && (!$nav['level'] || ($nav['level'] == 1 && $_G['uid']) || ($nav['level'] == 2 && $_G['adminid'] > 0) || ($nav['level'] == 3 && $_G['adminid'] == 1))}-->$nav[code]<!--{/if}-->
					<!--{/loop}-->
					<!--{hook/global_cpnav_extra1}-->
				</div>
				<div class="y">
					<a id="switchblind" href="javascript:;" onclick="toggleBlind(this)" title="{lang switch_blind}" class="switchblind"></a>
					<!--{hook/global_cpnav_extra2}-->
					<!--{loop $_G['setting']['topnavs'][1] $nav}-->
						<!--{if is_array($nav) && $nav['available'] && (!$nav['level'] || ($nav['level'] == 1 && $_G['uid']) || ($nav['level'] == 2 && $_G['adminid'] > 0) || ($nav['level'] == 3 && $_G['adminid'] == 1))}-->$nav[code]<!--{/if}-->
					<!--{/loop}-->
					<!--{if empty($_G['disabledwidthauto']) && $_G['setting']['switchwidthauto']}-->
						<a href="javascript:;" id="switchwidth" onclick="widthauto(this)" title="{if widthauto()}{lang switch_narrow}{else}{lang switch_wide}{/if}" class="switchwidth"><!--{if widthauto()}-->{lang switch_narrow}<!--{else}-->{lang switch_wide}<!--{/if}--></a>
					<!--{/if}-->
					<!--{if $_G['uid'] && !empty($_G['style']['extstyle'])}--><a id="sslct" href="javascript:;" onmouseover="delayShow(this, function() {showMenu({'ctrlid':'sslct','pos':'34!'})});">{lang changestyle}</a><!--{/if}-->
					<!--{if check_diy_perm($topic)}-->
						$diynav
					<!--{/if}-->
				</div>
			</div>
		</div>

		<!--{if !IS_ROBOT}-->
			<!--{if $_G['uid'] && !$_G['setting']['bbclosed'] && empty($_G['member']['freeze']) && $_G['member']['groupid'] != 5}-->
			<ul id="myprompt_menu" class="p_pop" style="display: none;">
				<li><a href="home.php?mod=space&do=pm" id="pm_ntc" style="background-repeat: no-repeat; background-position: 0 50%;"><em class="prompt_news{if empty($_G[member][newpm])}_0{/if}"></em>{lang pm_center}</a></li>
				<!--{if $_G['setting']['followstatus']}-->
					<li><a href="home.php?mod=follow&do=follower"><em class="prompt_follower{if empty($_G[member][newprompt_num][follower])}_0{/if}"></em><!--{lang notice_interactive_follower}-->{if $_G[member][newprompt_num][follower]}($_G[member][newprompt_num][follower]){/if}</a></li>
					<!--{if $_G[member][newprompt] && $_G[member][newprompt_num][follow]}-->
						<li><a href="home.php?mod=follow"><em class="prompt_concern"></em><!--{lang notice_interactive_follow}-->($_G[member][newprompt_num][follow])</a></li>
					<!--{/if}-->
				<!--{/if}-->
				<!--{if $_G[member][newprompt]}-->
					<!--{loop $_G['member']['category_num'] $key $val}-->
						<li><a href="home.php?mod=space&do=notice&view=$key"><em class="notice_$key"></em><!--{echo lang('template', 'notice_'.$key)}-->(<span class="rq">$val</span>)</a></li>
					<!--{/loop}-->
				<!--{/if}-->
				<!--{if empty($_G['cookie']['ignore_notice'])}-->
					<li class="ignore_noticeli"><a href="javascript:;" onclick="setcookie('ignore_notice', 1);hideMenu('myprompt_menu')" title="{lang temporarily_to_remind}"><em class="ignore_notice"></em></a></li>
				<!--{/if}-->
			</ul>
			<!--{/if}-->
			<!--{if $_G['uid'] && !empty($_G['style']['extstyle'])}-->
				<div id="sslct_menu" class="cl p_pop" style="display: none;">
					<!--{if !$_G[style][defaultextstyle]}--><span class="sslct_btn" onclick="extstyle('')" title="{lang default}"><i></i></span><!--{/if}-->
					<!--{loop $_G['style']['extstyle'] $extstyle}-->
						<span class="sslct_btn" onclick="extstyle('$extstyle[0]')" title="$extstyle[1]"><i style='background:$extstyle[2]'></i></span>
					<!--{/loop}-->
				</div>
			<!--{/if}-->
			<!--{if $_G['uid']}-->
				<ul id="myitem_menu" class="p_pop" style="display: none;">
					<!--{if $_G['setting']['forumstatus']}--><li><a href="home.php?mod=space&do=thread&view=me">{lang mypost}</a></li><!--{/if}-->
					<!--{if $_G['setting']['favoritestatus']}--><li><a href="home.php?mod=space&do=favorite&view=me">{lang favorite}</a></li><!--{/if}-->
					<!--{if $_G['setting']['friendstatus']}--><li><a href="home.php?mod=space&do=friend">{lang friends}</a></li><!--{/if}-->
					<!--{hook/global_myitem_extra}-->
				</ul>
			<!--{/if}-->
			<!--{subtemplate common/header_qmenu}-->
		<!--{/if}-->

		<!--{ad/headerbanner/wp a_h}-->
		<div id="hd">
			<div class="wp">
				<div class="hdc cl">
					<!--{eval $mnid = getcurrentnav();}-->
					<h2><!--{if !isset($_G['setting']['navlogos'][$mnid])}--><a href="{if $_G['setting']['domain']['app']['default']}{$_G['scheme']}://{$_G['setting']['domain']['app']['default']}/{else}./{/if}" title="$_G['setting']['bbname']">{$_G['style']['boardlogo']}</a><!--{else}-->$_G['setting']['navlogos'][$mnid]<!--{/if}--></h2>
					<!--{template common/header_userstatus}-->
				</div>

				<div id="nv">
					<a href="javascript:;" id="qmenu" onmouseover="delayShow(this, function () {showMenu({'ctrlid':'qmenu','pos':'34!','ctrlclass':'a','duration':2});showForummenu($_G[fid]);})">{lang my_nav}</a>
					<ul>
						<!--{loop $_G['setting']['navs'] $nav}-->
							<!--{if is_array($nav) && $nav['available'] && (!$nav['level'] || ($nav['level'] == 1 && $_G['uid']) || ($nav['level'] == 2 && $_G['adminid'] > 0) || ($nav['level'] == 3 && $_G['adminid'] == 1))}--><li {if $mnid == $nav[navid] || substr($_SERVER['REQUEST_URI'], 1) == str_replace('./', '', $nav[filename])}class="a" {/if}$nav[nav]></li><!--{/if}-->
						<!--{/loop}-->
					</ul>
					<!--{hook/global_nav_extra}-->
				</div>
				<!--{if !empty($_G['setting']['plugins']['jsmenu'])}-->
					<ul class="p_pop h_pop" id="plugin_menu" style="display: none">
					<!--{loop $_G['setting']['plugins']['jsmenu'] $module}-->
						 <!--{if in_array($module['adminid'], array(0, -1)) || ($module['adminid'] && $_G['adminid'] > 0 && $module['adminid'] >= $_G['adminid'])}-->
						 <li>$module[url]</li>
						 <!--{/if}-->
					<!--{/loop}-->
					</ul>
				<!--{/if}-->
				$_G[setting][menunavs]
				<div id="mu" class="cl">
				<!--{if $_G['setting']['subnavs']}-->
					<!--{loop $_G[setting][subnavs] $navid $subnav}-->
						<!--{if $_G['setting']['navsubhover'] || $mnid == $navid}-->
						<ul class="cl {if $mnid == $navid}current{/if}" id="snav_$navid"{if $mnid != $navid} style="display:none"{/if}>
						$subnav
						</ul>
						<!--{/if}-->
					<!--{/loop}-->
				<!--{/if}-->
				</div>
				<!--{ad/subnavbanner/a_mu}-->
				<!--{subtemplate common/pubsearchform}-->
			</div>
		</div>

		<!--{hook/global_header}-->
	<!--{/if}-->

	<div id="wp" class="wp">

qidao123.com ToB IT社区-企服评测·应用市场»论坛 › 容器及微服务 › 容器及微服务 › k8s 分布式存储平台 -- Longhorn
返回列表 发新帖

k8s 分布式存储平台 -- Longhorn

[复制链接]
发表于 2024-9-28 07:33:07 | 显示全部楼层 |阅读模式

马上注册，结交更多好友，享用更多功能，让你轻松玩转社区。

您需要 登录 才可以下载或查看，没有账号？立即注册

×
目次

  • 一、什么是 Longhorn
  • 二、架构设计

    • 1、工作原理
    • 2、工作流程
    • 3、基于微服务设计的优势

  • 三、安装

    • 1、安装要求
    • 2、使用 Longhorn 命令行工具（验证方式一）
    • 3、使用环境查抄脚本（验证方式之二）

      • 3.1、安装 jq
      • 3.2、运行脚本

    • 4、安装 open-iscsi

      • 4.1、SUSE 和 openSUSE
      • 4.2、Debian 和 Ubuntu
      • 4.3、RHEL、CentOS 和 EKS （带有 AmazonLinux2 映像的 EKS Kubernetes Worker AMI）
      • 4.4、open-iscsi 安装程序

    • 5、安装 NFSv4 客户端

      • 5.1、Debian 和 Ubuntu
      • 5.2、对于 RHEL、CentOS 和 EKS （EKS Kubernetes Worker AMI with AmazonLinux2 image）
      • 5.3、SUSE/OpenSUSE
      • 5.4、nfs 安装程序

    • 6、查抄 Kubernetes 版本
    • 7、安装 Cryptsetup 和 LUKS

      • 7.1、Debian 和 Ubuntu
      • 7.2、RHEL、CentOS、Rocky Linux 和 EKS（EKS Kubernetes Worker AMI with AmazonLinux2 image）
      • 7.3、SUSE/OpenSUSE

    • 8、验证
    • 9、【ERROR】kernel module iscsi_tcp is not enabled on k8s-node1/2

      • 9.1、办理方案


  • 四、摆设

    • 1、添加 Longhorn Helm 存储库
    • 2、helm 安装 1.7.1 版本的 longhorn
    • 3、查看应用 pod 状态
    • 4、开启 UI

      • 4.1、编辑使用 NodePort 类型的 svc 资源清单
      • 4.2、创建 SVC
      • 4.3、访问 Longhorn UI

    • 5、查看默认创建的存储类 StorageClass

  • 五、使用 Longhorn 为 MySQL 应用提供数据恒久化

    • 1、创建 PVC 测试使用 longhorn 动态创建 PV
    • 2、摆设一个 MySQL 应用来使用上面的 PVC 进行数据恒久化
    • 3、创建上面的 PVC、Deployment
    • 4、进入容器内部创建数据
    • 5、登录到 Pod 所在节点验证数据是否存在
    • 6、重建 Pod 查看数据是否依然存在
    • 7、【ERROR】Scheduling Failure Replica Scheduling Failure Error Message: replica scheduling failed

      • 7.1、原因
      • 7.2、办理方案
      • 7.3、再次动态创建 PV 恒久卷


  • 六、使用 Longhorn 备份恢复

    • 1、对测试的 MySQL 卷创建快照
    • 2、查看 Pod 的调度节点数据目次
    • 3、创建周期使命 Create Recurring Job
    • 4、使用 Longhorn 的 StorageClass 创建快照
    • 5、创建 RecurringJob 以创建重复快照和备份（重复作业）

      • 5.1、设置参数

    • 6、备份卷

      • 6.1、设置备份目标为 NFS 服务以备份卷
      • 6.2、【ERROR】为什么设置了备份目标 BackupTarget 选择卷 Create Backup选项是不可选的呢？

        • 6.2.1、原因
        • 6.2.2、办理方案
        • 6.2.3、验证

      • 6.3、查看对应备份数据
      • 6.4、backupvolumes 对象
      • 6.5、查看 NFS 服务器上备份的数据
      • 6.6、选择需要备份的快照
      • 6.7、基于备份数据恢复数据


  • 七、ReadWriteMany 卷的使用

    • 1、创建访问模式为 RWX 的 PVC
    • 2、创建 Deployment 使用上面创建的 PVC 做恒久化数据
    • 3、查看 share-manager 的 Pod 日志日志信息
    • 4、创建一个用来读取数据的 Pod
    • 5、创建 NodePort 类型的 SVC 访问应用
    • 6、通过 NodePort 访问应用
    • 7、从 reader Pod 中写入数据验证 RWX 数据是否精确

  • 八、CSI 卷快照

    • 1、什么是卷快照
    • 2、卷快照的生命周期

      • 2.1、资源供应
      • 2.2、资源绑定
      • 2.3、对使用中的 PVC 的保护机制
      • 2.4、资源删除

    • 3、查看 csi-snapshotter Pod
    • 4、安装CRDs

      • 4.1、克隆 snapshotter 堆栈地址
      • 4.2、切换对应分支使用 kustomize 工具来构建指定目次下的资源设置
      • 4.3、验证创建的 Snapshot CRDs
      • 4.4、查看 csi-snapshotter Leader Pod 日志日志情况
      • 4.5、安装通用快照控制器

        • 4.5.1、【ERROR】snapshot-controller 拉取镜像在 ImagePullBackOff 与 ErrImagePull 状态间反复横跳


    • 5、使用 CSI 卷快照功能

      • 5.1、创建 VolumeSnapshot 对象
      • 5.2、创建存储快照类 VolumeSnapshotClass
      • 5.3、创建并查看资源对象
      • 5.4、查看动态创建的 VolumeSnapshotContent 对象

    • 6、基于快照创建/恢复新的 PVC

      • 6.1、基于创建的 volumesnapshot 创建新的 PVC

    • 7、卷克隆

      • 7.1、对 mysql-pvc 存储卷克隆
      • 7.2、与源 PVC 的对比
      • 7.3、在 Longhorn UI 进行查看

    • 8、卷动态扩容

      • 8.1、通过 Longhorn UI 进行卷扩容
      • 8.2、通过 PVC 进行扩容

        • 8.2.1、确认 StroageClass longhorn 开启了 allowVolumeExpansion
        • 8.2.2、修改 spec.resources.requests.storage 的值
        • 8.2.3、查看 PVC 的 events 信息

      • 8.3、通过 Longhorn UI 查看



一、什么是 Longhorn

Longhorn官网
Longhorn 是针对 Kubernetes 的轻量级、可靠且易于使用的分布式块存储系统。
Longhorn 是一款免费的开源软件。它最初由 Rancher Labs 开发，目前正作为云原生计算基金会的孵化项目进行开发。
使用 Longhorn，可以：

  • 使用 Longhorn 卷作为 Kubernetes 集群中分布式有状态应用程序的恒久存储
  • 将块存储分区为 Longhorn 卷，这样无论是否有云提供商，都可以使用 Kubernetes 卷
  • 跨多个节点和数据中央复制块存储以提高可用性
  • 将备份数据存储在外部存储中，比方 NFS 或 AWS S3
  • 创建跨集群灾难恢复卷，以便可以从第二个 Kubernetes 集群的备份中快速恢复主 Kubernetes 集群的数据
  • 安排卷的定期快照，并安排定期备份到 NFS 或 S3 兼容的辅助存储
  • 从备份恢复卷
  • 在不破坏恒久卷的情况下升级 Longhorn
Longhorn 带有独立的 UI，可以使用 Helm、kubectl 或 Rancher 应用程序目次进行安装。
二、架构设计

Longhorn 设计有两层：数据平面和控制平面。Longhorn Engine 是存储控制器，对应数据平面，Longhorn Manager 对应控制平面。
1、工作原理

Longhorn Manager Pod 作为 Kubernetes DaemonSet在 Longhorn 集群中的每个节点上运行。它负责在 Kubernetes 集群中创建和管理卷，并处置惩罚来自 UI 或 Kubernetes 卷插件的 API 调用。它遵照 Kubernetes 控制器模式，偶然也称为操纵员模式。
Longhorn Manager 与 Kubernetes API 服务器通信以创建一个新的 Longhorn 卷CR。然后 Longhorn Manager 监督 API 服务器的响应，当它看到 Kubernetes API 服务器创建了新的 Longhorn 卷 CR 时，Longhorn Manager 就会创建一个新的卷。
当 Longhorn Manager 被要求创建卷时，它会在卷所连接的节点上创建一个 Longhorn Engine 实例，并在将要放置副本的每个节点上创建一个副本。副本应放置在单独的主机上以确保最大可用性。
副本的多条数据路径包管了 Longhorn 卷的高可用性，纵然某个副本或者 Engine 出现题目，也不会影响所有副本或者 Pod 对卷的访问，Pod 依然可以正常运行。
Longhorn Engine 始终与使用 Longhorn 卷的 Pod 运行在同一个节点上。它会在存储在多个节点上的多个副本之间同步复制该卷。
引擎和副本使用 Kubernetes 进行编排。
2、工作流程

Longhorn 引擎、副本实例和磁盘之间的读/写数据流
下图所示

  • 有三个具有 Longhorn 卷的实例。
  • 每个卷都有一个专用的控制器，称为 Longhorn Engine，作为 Linux 进程运行。
  • 每个 Longhorn 卷都有两个副本，每个副本都是一个 Linux 进程。
  • 图中的箭头表示卷、控制器实例、副本实例和磁盘之间的读写数据流。
  • 通过为每个卷创建一个单独的 Longhorn Engine，如果一个控制器出现故障，其他卷的功能不会受到影响。

3、基于微服务设计的优势

在 Longhorn 中，每个 Engine 只需服务一个卷，从而简化了存储控制器的设计。由于控制器软件的故障域被隔离到各个卷，因此控制器瓦解只会影响一个卷。
Longhorn 引擎充足简单和轻量，因此我们可以创建多达 100,000 个独立引擎。Kubernetes 调度这些独立引擎，从一组共享磁盘中提取资源，并与 Longhorn 一起形成一个弹性分布式块存储系统。
由于每个卷都有本身的控制器，因此每个卷的控制器和副本实例也可以升级，而不会导致 IO 操纵显着中断。
Longhorn 可以创建一个恒久运行的作业来协调所有运动卷的升级，而不会中断系统的持续运行。为了确保升级不会导致不可预见的题目，Longhorn 可以选择升级一小部门卷，如果升级过程中出现题目，则回滚到旧版本。
三、安装

1、安装要求

安装 Longhorn 的 Kubernetes 集群中的每个节点都必须满足以下要求：

  • 与 Kubernetes 兼容的容器运行时（Docker v1.13+、containerd v1.3.7+ 等）
  • Kubernetes >= v1.21
  • open-iscsi 已安装，并且iscsid 守卫程序在所有节点上运行。Longhorn 依赖于 iscsiadm 主机为 Kubernetes 提供恒久卷。
  • RWX 支持要求每个节点都安装 NFSv4 客户端。
  • 主机文件系统支持file extents存储数据的功能。目前我们支持：

    • ext4
    • XFS

  • bash，curl，findmnt，grep，awk，blkid，lsblk 必须安装。
  • Mount propagation 必须启用，它允许将一个容器挂载的卷与同一 pod 中的其他容器共享，甚至可以与同一节点上的其他 pod 共享

为了精确摆设和运行 Longhorn，Longhorn 工作负载必须能够以 root 身份运行。
2、使用 Longhorn 命令行工具（验证方式一）

该 longhornctl 工具是用于 Longhorn 操纵的 CLI。要查抄先决条件和设置，请下载该工具并运行 check 子命令：
  1. # For AMD64 platform
  2. curl -sSfL -o longhornctl https://github.com/longhorn/cli/releases/download/v1.7.1/longhornctl-linux-amd64
  3. # For ARM platform
  4. curl -sSfL -o longhornctl https://github.com/longhorn/cli/releases/download/v1.7.1/longhornctl-linux-arm64
  6. chmod +x longhornctl
  7. ./longhornctl check preflight
复制代码

3、使用环境查抄脚本（验证方式之二）

自 Longhorn v1.7.0 以来，引入了Longhorn 命令行工具。环境查抄脚本environment_check.sh的功能与 Longhorn 命令行工具的功能重叠。因此，该脚本已在 v1.7.0 中弃用，并筹划在 v1.8.0 中删除。
3.1、安装 jq

jq ，在运行环境查抄脚本之前可能需要在本地安装。
  1. yum install -y jq
复制代码
3.2、运行脚本
  1. curl -sSfL https://raw.githubusercontent.com/longhorn/longhorn/v1.7.1/scripts/environment_check.sh | bash
复制代码

4、安装 open-iscsi

4.1、SUSE 和 openSUSE
  1. zypper install open-iscsi
  2. systemctl enable iscsid
  3. systemctl start iscsid
复制代码
4.2、Debian 和 Ubuntu
  1. apt-get install open-iscsi
复制代码
4.3、RHEL、CentOS 和 EKS （带有 AmazonLinux2 映像的 EKS Kubernetes Worker AMI）
  1. yum --setopt=tsflags=noscripts install iscsi-initiator-utils
  2. echo "InitiatorName=$(/sbin/iscsi-iname)" > /etc/iscsi/initiatorname.iscsi
  3. systemctl enable iscsid
  4. systemctl start iscsid
复制代码



4.4、open-iscsi 安装程序
  1. kubectl apply -f https://raw.githubusercontent.com/longhorn/longhorn/v1.7.1/deploy/prerequisite/longhorn-iscsi-installation.yaml
复制代码
  1. # 检查安装程序的 pod 状态
  2. kubectl get pod | grep longhorn-iscsi-installation
复制代码
5、安装 NFSv4 客户端

在 Longhorn 系统中，备份功能需要 NFSv4、v4.1 或 v4.2，而 ReadWriteMany (RWX) 卷功能需要 NFSv4.1。在安装 NFSv4 客户端用户空间守卫程序和实用程序之前，请确保在每个 Longhorn 节点上都启用了客户端内核支持。

  • 查抄NFSv4.1内核是否启用了支持
  1. cat /boot/config-`uname -r`| grep CONFIG_NFS_V4_1
复制代码

  • 查抄NFSv4.2内核是否启用了支持
  1. cat /boot/config-`uname -r`| grep CONFIG_NFS_V4_2
复制代码



5.1、Debian 和 Ubuntu
  1. apt-get install nfs-common
复制代码
5.2、对于 RHEL、CentOS 和 EKS （EKS Kubernetes Worker AMI with AmazonLinux2 image）
  1. yum install -y nfs-utils
复制代码
5.3、SUSE/OpenSUSE
  1. zypper install nfs-client
复制代码
5.4、nfs 安装程序
  1. kubectl apply -f https://raw.githubusercontent.com/longhorn/longhorn/v1.7.1/deploy/prerequisite/longhorn-nfs-installation.yaml
复制代码
  1. # 检查安装程序的 pod 状态
  2. kubectl get pod | grep longhorn-nfs-installation
复制代码
6、查抄 Kubernetes 版本
  1. kubectl version --short
复制代码



应该Server Version是> = v1.21。
7、安装 Cryptsetup 和 LUKS

7.1、Debian 和 Ubuntu
  1. apt-get install cryptsetup
  3. apt-get install dmsetup
复制代码
7.2、RHEL、CentOS、Rocky Linux 和 EKS（EKS Kubernetes Worker AMI with AmazonLinux2 image）
  1. yum install -y cryptsetup
  3. yum install -y device-mapper
复制代码
7.3、SUSE/OpenSUSE
  1. zypper install cryptsetup
  3. zypper install device-mapper
复制代码
8、验证
  1. curl -sSfL https://raw.githubusercontent.com/longhorn/longhorn/v1.7.1/scripts/environment_check.sh | bash
复制代码

9、【ERROR】kernel module iscsi_tcp is not enabled on k8s-node1/2


9.1、办理方案
  1. # 将iscsi_tcp模块加载到内核中
  2. modprobe iscsi_tcp
  4. # 验证模块是否成功加载
  5. lsmod | grep iscsi_tcp
复制代码


再次重新运行查抄脚本应该就没有题目了
四、摆设

我们使用 helm 摆设
1、添加 Longhorn Helm 存储库
  1. helm repo add longhorn https://charts.longhorn.io
  3. helm repo update
复制代码

2、helm 安装 1.7.1 版本的 longhorn
  1. helm install longhorn longhorn/longhorn --namespace longhorn-system --create-namespace --version 1.7.1
复制代码

3、查看应用 pod 状态
  1. kubectl get pods -n longhorn-system
复制代码


  • csi-attacher-xxx、csi-provisioner-xxx、csi-resizer-xxx、csi-snapshotter-xxx 是 csi 原生的组件
  • longhorn-manager-xxx 是运行在每个节点上的 Longhorn Manager，是一个控制器，也为 Longhorn UI 或者 CSI 插件提供 API，主要功能是通过修改 Kubernetes CRD 来触发控制循环，比如 volume attach/detach 操纵
  • longhorn-ui-xxx 提供 Longhorn UI 服务，提供一个可视化的控制页面
  • Longhorn Engine 数据平面，提供两种工作模式：Engine Mode（instance-manager-e-xxx 的 Pod）、Replica Mode（instance-manager-r-xxx 的 Pod），Replica 负责现实数据的写入，每个副本包罗数据的完备副本，Engine 连接到副本实现 volume 的数据平面，任何写操纵都会同步到所有副本，读操纵从任意一个副本读取数据
4、开启 UI

直接使用 NodePort 开放 longhorn UI 服务
4.1、编辑使用 NodePort 类型的 svc 资源清单
  1. cat >> longhorn-ui-svc.yaml << EOF
  2. kind: Service
  3. apiVersion: v1
  4. metadata:
  5.   name: longhorn-ui-nodeport
  6.   namespace: longhorn-system
  7.   labels:
  8.     app: longhorn-ui
  9. spec:
  10.   ports:
  11.     - name: http
  12.       protocol: TCP
  13.       port: 80
  14.       targetPort: http
  15.       nodePort: 32222
  16.   selector:
  17.     app: longhorn-ui
  18.   clusterIP:
  19.   type: NodePort
  20. EOF
复制代码
  1. kubectl apply -f longhorn-ui-svc.yaml
复制代码

3、查看 share-manager 的 Pod 日志日志信息
  1. http://192.168.112.10:32222
复制代码

4、创建一个用来读取数据的 Pod

[code]cat >> html-reader.yaml > reader.yaml > snapshot-mysql.yaml > snapshotclass.yaml >  restore-mysql.yaml > mysql-clone-pvc.yaml
回复

使用道具 举报

返回列表 发新帖
高级模式
B Color Image Link Quote Code Smilies
您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

登录后关闭弹窗

登录参与点评抽奖  加入IT实名职场社区
去登录

QQ|手机版|qidao123.com IT社区;IT企服评测▪应用市场 ( 浙ICP备20004199|浙ICP备20004199号 )|网站地图

GMT+8, 2026-11-14 09:44 , Processed in 0.031087 second(s), 6 queries , Redis On.

Powered by Discuz! X3.5 Licensed

© 2001-2026 Discuz! Team.

快速回复 返回顶部 返回列表