<!--{subtemplate common/header_common}-->	<!--{if $_GET['mod'] == 'viewthread' && !empty($_G['tid'])}-->
	<link rel="canonical" href="https://www.qidao123.com/bbs/thread-{$_G['tid']}-1-1.html" />
	<!--{elseif $_GET['mod'] == 'forumdisplay' && !empty($_G['fid'])}-->
	<link rel="canonical" href="https://www.qidao123.com/bbs/forum-{$_G['fid']}-1.html" />
	<!--{elseif $_GET['mod'] == 'guide'}-->
	<link rel="canonical" href="https://www.qidao123.com/bbs/guide/" />
	<!--{elseif $_G['basescript'] == 'forum' && (empty($_GET['mod']) || $_GET['mod'] == 'index')}-->
	<link rel="canonical" href="https://www.qidao123.com/bbs/" />
	<!--{/if}-->
	r`n`t<meta name="application-name" content="$_G['setting']['bbname']" />
	<meta name="msapplication-tooltip" content="$_G['setting']['bbname']" />
	<!--{if $_G['setting']['portalstatus']}--><meta name="msapplication-task" content="name=$_G['setting']['navs'][1]['navname'];action-uri={echo !empty($_G['setting']['domain']['app']['portal']) ? $_G['scheme'].'://'.$_G['setting']['domain']['app']['portal'] : $_G[siteurl].'portal.php'};icon-uri={$_G[siteurl]}{IMGDIR}/portal.ico" /><!--{/if}-->
	<meta name="msapplication-task" content="name=$_G['setting']['navs'][2]['navname'];action-uri={echo !empty($_G['setting']['domain']['app']['forum']) ? $_G['scheme'].'://'.$_G['setting']['domain']['app']['forum'] : $_G[siteurl].'forum.php'};icon-uri={$_G[siteurl]}{IMGDIR}/bbs.ico" />
	<!--{if $_G['setting']['groupstatus']}--><meta name="msapplication-task" content="name=$_G['setting']['navs'][3]['navname'];action-uri={echo !empty($_G['setting']['domain']['app']['group']) ? $_G['scheme'].'://'.$_G['setting']['domain']['app']['group'] : $_G[siteurl].'group.php'};icon-uri={$_G[siteurl]}{IMGDIR}/group.ico" /><!--{/if}-->
	<!--{if helper_access::check_module('feed')}--><meta name="msapplication-task" content="name=$_G['setting']['navs'][4]['navname'];action-uri={echo !empty($_G['setting']['domain']['app']['home']) ? $_G['scheme'].'://'.$_G['setting']['domain']['app']['home'] : $_G[siteurl].'home.php'};icon-uri={$_G[siteurl]}{IMGDIR}/home.ico" /><!--{/if}-->
	<!--{if $_G['basescript'] == 'forum' && $_G['setting']['archiver']}-->
		<link rel="archives" title="$_G['setting']['bbname']" href="{$_G[siteurl]}archiver/" />
	<!--{/if}-->
	<!--{if !empty($rsshead)}-->$rsshead<!--{/if}-->
	<!--{if widthauto()}-->
		<link rel="stylesheet" id="css_widthauto" type="text/css" href='{$_G['setting']['csspath']}{STYLEID}_widthauto.css?{VERHASH}' />
		<script type="text/javascript">HTMLNODE.className += ' widthauto'</script>
	<!--{/if}-->
	<!--{if $_G['basescript'] == 'forum' || $_G['basescript'] == 'group'}-->
		<script type="text/javascript" src="{$_G[setting][jspath]}forum.js?{VERHASH}"></script>
	<!--{elseif $_G['basescript'] == 'home'}-->
		<script type="text/javascript" src="{$_G[setting][jspath]}home.js?{VERHASH}"></script>
	<!--{elseif $_G['basescript'] == 'portal'}-->
		<script type="text/javascript" src="{$_G[setting][jspath]}portal.js?{VERHASH}"></script>
	<!--{/if}-->
	<!--{if $_G['basescript'] != 'portal' && $_GET['diy'] == 'yes' && check_diy_perm($topic)}-->
		<script type="text/javascript" src="{$_G[setting][jspath]}portal.js?{VERHASH}"></script>
	<!--{/if}-->
	<!--{if $_GET['diy'] == 'yes' && check_diy_perm($topic)}-->
		<link rel="stylesheet" type="text/css" id="diy_common" href="{$_G['setting']['csspath']}{STYLEID}_css_diy.css?{VERHASH}" />
	<!--{/if}-->
</head>

<body id="nv_{$_G[basescript]}" class="pg_{CURMODULE}{if $_G['basescript'] === 'portal' && CURMODULE === 'list' && !empty($cat)} {$cat['bodycss']}{/if}" onkeydown="if(event.keyCode==27) return false;">
	<div id="append_parent"></div><div id="ajaxwaitid"></div>
	<!--{if $_GET['diy'] == 'yes' && check_diy_perm($topic)}-->
		<!--{template common/header_diy}-->
	<!--{/if}-->
	<!--{if check_diy_perm($topic)}-->
		<!--{template common/header_diynav}-->
	<!--{/if}-->
	<!--{if CURMODULE == 'topic' && $topic && empty($topic['useheader']) && check_diy_perm($topic)}-->
		$diynav
	<!--{/if}-->
	<!--{if empty($topic) || $topic['useheader']}-->
		<!--{if $_G['setting']['mobile']['allowmobile'] && (!$_G['setting']['cacheindexlife'] && !$_G['setting']['cachethreadon'] || $_G['uid']) && ($_GET['diy'] != 'yes' || !$_GET['inajax']) && ($_G['mobile'] != '' && $_G['cookie']['mobile'] == '' && $_GET['mobile'] != 'no')}-->
			<div class="xi1 bm bm_c">
			    {lang your_mobile_browser}<a href="{$_G['siteurl']}forum.php?mobile=yes">{lang go_to_mobile}</a> <span class="xg1">|</span> <a href="$_G['setting']['mobile']['nomobileurl']">{lang to_be_continue}</a>
			</div>
		<!--{/if}-->
		<!--{if !empty($_G['setting']['shortcut']) && $_G['member'][credits] >= $_G['setting']['shortcut']}-->
			<div id="shortcut">
				<span><a href="javascript:;" id="shortcutcloseid" title="{lang close}">{lang close}</a></span>
				{lang shortcut_notice}
				<a href="javascript:;" id="shortcuttip">{lang shortcut_add}</a>

			</div>
			<script type="text/javascript">setTimeout(setShortcut, 2000);</script>
		<!--{/if}-->
		<div id="toptb" class="cl">
			<!--{hook/global_cpnav_top}-->
			<div class="wp">
				<div class="z">
					<!--{loop $_G['setting']['topnavs'][0] $nav}-->
						<!--{if is_array($nav) && $nav['available'] && (!$nav['level'] || ($nav['level'] == 1 && $_G['uid']) || ($nav['level'] == 2 && $_G['adminid'] > 0) || ($nav['level'] == 3 && $_G['adminid'] == 1))}-->$nav[code]<!--{/if}-->
					<!--{/loop}-->
					<!--{hook/global_cpnav_extra1}-->
				</div>
				<div class="y">
					<a id="switchblind" href="javascript:;" onclick="toggleBlind(this)" title="{lang switch_blind}" class="switchblind"></a>
					<!--{hook/global_cpnav_extra2}-->
					<!--{loop $_G['setting']['topnavs'][1] $nav}-->
						<!--{if is_array($nav) && $nav['available'] && (!$nav['level'] || ($nav['level'] == 1 && $_G['uid']) || ($nav['level'] == 2 && $_G['adminid'] > 0) || ($nav['level'] == 3 && $_G['adminid'] == 1))}-->$nav[code]<!--{/if}-->
					<!--{/loop}-->
					<!--{if empty($_G['disabledwidthauto']) && $_G['setting']['switchwidthauto']}-->
						<a href="javascript:;" id="switchwidth" onclick="widthauto(this)" title="{if widthauto()}{lang switch_narrow}{else}{lang switch_wide}{/if}" class="switchwidth"><!--{if widthauto()}-->{lang switch_narrow}<!--{else}-->{lang switch_wide}<!--{/if}--></a>
					<!--{/if}-->
					<!--{if $_G['uid'] && !empty($_G['style']['extstyle'])}--><a id="sslct" href="javascript:;" onmouseover="delayShow(this, function() {showMenu({'ctrlid':'sslct','pos':'34!'})});">{lang changestyle}</a><!--{/if}-->
					<!--{if check_diy_perm($topic)}-->
						$diynav
					<!--{/if}-->
				</div>
			</div>
		</div>

		<!--{if !IS_ROBOT}-->
			<!--{if $_G['uid'] && !$_G['setting']['bbclosed'] && empty($_G['member']['freeze']) && $_G['member']['groupid'] != 5}-->
			<ul id="myprompt_menu" class="p_pop" style="display: none;">
				<li><a href="home.php?mod=space&do=pm" id="pm_ntc" style="background-repeat: no-repeat; background-position: 0 50%;"><em class="prompt_news{if empty($_G[member][newpm])}_0{/if}"></em>{lang pm_center}</a></li>
				<!--{if $_G['setting']['followstatus']}-->
					<li><a href="home.php?mod=follow&do=follower"><em class="prompt_follower{if empty($_G[member][newprompt_num][follower])}_0{/if}"></em><!--{lang notice_interactive_follower}-->{if $_G[member][newprompt_num][follower]}($_G[member][newprompt_num][follower]){/if}</a></li>
					<!--{if $_G[member][newprompt] && $_G[member][newprompt_num][follow]}-->
						<li><a href="home.php?mod=follow"><em class="prompt_concern"></em><!--{lang notice_interactive_follow}-->($_G[member][newprompt_num][follow])</a></li>
					<!--{/if}-->
				<!--{/if}-->
				<!--{if $_G[member][newprompt]}-->
					<!--{loop $_G['member']['category_num'] $key $val}-->
						<li><a href="home.php?mod=space&do=notice&view=$key"><em class="notice_$key"></em><!--{echo lang('template', 'notice_'.$key)}-->(<span class="rq">$val</span>)</a></li>
					<!--{/loop}-->
				<!--{/if}-->
				<!--{if empty($_G['cookie']['ignore_notice'])}-->
					<li class="ignore_noticeli"><a href="javascript:;" onclick="setcookie('ignore_notice', 1);hideMenu('myprompt_menu')" title="{lang temporarily_to_remind}"><em class="ignore_notice"></em></a></li>
				<!--{/if}-->
			</ul>
			<!--{/if}-->
			<!--{if $_G['uid'] && !empty($_G['style']['extstyle'])}-->
				<div id="sslct_menu" class="cl p_pop" style="display: none;">
					<!--{if !$_G[style][defaultextstyle]}--><span class="sslct_btn" onclick="extstyle('')" title="{lang default}"><i></i></span><!--{/if}-->
					<!--{loop $_G['style']['extstyle'] $extstyle}-->
						<span class="sslct_btn" onclick="extstyle('$extstyle[0]')" title="$extstyle[1]"><i style='background:$extstyle[2]'></i></span>
					<!--{/loop}-->
				</div>
			<!--{/if}-->
			<!--{if $_G['uid']}-->
				<ul id="myitem_menu" class="p_pop" style="display: none;">
					<!--{if $_G['setting']['forumstatus']}--><li><a href="home.php?mod=space&do=thread&view=me">{lang mypost}</a></li><!--{/if}-->
					<!--{if $_G['setting']['favoritestatus']}--><li><a href="home.php?mod=space&do=favorite&view=me">{lang favorite}</a></li><!--{/if}-->
					<!--{if $_G['setting']['friendstatus']}--><li><a href="home.php?mod=space&do=friend">{lang friends}</a></li><!--{/if}-->
					<!--{hook/global_myitem_extra}-->
				</ul>
			<!--{/if}-->
			<!--{subtemplate common/header_qmenu}-->
		<!--{/if}-->

		<!--{ad/headerbanner/wp a_h}-->
		<div id="hd">
			<div class="wp">
				<div class="hdc cl">
					<!--{eval $mnid = getcurrentnav();}-->
					<h2><!--{if !isset($_G['setting']['navlogos'][$mnid])}--><a href="{if $_G['setting']['domain']['app']['default']}{$_G['scheme']}://{$_G['setting']['domain']['app']['default']}/{else}./{/if}" title="$_G['setting']['bbname']">{$_G['style']['boardlogo']}</a><!--{else}-->$_G['setting']['navlogos'][$mnid]<!--{/if}--></h2>
					<!--{template common/header_userstatus}-->
				</div>

				<div id="nv">
					<a href="javascript:;" id="qmenu" onmouseover="delayShow(this, function () {showMenu({'ctrlid':'qmenu','pos':'34!','ctrlclass':'a','duration':2});showForummenu($_G[fid]);})">{lang my_nav}</a>
					<ul>
						<!--{loop $_G['setting']['navs'] $nav}-->
							<!--{if is_array($nav) && $nav['available'] && (!$nav['level'] || ($nav['level'] == 1 && $_G['uid']) || ($nav['level'] == 2 && $_G['adminid'] > 0) || ($nav['level'] == 3 && $_G['adminid'] == 1))}--><li {if $mnid == $nav[navid] || substr($_SERVER['REQUEST_URI'], 1) == str_replace('./', '', $nav[filename])}class="a" {/if}$nav[nav]></li><!--{/if}-->
						<!--{/loop}-->
					</ul>
					<!--{hook/global_nav_extra}-->
				</div>
				<!--{if !empty($_G['setting']['plugins']['jsmenu'])}-->
					<ul class="p_pop h_pop" id="plugin_menu" style="display: none">
					<!--{loop $_G['setting']['plugins']['jsmenu'] $module}-->
						 <!--{if in_array($module['adminid'], array(0, -1)) || ($module['adminid'] && $_G['adminid'] > 0 && $module['adminid'] >= $_G['adminid'])}-->
						 <li>$module[url]</li>
						 <!--{/if}-->
					<!--{/loop}-->
					</ul>
				<!--{/if}-->
				$_G[setting][menunavs]
				<div id="mu" class="cl">
				<!--{if $_G['setting']['subnavs']}-->
					<!--{loop $_G[setting][subnavs] $navid $subnav}-->
						<!--{if $_G['setting']['navsubhover'] || $mnid == $navid}-->
						<ul class="cl {if $mnid == $navid}current{/if}" id="snav_$navid"{if $mnid != $navid} style="display:none"{/if}>
						$subnav
						</ul>
						<!--{/if}-->
					<!--{/loop}-->
				<!--{/if}-->
				</div>
				<!--{ad/subnavbanner/a_mu}-->
				<!--{subtemplate common/pubsearchform}-->
			</div>
		</div>

		<!--{hook/global_header}-->
	<!--{/if}-->

	<div id="wp" class="wp">

qidao123.com ToB IT社区-企服评测·应用市场»论坛 › 容器及微服务 › 容器及微服务 › k8s单机容器网络(20250216)
返回列表 发新帖

k8s单机容器网络(20250216)

[复制链接]
发表于 2025-2-17 18:51:43 | 显示全部楼层 |阅读模式

马上注册，结交更多好友，享用更多功能，让你轻松玩转社区。

您需要 登录 才可以下载或查看，没有账号？立即注册

×
k8s单机容器网络(20250216)

​        Linux 容器能瞥见的“网络栈”，现实上是被隔离在它自己的 Network Namespace 当中的。
​        “网络栈”，就包罗了：网卡（Network Interface）、回环设备（Loopback Device）、路由表（Routing Table）和 iptables 规则。
Veth Pair 设备

​        Veth Pair 设备的特点是：它被创建出来后，总是以两张虚拟网卡（Veth Peer）的形式成对出现的。而且，从其中一个“网卡”发出的数据包，可以直接出现在与它对应的另一张“网卡”上，哪怕这两个“网卡”在差别的 Network Namespace 里。
  1. Microsoft Windows [版本 10.0.26100.2894]
  2. (c) Microsoft Corporation。保留所有权利。
  4. C:\Users\admin>ssh root@192.168.117.207
  5. root@192.168.117.207's password:
  6. Last login: Mon Feb 17 08:19:32 2025
  7. [root@k8s-master ~]# docker ps
  8. CONTAINER ID   IMAGE                                               COMMAND                  CREATED          STATUS          PORTS     NAMES
  9. 1ee1263b4193   cbb01a7bd410                                        "/coredns -conf /etc…"   1 second ago     Up 1 second               k8s_coredns_coredns-857d9ff4c9-29ldj_kube-system_9ee2e5e5-d728-4c02-a87e-8dcaab82fbd7_13
  10. 829516e501fa   registry.aliyuncs.com/google_containers/pause:3.8   "/pause"                 3 seconds ago    Up 2 seconds              k8s_POD_coredns-857d9ff4c9-29ldj_kube-system_9ee2e5e5-d728-4c02-a87e-8dcaab82fbd7_8
  11. e0c8a6330d0e   9344fce2372f                                        "/usr/local/bin/kube…"   7 seconds ago    Up 6 seconds              k8s_kube-proxy_kube-proxy-nq4x2_kube-system_a3ee7cb5-f97d-4339-8f9e-01e0e15874ba_9
  12. 255fea7d86a5   registry.aliyuncs.com/google_containers/pause:3.8   "/pause"                 8 seconds ago    Up 7 seconds              k8s_POD_calico-node-9fhpq_kube-system_92a3a119-8007-48a9-8743-0afdf65f592c_7
  13. 36c5922e79eb   registry.aliyuncs.com/google_containers/pause:3.8   "/pause"                 9 seconds ago    Up 8 seconds              k8s_POD_kube-proxy-nq4x2_kube-system_a3ee7cb5-f97d-4339-8f9e-01e0e15874ba_7
  14. 1cfe981dc26a   a0eed15eed44                                        "etcd --advertise-cl…"   23 seconds ago   Up 23 seconds             k8s_etcd_etcd-k8s-master_kube-system_e4b42e5b51c6629d934233cc43f26a22_9
  15. 17717a8530ef   6fc5e6b7218c                                        "kube-scheduler --au…"   23 seconds ago   Up 23 seconds             k8s_kube-scheduler_kube-scheduler-k8s-master_kube-system_299cca9182c20d90f643981b13c43213_16
  16. e0df13dfff62   8a9000f98a52                                        "kube-apiserver --ad…"   24 seconds ago   Up 23 seconds             k8s_kube-apiserver_kube-apiserver-k8s-master_kube-system_bc05f019b265f704d6a2ffb204a2c88f_10
  17. 6a21496a57a4   138fb5a3a2e3                                        "kube-controller-man…"   24 seconds ago   Up 23 seconds             k8s_kube-controller-manager_kube-controller-manager-k8s-master_kube-system_51eafc84967051e22b58cf0ebce14e35_15
  18. 5631104357a5   registry.aliyuncs.com/google_containers/pause:3.8   "/pause"                 25 seconds ago   Up 25 seconds             k8s_POD_kube-apiserver-k8s-master_kube-system_bc05f019b265f704d6a2ffb204a2c88f_7
  19. 562543f7a8d6   registry.aliyuncs.com/google_containers/pause:3.8   "/pause"                 25 seconds ago   Up 25 seconds             k8s_POD_kube-controller-manager-k8s-master_kube-system_51eafc84967051e22b58cf0ebce14e35_7
  20. 16dbdd75513f   registry.aliyuncs.com/google_containers/pause:3.8   "/pause"                 25 seconds ago   Up 25 seconds             k8s_POD_kube-scheduler-k8s-master_kube-system_299cca9182c20d90f643981b13c43213_7
  21. 5bfab6a1a042   registry.aliyuncs.com/google_containers/pause:3.8   "/pause"                 26 seconds ago   Up 25 seconds             k8s_POD_etcd-k8s-master_kube-system_e4b42e5b51c6629d934233cc43f26a22_7
  22. [root@k8s-master ~]# docker start nginx-1
  23. nginx-1
  24. [root@k8s-master ~]# docker ps
  25. CONTAINER ID   IMAGE                                               COMMAND                  CREATED              STATUS              PORTS     NAMES
  26. 063af5a1782b   17e960f4e39c                                        "start_runit"            12 seconds ago       Up 12 seconds                 k8s_calico-node_calico-node-9fhpq_kube-system_92a3a119-8007-48a9-8743-0afdf65f592c_66
  27. 133fda8d5c2f   cbb01a7bd410                                        "/coredns -conf /etc…"   22 seconds ago       Up 21 seconds                 k8s_coredns_coredns-857d9ff4c9-ntrmg_kube-system_9a07dc52-b60a-4376-add2-5a128335c9df_12
  28. 2cad37aaa64d   08c1b67c88ce                                        "/usr/bin/kube-contr…"   22 seconds ago       Up 22 seconds                 k8s_calico-kube-controllers_calico-kube-controllers-558d465845-x59c8_kube-system_1586cb4f-6051-4cf2-bcbc-7a05f93739ee_11
  29. 245ed185ea4a   registry.aliyuncs.com/google_containers/pause:3.8   "/pause"                 27 seconds ago       Up 26 seconds                 k8s_POD_coredns-857d9ff4c9-ntrmg_kube-system_9a07dc52-b60a-4376-add2-5a128335c9df_8
  30. 60a93585eea1   registry.aliyuncs.com/google_containers/pause:3.8   "/pause"                 27 seconds ago       Up 27 seconds                 k8s_POD_calico-kube-controllers-558d465845-x59c8_kube-system_1586cb4f-6051-4cf2-bcbc-7a05f93739ee_9
  31. 1ee1263b4193   cbb01a7bd410                                        "/coredns -conf /etc…"   45 seconds ago       Up 45 seconds                 k8s_coredns_coredns-857d9ff4c9-29ldj_kube-system_9ee2e5e5-d728-4c02-a87e-8dcaab82fbd7_13
  32. 829516e501fa   registry.aliyuncs.com/google_containers/pause:3.8   "/pause"                 47 seconds ago       Up 46 seconds                 k8s_POD_coredns-857d9ff4c9-29ldj_kube-system_9ee2e5e5-d728-4c02-a87e-8dcaab82fbd7_8
  33. e0c8a6330d0e   9344fce2372f                                        "/usr/local/bin/kube…"   51 seconds ago       Up 50 seconds                 k8s_kube-proxy_kube-proxy-nq4x2_kube-system_a3ee7cb5-f97d-4339-8f9e-01e0e15874ba_9
  34. 255fea7d86a5   registry.aliyuncs.com/google_containers/pause:3.8   "/pause"                 52 seconds ago       Up 51 seconds                 k8s_POD_calico-node-9fhpq_kube-system_92a3a119-8007-48a9-8743-0afdf65f592c_7
  35. 36c5922e79eb   registry.aliyuncs.com/google_containers/pause:3.8   "/pause"                 53 seconds ago       Up 52 seconds                 k8s_POD_kube-proxy-nq4x2_kube-system_a3ee7cb5-f97d-4339-8f9e-01e0e15874ba_7
  36. 1cfe981dc26a   a0eed15eed44                                        "etcd --advertise-cl…"   About a minute ago   Up About a minute             k8s_etcd_etcd-k8s-master_kube-system_e4b42e5b51c6629d934233cc43f26a22_9
  37. 17717a8530ef   6fc5e6b7218c                                        "kube-scheduler --au…"   About a minute ago   Up About a minute             k8s_kube-scheduler_kube-scheduler-k8s-master_kube-system_299cca9182c20d90f643981b13c43213_16
  38. e0df13dfff62   8a9000f98a52                                        "kube-apiserver --ad…"   About a minute ago   Up About a minute             k8s_kube-apiserver_kube-apiserver-k8s-master_kube-system_bc05f019b265f704d6a2ffb204a2c88f_10
  39. 6a21496a57a4   138fb5a3a2e3                                        "kube-controller-man…"   About a minute ago   Up About a minute             k8s_kube-controller-manager_kube-controller-manager-k8s-master_kube-system_51eafc84967051e22b58cf0ebce14e35_15
  40. 5631104357a5   registry.aliyuncs.com/google_containers/pause:3.8   "/pause"                 About a minute ago   Up About a minute             k8s_POD_kube-apiserver-k8s-master_kube-system_bc05f019b265f704d6a2ffb204a2c88f_7
  41. 562543f7a8d6   registry.aliyuncs.com/google_containers/pause:3.8   "/pause"                 About a minute ago   Up About a minute             k8s_POD_kube-controller-manager-k8s-master_kube-system_51eafc84967051e22b58cf0ebce14e35_7
  42. 16dbdd75513f   registry.aliyuncs.com/google_containers/pause:3.8   "/pause"                 About a minute ago   Up About a minute             k8s_POD_kube-scheduler-k8s-master_kube-system_299cca9182c20d90f643981b13c43213_7
  43. 5bfab6a1a042   registry.aliyuncs.com/google_containers/pause:3.8   "/pause"                 About a minute ago   Up About a minute             k8s_POD_etcd-k8s-master_kube-system_e4b42e5b51c6629d934233cc43f26a22_7
  44. d85077c98a69   nginx                                               "/docker-entrypoint.…"   18 hours ago         Up 12 seconds       80/tcp    nginx-1
复制代码
  1. [root@k8s-master ~]# docker exec -it nginx-1 /bin/bash
  2. root@d85077c98a69:/# ifconfig
  3. eth0: flags=4163<UP,BROADCAST,RUNNING,MULTICAST>  mtu 1500
  4.         inet 172.17.0.2  netmask 255.255.0.0  broadcast 172.17.255.255
  5.         ether 02:42:ac:11:00:02  txqueuelen 0  (Ethernet)
  6.         RX packets 14  bytes 1252 (1.2 KiB)
  7.         RX errors 0  dropped 0  overruns 0  frame 0
  8.         TX packets 0  bytes 0 (0.0 B)
  9.         TX errors 0  dropped 0 overruns 0  carrier 0  collisions 0
  11. lo: flags=73<UP,LOOPBACK,RUNNING>  mtu 65536
  12.         inet 127.0.0.1  netmask 255.0.0.0
  13.         inet6 ::1  prefixlen 128  scopeid 0x10<host>
  14.         loop  txqueuelen 1000  (Local Loopback)
  15.         RX packets 0  bytes 0 (0.0 B)
  16.         RX errors 0  dropped 0  overruns 0  frame 0
  17.         TX packets 0  bytes 0 (0.0 B)
  18.         TX errors 0  dropped 0 overruns 0  carrier 0  collisions 0
  20. root@d85077c98a69:/# route
  21. Kernel IP routing table
  22. Destination     Gateway         Genmask         Flags Metric Ref    Use Iface
  23. default         172.17.0.1      0.0.0.0         UG    0      0        0 eth0
  24. 172.17.0.0      0.0.0.0         255.255.0.0     U     0      0        0 eth0
  25. #宿主机
  26. root@d85077c98a69:/# exit
  27. exit
  28. [root@k8s-master ~]# ifconfig
  29. cali6632e2eedff: flags=4163<UP,BROADCAST,RUNNING,MULTICAST>  mtu 1500
  30.         inet6 fe80::ecee:eeff:feee:eeee  prefixlen 64  scopeid 0x20<link>
  31.         ether ee:ee:ee:ee:ee:ee  txqueuelen 1000  (Ethernet)
  32.         RX packets 3  bytes 125 (125.0 B)
  33.         RX errors 0  dropped 0  overruns 0  frame 0
  34.         TX packets 8  bytes 770 (770.0 B)
  35.         TX errors 0  dropped 0 overruns 0  carrier 0  collisions 0
  37. cali7b6489f2f47: flags=4163<UP,BROADCAST,RUNNING,MULTICAST>  mtu 1500
  38.         inet6 fe80::ecee:eeff:feee:eeee  prefixlen 64  scopeid 0x20<link>
  39.         ether ee:ee:ee:ee:ee:ee  txqueuelen 1000  (Ethernet)
  40.         RX packets 3  bytes 125 (125.0 B)
  41.         RX errors 0  dropped 0  overruns 0  frame 0
  42.         TX packets 8  bytes 770 (770.0 B)
  43.         TX errors 0  dropped 0 overruns 0  carrier 0  collisions 0
  45. calieaec58fb34e: flags=4163<UP,BROADCAST,RUNNING,MULTICAST>  mtu 1500
  46.         inet6 fe80::ecee:eeff:feee:eeee  prefixlen 64  scopeid 0x20<link>
  47.         ether ee:ee:ee:ee:ee:ee  txqueuelen 1000  (Ethernet)
  48.         RX packets 3  bytes 125 (125.0 B)
  49.         RX errors 0  dropped 0  overruns 0  frame 0
  50.         TX packets 8  bytes 770 (770.0 B)
  51.         TX errors 0  dropped 0 overruns 0  carrier 0  collisions 0
  53. docker0: flags=4163<UP,BROADCAST,RUNNING,MULTICAST>  mtu 1500
  54.         inet 172.17.0.1  netmask 255.255.0.0  broadcast 172.17.255.255
  55.         inet6 fe80::42:5fff:fe05:698c  prefixlen 64  scopeid 0x20<link>
  56.         ether 02:42:5f:05:69:8c  txqueuelen 0  (Ethernet)
  57.         RX packets 3  bytes 125 (125.0 B)
  58.         RX errors 0  dropped 0  overruns 0  frame 0
  59.         TX packets 8  bytes 770 (770.0 B)
  60.         TX errors 0  dropped 0 overruns 0  carrier 0  collisions 0
  62. ens33: flags=4163<UP,BROADCAST,RUNNING,MULTICAST>  mtu 1500
  63.         inet 192.168.117.207  netmask 255.255.255.0  broadcast 192.168.117.255
  64.         inet6 fe80::20c:29ff:fe96:278c  prefixlen 64  scopeid 0x20<link>
  65.         ether 00:0c:29:96:27:8c  txqueuelen 1000  (Ethernet)
  66.         RX packets 554  bytes 64561 (63.0 KiB)
  67.         RX errors 0  dropped 0  overruns 0  frame 0
  68.         TX packets 596  bytes 65850 (64.3 KiB)
  69.         TX errors 0  dropped 0 overruns 0  carrier 0  collisions 0
  71. lo: flags=73<UP,LOOPBACK,RUNNING>  mtu 65536
  72.         inet 127.0.0.1  netmask 255.0.0.0
  73.         inet6 ::1  prefixlen 128  scopeid 0x10<host>
  74.         loop  txqueuelen 1000  (Local Loopback)
  75.         RX packets 49719  bytes 16290594 (15.5 MiB)
  76.         RX errors 0  dropped 0  overruns 0  frame 0
  77.         TX packets 49719  bytes 16290594 (15.5 MiB)
  78.         TX errors 0  dropped 0 overruns 0  carrier 0  collisions 0
  80. veth6881202: flags=4163<UP,BROADCAST,RUNNING,MULTICAST>  mtu 1500
  81.         inet6 fe80::408f:cdff:fe98:623a  prefixlen 64  scopeid 0x20<link>
  82.         ether 42:8f:cd:98:62:3a  txqueuelen 0  (Ethernet)
  83.         RX packets 3  bytes 167 (167.0 B)
  84.         RX errors 0  dropped 0  overruns 0  frame 0
  85.         TX packets 18  bytes 1566 (1.5 KiB)
  86.         TX errors 0  dropped 0 overruns 0  carrier 0  collisions 0
  88. [root@k8s-master ~]#
  89. [root@k8s-master ~]# brctl show
  90. bridge name     bridge id               STP enabled     interfaces
  91. docker0         8000.02425f05698c       no              veth6881202
  92. [root@k8s-master ~]#
复制代码
​        这就使得 Veth Pair 常常被用作连接差别 Network Namespace 的“网线”。
​        我们启动了一个叫作 nginx-1 的容器
​        这个容器里有一张叫作 eth0 的网卡，它正是一个 Veth Pair 设备在容器里的这一端。
​        通过 route 命令检察 nginx-1 容器的路由表，我们可以看到，这个 eth0 网卡是这个容器里的默认路由设备；所有对 172.17.0.0/16 网段的请求，也会被交给 eth0 来处理（第二条 172.17.0.0 路由规则）。
​        通过宿主机 ifconfig 命令的输出，你可以看到，nginx-1 容器对应的 Veth Pair 设备，在宿主机上是一张虚拟网卡。它的名字叫作veth6881202
​        而且，通过 brctl show 的输出，你可以看到这张网卡被“插”在了 docker0 上。
假如我们再在这台宿主机上启动另一个 Docker 容器，比如 nginx-2
  1. [root@k8s-master ~]# brctl show
  2. bridge name     bridge id               STP enabled     interfaces
  3. docker0         8000.02425f05698c       no              veth6881202
  4. [root@k8s-master ~]# docker run -d --name nginx-2 nginx
  5. e3b1a33fa82952f99bdf47e1451d05d83a9686cb006798744d2e593f02cf65c8
  6. [root@k8s-master ~]# brctl show
  7. bridge name     bridge id               STP enabled     interfaces
  8. docker0         8000.02425f05698c       no              veth40408f3
  9.                                                         veth6881202
  10. [root@k8s-master ~]#
复制代码
检察容器ip
  1. [root@k8s-master ~]#
  2. [root@k8s-master ~]# docker inspect nginx-1
  3. [
  4.     {
  5.         "Id": "d85077c98a69846efe9bf17c4b1b4efb2152ec2078f5de483edc524c674eed76",
  6.         "Created": "2025-02-16T06:21:15.681636573Z",
  7.         "Path": "/docker-entrypoint.sh",
  8. ----------
  9.    
  10.                    "Links": null,
  11.                     "Aliases": null,
  12.                     "MacAddress": "02:42:ac:11:00:02",
  13.                     "DriverOpts": null,
  14.                     "NetworkID": "5ce1ccec1789844b6a4712acd0c8d6f0ef9fba840c00f53be667a0dd6fbae39c",
  15.                     "EndpointID": "786e7d287ca79fda20dc3895bb64b9830a99f1989538fd503e9f877e4ad574f3",
  16.                     "Gateway": "172.17.0.1",
  17.                     "IPAddress": "172.17.0.2",
  18.                     "IPPrefixLen": 16,
  19.                     "IPv6Gateway": "",
  20.                     "GlobalIPv6Address": "",
  21.                     "GlobalIPv6PrefixLen": 0,
  22.                     "DNSNames": null
  23.                 }
  24.             }
  25.         }
  26.     }
  27. ]
复制代码
ip为"IPAddress": "172.17.0.2",
进入nginx-2来ping nginx-1（curl也行）
  1. [root@k8s-master ~]# docker exec -it nginx-2 /bin/bash
  2. root@e3b1a33fa829:/# ping 172.17.0.2
  3. bash: ping: command not found
  4. root@e3b1a33fa829:/# yum -y install ping
  5. bash: yum: command not found
  6. root@e3b1a33fa829:/# apt-get install -y iputils-ping
  7. Reading package lists... Done
  8. Building dependency tree... Done
  9. Reading state information... Done
  10. E: Unable to locate package iputils-ping
  11. root@e3b1a33fa829:/# curl http://172.17.0.2
  12. <!DOCTYPE html>
  13. <html>
  14. <head>
  15. <title>Welcome to nginx!</title>
  17. </head>
  18. <body>
  19. <h1>Welcome to nginx!</h1>
  20. <p>If you see this page, the nginx web server is successfully installed and
  21. working. Further configuration is required.</p>
  23. <p>For online documentation and support please refer to
  24. <a target="_blank" href="http://nginx.org/">nginx.org</a>.<br/>
  25. Commercial support is available at
  26. <a target="_blank" href="http://nginx.com/">nginx.com</a>.</p>
  28. <p><em>Thank you for using nginx.</em></p>
  29. </body>
  30. </html>
  31. root@e3b1a33fa829:/#
复制代码

​        当你在 nginx-1 容器里访问 nginx-2 容器的 IP 地址（比如 ping 172.17.0.3）的时候，这个目的 IP 地址会匹配到 nginx-1 容器里的第二条路由规则。可以看到，这条路由规则的网关（Gateway）是 0.0.0.0，这就意味着这是一条直连规则，即：凡是匹配到这条规则的 IP 包，应该经过本机的 eth0 网卡，通过二层网络直接发往目的主机。
​        这个 eth0 网卡，是一个 Veth Pair，它的一端在这个 nginx-1 容器的 Network Namespace 里，而另一端则位于宿主机上（Host Namespace），而且被“插”在了宿主机的 docker0 网桥上。
​        一旦一张虚拟网卡被“插”在网桥上，它就会变成该网桥的“从设备”。从设备会被“剥夺”调用网络协议栈处理数据包的资格，从而“降级”成为网桥上的一个端口。而这个端口唯一的作用，就是接收流入的数据包，然后把这些数据包的“生杀大权”（比如转发或者丢弃），全部交给对应的网桥。
​        在收到这些 ARP 请求之后，docker0 网桥就会扮演二层互换机的角色，把 ARP 广播转发到其他被“插”在 docker0 上的虚拟网卡上。这样，同样连接在 docker0 上的 nginx-2 容器的网络协议栈就会收到这个 ARP 请求，从而将 172.17.0.3 所对应的 MAC 地址回复给 nginx-1 容器。
​        有了这个目的 MAC 地址，nginx-1 容器的 eth0 网卡就可以将数据包发出去。
​        被限制在 Network Namespace 里的容器进程，现实上是通过 Veth Pair 设备 + 宿主机网桥的方式，实现了跟同其他容器的数据互换。
  1. 当一个容器试图连接到另外一个宿主机时，比如：ping 10.168.0.3，它发出的请求数据包，首先经过 docker0 网桥出现在宿主机上。然后根据宿主机的路由表里的直连路由规则（10.168.0.0/24 via eth0)），对 10.168.0.3 的访问请求就会交给宿主机的 eth0 处理。
复制代码
​        这个数据包就会经宿主机的 eth0 网卡转发到宿主机网络上，终极到达 10.168.0.3 对应的宿主机上。固然，这个过程的实现要求这两台宿主机本身是连通的

​        当你遇到容器连不通“外网”的时候，你都应该先试试 docker0 网桥能不能 ping 通，然后检察一下跟 docker0 和 Veth Pair 设备相关的 iptables 规则是不是有非常，往往就可以或许找到问题的答案了。
veth pair： 虚拟1 - docker0 - 虚拟2，每个上面都有一个地址，虚拟1，2不需要解析包，网桥docker0来解析，并做转发操作
“跨主通信”问题

​        假如在另外一台宿主机（比如：10.168.0.3）上，也有一个 Docker 容器。那么，我们的 nginx-1 容器又该怎样访问它呢？
​        在 Docker 的默认设置下，一台宿主机上的 docker0 网桥，和其他宿主机上的 docker0 网桥，没有任何关联，它们相互之间也没办法连通。以是，连接在这些网桥上的容器，自然也没办法进行通信了。
​        假如我们通过软件的方式，创建一个整个集群“公用”的网桥，然后把集群里的所有容器都连接到这个网桥上，不就可以相互通信了吗？

​        构建这种容器网络的核心在于：我们需要在已有的宿主机网络上，再通过软件构建一个覆盖在已有宿主机网络之上的、可以把所有容器连通在一起的虚拟网络。以是，这种技能就被称为：Overlay Network（覆盖网络）。
​        Overlay Network 本身，可以由每台宿主机上的一个“特别网桥”共同构成。比如，当 Node 1 上的 Container 1 要访问 Node 2 上的 Container 3 的时候，Node 1 上的“特别网桥”在收到数据包之后，可以或许通过某种方式，把数据包发送到精确的宿主机，比如 Node 2 上。而 Node 2 上的“特别网桥”在收到数据包后，也可以或许通过某种方式，把数据包转发给精确的容器，比如 Container 3。
​        甚至，每台宿主机上，都不需要有一个这种特别的网桥，而仅仅通过某种方式设置宿主机的路由表，就可以或许把数据包转发到精确的宿主机上。
​        这里的关键在于，容器要想跟外界进行通信，它发出的 IP 包就必须从它的 Network Namespace 里出来，来到宿主机上。而解决这个问题的方法就是：为容器创建一个一端在容器里充当默认网卡、另一端在宿主机上的 Veth Pair 设备。
回复

使用道具 举报

返回列表 发新帖
高级模式
B Color Image Link Quote Code Smilies
您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

登录后关闭弹窗

登录参与点评抽奖  加入IT实名职场社区
去登录

QQ|手机版|qidao123.com IT社区;IT企服评测▪应用市场 ( 浙ICP备20004199|浙ICP备20004199号 )|网站地图

GMT+8, 2026-11-14 08:54 , Processed in 0.035298 second(s), 6 queries , Redis On.

Powered by Discuz! X3.5 Licensed

© 2001-2026 Discuz! Team.

快速回复 返回顶部 返回列表