iscsi磁盘阵列用作proxmoxve的lvm共享存储

author author     2022-08-21     159

关键词:

iSCSI磁盘阵列用作Proxmox VE的LVM共享存储


  proxmox作为开源的虚拟化管理平台,支持集群管理和HA。在一般的中小规模虚拟化应用,完全可以替代VMware。VM热迁移、HA高可用等作为虚拟化应用的重要功能,必须用到共享存储。从其官方资料和一些网上资料称,proxmox除了支持常用的lvm,nfs,iscsi,还支持集群存储glusterfs和ceph等。

  笔者用Proxmox VE 4.4在两台DELL R730服务器建立了两个节点(pve-01和pve-02)的群集。拟在一台iSCSI的DELL PS6000E磁盘阵列上划出一个2T的卷作为共享存储。

  之前在VMware的vCenter中作过类似的应用,vCenter的存储可直接挂上iSCSI的卷,用VMFS文件系统可直接作为共享存储,其各项性能(如精简磁盘、快照等)与本地存储完全一样。

  所以,首先试验Proxmox VE直接挂iSCSI卷,发现VM也可创建在该卷上,但VM的磁盘将占用整个卷的空间。查询Proxmox VE的帮助文件Proxmox VE Storage中Open-iSCSI initiator一节中提到:

  If you want to use LVM on top of iSCSI, it make sense to setcontent none. That way it is not possible to create VMs using iSCSI LUNs directly.

  即不可能直接使用iSCSI LUN创建VM,需要用LVM on top of iSCSI。即要在iSCSI LUN上建立LVM。按此提示,笔者作了以下实验,成功地创建了共享存储,实现了VM的热迁移、HA等。

  

一、在PS6000E磁盘阵列创建用于PVE共享存储的卷(Volume):

 

卷名:pve-storage

技术分享


大小:2000G,精简模式:

技术分享


开启共享(允许不同的发起端同时连接该目标):

技术分享

 

 

二、挂载磁盘阵列iSCSI卷(pve-storage)。

1、查找pve-01pve-02等节点的iSCSI initiator

在节点1(pve-01)上查看/etc/iscsi/initiatorname.iscsi文件内容,找到pve-01iSCSI发起名:iqn.1993-08.org.debian:01:c8a15d1fa8b

 

[email protected]:# cat /etc/iscsi/initiatorname.iscsi

## DO NOT EDIT OR REMOVE THIS FILE!

## If you remove this file, theiSCSI daemon will not start.

## If you change the InitiatorName,existing access control lists

## may reject this initiator.  The InitiatorName must be unique

## for each iSCSI initiator.  Do NOT duplicate iSCSI InitiatorNames.

InitiatorName=iqn.1993-08.org.debian:01:c8a15d1fa8b

 

同样方式在1(pve-02)上查看/etc/iscsi/initiatorname.iscsi文件内容,可找到pve-02iSCSI发起名:iqn.1993-08.org.debian:01:d9fe19a3091

将两个发起名填入在PS6000S磁盘阵列创建的pve-storage卷访问设置页面,仅允许该卷被pve-01pve-02访问:

技术分享

2、获取iSCSItarget

  执行命令iscsiadm -m discovery -t sendtargets –p < target IP>获取iSCSItarget


[email protected]:~# iscsiadm -m discovery -t sendtargets -p 192.168.1.254

192.168.1.254:3260,1 iqn.2001-05.com.equallogic:0-8a0906-a05065a08-f053c73a5da5881d-pve-storage

  也可在PS6000E pve-storageConnections页中直接复制iSCSI target

技术分享


3、登录iSCSI目标

在各节点上分别执行以下操作登录iSCSI目标

a.执行命令iscsiadm -m node -T <iSCSI-target> -p <target-IP> -l登录iSCSI目标:

iscsiadm -m node -Tiqn.2001-05.com.equallogic:0-8a0906-a05065a08-f053c73a5da5881d-pve-storage -p192.168.1.254 –l

b.为了重启系统能自动登录目标,执行以下命令:

iscsiadm -m node -p 192.168.1.254 --opupdate -n node.startup -v automatic

现在,在该节点上增加了新的磁盘/dev/sdb(本地磁盘只有/dev/sda一个)

依次在其它节点(pve-02)执行上述登录操作(a.b.),将PS6000E上的pve-strage卷挂到各节点。

 

三、在iSCSI磁盘 /dev/sdb上创建LVM分区、创建物理卷、创建卷组(只在某一个节点如pve-01进行如下操作即可。不能在其它节点上再次操作)

 

a.执行磁盘分区命令:

[email protected]:/#fdisk /dev/sdb

 

Welcome to fdisk(util-linux 2.25.2).

Changes will remainin memory only, until you decide to write them.

Be careful beforeusing the write command.

 

Command (m forhelp):g      (建立GPT分区表)

…………

Command (m forhelp):n      (建立一个新的分区,输入分区号、起始结束扇区等)

…………

Command (m forhelp):t      (改变分区类型)

 

Selected partition1

Partition type(type L to list all types):23  (分区1的类型改变为Linux LVM)

 

Command(m for help): p      (查看分区表)

Disk/dev/sdb: 2 TiB, 2147494133760 bytes, 4194324480 sectors

Units:sectors of 1 * 512 = 512 bytes

Sectorsize (logical/physical): 512 bytes / 512 bytes

I/Osize (minimum/optimal): 512 bytes / 512 bytes

Disklabeltype: gpt           (分区表类型为GPT)

Diskidentifier: 97D04321-DE97-4001-A68B-84585F6EAC93

 

Device               Start                  End                     Sectors              Size  Type

/dev/sdb1         34              4194324446     4194324413     2T     Linux LVM (分区类型为Linux LVM)

 

Command(m for help): w      (写入磁盘并退出fdisk)

 

b.在分区/dev/sdb1上创建物理卷physical volume (PV)

pvcreate /dev/sdb1

      c.创建卷组volume group (VG)VG名为“vg-pve

vgcreate vg-pve/dev/sdb1

 

至此,iSCSI共享存储已准备就绪。可供proxmoxVE使用了。


四、在proxmox VEGUI中增加共享存储

  用鼠标依次选:数据中心-存储-添加-LVM

技术分享

  出现添加LVM的对话框:

技术分享

依次命名ID(iSCSI-lvm)、选择卷组(刚才创建的卷组vg-pve会出现在下拉菜单中,选择它即可)、节点(选所有)、选启用、选共享,然后点添加。

现在共享存储iSCSI-lvm就会出现在proxmoxVE各节点。共享存储iSCSI-lvmLVM存储,可将VM的硬盘创建或移动到上面运行以实现HA或经过它热迁移VM。但LVM不支持精简(Thin)磁盘和快照。

参考文献http://benpiper.com/2014/12/creating-linux-lvm-logical-volume-iscsi-san/


本文出自 “SrtEdit技术心得” 博客,请务必保留此出处http://ywg712.blog.51cto.com/2372753/1894006

proxmoxve在线扩容磁盘分区(代码片段)

测试环境某台虚拟机报警,磁盘根分区可用容量不足,这个扩容还是比较简单的,网上看了一下教程很多都是在PVE上给机器新增磁盘,其实不用,PVE的虚拟机磁盘底层也是LVM,原理就是给每一个虚拟机分配了一个PV,管理页面有r... 查看详情

proxmoxve删除local-lvm给local扩容,第二硬盘存放虚拟机

参考技术A如有虚拟机的环境,请先备份虚拟机,然后删除虚拟机。登陆宿主机SHELL界面:SHELL界面(注意修改对应硬盘设备):登陆WEB界面,打开宿主机“磁盘”管理找到对应硬盘,使用GPY初始化硬盘打开LVM-Thin,创建Thinpool 查看详情

iscsi

###########################iscsi################################1.iscsi是直接对设备进行共享的服务2.启动iscsi共享设备在server上(1)建立一个lvm设备: fdisk用于创建与LVM结合使用的新分区。在要与LVM结合使用的分区上,始终将“类型”设置为“... 查看详情

lvm逻辑券

...卷组成。 物理区块是物理卷中存储的小型数据区块,用作LVM存储的后端逻辑卷有助于更加轻松地管理磁盘空间。如果文件系统需要更多的空间,可以将其卷组的可用空间分配给逻辑卷 查看详情

rh134unit5

...个物理卷组成物理区块是物理卷中存储的小型数据区块,用作LVM存储 查看详情

proxmox之云管理平台

ProxmoxVE是一个集成OPENVZ 支持KVM应用的环境。proxmox是一个开源的虚拟化管理平台,支持集群管理和HA.在存储方面,proxmox除了支持常用的lvm,nfs,iscsi,还支持集群存储glusterfs和ceph,这也是我们选择它的原因.Proxmoxhttps://www.proxmox.com/en/pr... 查看详情

rhel7配置iscsi模拟环境(代码片段)

在之前文章《multipath多路径实验01-构建iSCSI模拟环境》中,已经介绍了如何构建iSCSI模拟环境(RHEL6),但在RHEL7中已经不适用,本文记录下新的配置方法。环境:RHEL7.31.LVM创建2.服务端配置3.客户端配置1.LVM创建在RHEL7.3中,对于lvm... 查看详情

proxmoxve超融合集群cephosd磁盘塞满处理

...行df–h来查看磁盘使用情况,以进一步印证问题所在。?ProxmoxVE管理界面,删除未运行的虚拟机。手工输入欲删除的虚拟机ID。效果确认登录任意节点,运行指令cephhealth,输出为OK即可。也可在web管理界面,查看集群概述,健康状... 查看详情

iscsi

iscsi是直接对设备进行共享的服务启动iscsi共享设备在server上建立一个lvm设备[[email protected]~]#fdisk/dev/vdbWelcometofdisk(util-linux2.23.2).Changeswillremaininmemoryonly,untilyoudecidetowritethem.Becarefulbeforeusingthewri 查看详情

proxmoxve设置备忘(代码片段)

1删除 lvmthin  感觉用文件形式硬盘更方便些一般网上下载的虚拟机硬盘文件可以直接拿来用 1.1进入控制台 数据中心->存储->local-lvm->删除   1.2 mkfs.ext4/dev/pve/datamount-text4/dev/pve/data/ssd测试一... 查看详情

iscsi

###################iscsi###################1.iscsi是直接对设备进行共享的服务2.启动iscsi共享设备在server上建立一个lvm设备pvcreate/dev/vdb1vgcreatevg0/dev/vdb1650)this.width=650;"src="http://img.blog.csdn.net/20170606144902917"/> 查看详情

iscsi共享磁盘

...SAN存储的客户端。iscsi目标从iscsi服务器提供的远程硬盘磁盘或“目标门户” 查看详情

iscsi

一、什么是iscsi iscsi是直接对设备进行共享的服务二、对iscsi服务的配置 在server上 建立一个lvm设备  pvcreate/dev/vdb1   ##更改分区为物理卷 vgcreatevgo0/dev/vdb1  ##将分区加入vg0组  yumin 查看详情

iscsi

###################iscsi###################1.iscsi是直接对设备进行共享的服务2.启动iscsi共享设备在server上fdisk/dev/vdb8e建立一个lvm设备lvcreate/dev/vdb1pvcreatevg0/dev/vdb1blkid查询到lvcreate-l255-niscsi_storagevg0 yuminstall 查看详情

lvm磁盘扩展

...理卷(physicalvolume)物理卷就是指硬盘分区或从逻辑上与磁盘分区具有同样功能的设备(如RAID),是LVM的基本存储逻辑块,但和基本的物理存储介质(如分区、磁盘等)比较,却包含有与LVM相关的管理参数。 卷组(VolumeGroup)LV... 查看详情

iscsi挂载和多路径——实战篇

...可简化网络配置),设置两块控制器的targetIP3、创建2个磁盘组,为每个磁盘组增设一块“私有热备”盘,每个磁盘组的Raid级别均为Raid54、基于每个磁盘组创建1个卷组,共创建2个卷组5、基于每个卷组创建2个逻辑卷,共创建4个... 查看详情

lvm逻辑卷创建及扩展(代码片段)

...M逻辑卷管理:逻辑卷管理LVM是linxu系统中比较重要的一种磁盘管理机制,管理员利用LVM可以在磁盘不用重新分区的情况下动态调整文件系统的大小,并且利用LVM管理的文件系统可以跨越磁盘。当服务器添加了新的磁盘后,管理员... 查看详情

lvm磁盘扩容

LVM磁盘管理一、LVM简介LVM是LogicalVolumeManager(逻辑卷管理)的简写,它由HeinzMauelshagen在Linux2.4内核上实现。LVM将一个或多个硬盘的分区在逻辑上集合,相当于一个大硬盘来使用,当硬盘的空间不够使用的时候,可以继续将其它的硬... 查看详情