OpenStack & KVM 가상화 완전 가이드 2025: 프라이빗 클라우드 구축부터 운영까지

+--------------------------------------------------+
|        가상화 방식 비교                              |
+--------------------------------------------------+
| 전가상화 (Full Virtualization)                     |
|   - 게스트 OS 수정 없이 실행                         |
|   - Binary Translation으로 특권 명령 처리             |
|   - 성능 오버헤드 있음                               |
+--------------------------------------------------+
| 반가상화 (Para-virtualization)                     |
|   - 게스트 OS 커널 수정 필요 (Hypercall)              |
|   - Xen이 대표적                                   |
|   - 성능 우수하나 호환성 제한                          |
+--------------------------------------------------+
| 하드웨어 지원 가상화 (HW-assisted)                    |
|   - Intel VT-x / AMD-V                           |
|   - 게스트 OS 수정 불필요 + 높은 성능                   |
|   - KVM이 이 방식 활용                               |
+--------------------------------------------------+

  가상 머신 (VM)                  컨테이너 (Container)
+------------------+           +------------------+
|   App A | App B  |           | App A  |  App B  |
+------------------+           +------------------+
| Guest  | Guest   |           | Bins/  | Bins/   |
|  OS    |  OS     |           | Libs   | Libs    |
+------------------+           +------------------+
|   Hypervisor     |           | Container Engine  |
+------------------+           +------------------+
|   Host OS        |           |   Host OS         |
+------------------+           +------------------+
|   Hardware       |           |   Hardware        |
+------------------+           +------------------+

+--------------------------------------------------+
|              Guest VM (각 VM은 Linux 프로세스)       |
|  +-----------+  +-----------+  +-----------+      |
|  | Guest OS  |  | Guest OS  |  | Guest OS  |      |
|  +-----------+  +-----------+  +-----------+      |
|  |   QEMU    |  |   QEMU    |  |   QEMU    |      |
|  | (userspace)|  | (userspace)|  | (userspace)|    |
+--------------------------------------------------+
|              Linux Kernel                         |
|  +------+  +-------+  +--------+  +---------+    |
|  | KVM  |  | sched |  | memory |  | network |    |
|  |module |  |       |  | mgmt   |  | stack   |    |
|  +------+  +-------+  +--------+  +---------+    |
+--------------------------------------------------+
|              Hardware                             |
|  +----------+  +-------+  +--------+             |
|  | CPU      |  | RAM   |  | NIC    |             |
|  | VT-x/SVM |  |       |  |        |             |
|  +----------+  +-------+  +--------+             |
+--------------------------------------------------+

# KVM 지원 확인
grep -E '(vmx|svm)' /proc/cpuinfo

# KVM 모듈 로드
sudo modprobe kvm
sudo modprobe kvm_intel  # Intel CPU
# sudo modprobe kvm_amd  # AMD CPU

# KVM 디바이스 확인
ls -la /dev/kvm

# NUMA 토폴로지 확인
numactl --hardware
# node 0: cpus: 0 1 2 3 4 5 6 7 16 17 18 19 20 21 22 23
# node 0: size: 65536 MB
# node 1: cpus: 8 9 10 11 12 13 14 15 24 25 26 27 28 29 30 31
# node 1: size: 65536 MB

# lstopo로 시각화
lstopo --of png > topology.png

<vcpu placement='static'>8</vcpu>
<cputune>
  <vcpupin vcpu='0' cpuset='0'/>
  <vcpupin vcpu='1' cpuset='1'/>
  <vcpupin vcpu='2' cpuset='2'/>
  <vcpupin vcpu='3' cpuset='3'/>
  <vcpupin vcpu='4' cpuset='4'/>
  <vcpupin vcpu='5' cpuset='5'/>
  <vcpupin vcpu='6' cpuset='6'/>
  <vcpupin vcpu='7' cpuset='7'/>
  <emulatorpin cpuset='16-17'/>
</cputune>
<numatune>
  <memory mode='strict' nodeset='0'/>
</numatune>

# QEMU에서 virtio 사용
qemu-system-x86_64 \
  -drive file=disk.qcow2,if=virtio \
  -netdev tap,id=net0,ifname=tap0,script=no \
  -device virtio-net-pci,netdev=net0 \
  -m 4G \
  -smp 4 \
  -enable-kvm

# balloon 크기 조정 (virsh)
virsh qemu-monitor-command myvm --hmp 'balloon 2048'

# KSM 활성화
echo 1 > /sys/kernel/mm/ksm/run
echo 1000 > /sys/kernel/mm/ksm/pages_to_scan
echo 20 > /sys/kernel/mm/ksm/sleep_millisecs

# KSM 상태 확인
cat /sys/kernel/mm/ksm/pages_shared
cat /sys/kernel/mm/ksm/pages_sharing

# Hugepages 설정
echo 4096 > /proc/sys/vm/nr_hugepages  # 4096 x 2MB = 8GB

# /etc/default/grub에 추가
# GRUB_CMDLINE_LINUX="hugepagesz=1G hugepages=32 default_hugepagesz=1G"

<!-- libvirt XML에서 hugepages 설정 -->
<memoryBacking>
  <hugepages>
    <page size='1' unit='GiB'/>
  </hugepages>
</memoryBacking>

# SR-IOV VF 생성
echo 4 > /sys/class/net/enp3s0f0/device/sriov_numvfs

# VF 목록 확인
lspci | grep "Virtual Function"

# VM에 VF 할당 (libvirt XML)

<hostdev mode='subsystem' type='pci' managed='yes'>
  <source>
    <address domain='0x0000' bus='0x03' slot='0x10' function='0x0'/>
  </source>
</hostdev>

# IOMMU 활성화 (GRUB)
# Intel: intel_iommu=on iommu=pt
# AMD: amd_iommu=on iommu=pt

# GPU를 vfio-pci에 바인딩
echo "10de 2204" > /sys/bus/pci/drivers/vfio-pci/new_id

Pre-copy 마이그레이션 흐름:
1. 전체 메모리를 대상 호스트로 전송
2. 변경된 더티 페이지를 반복 전송
3. 더티 페이지가 충분히 줄어들면 VM 일시 정지
4. 남은 더티 페이지 전송
5. 대상 호스트에서 VM 재개

# virsh 라이브 마이그레이션
virsh migrate --live --persistent --undefinesource \
  myvm qemu+ssh://dest-host/system

# 마이그레이션 속도 제한 (대역폭 MB/s)
virsh migrate-setspeed myvm 100

# 마이그레이션 상태 확인
virsh domjobinfo myvm

+--------------------------------------------------+
|  Management Tools                                 |
|  +--------+ +----------+ +---------+ +--------+  |
|  | virsh  | |virt-      | |OpenStack| |oVirt   |  |
|  |        | |manager   | |Nova     | |        |  |
|  +--------+ +----------+ +---------+ +--------+  |
+--------------------------------------------------+
|  libvirt API (C, Python, Go, Java bindings)       |
+--------------------------------------------------+
|  libvirtd daemon                                  |
+--------------------------------------------------+
|  Drivers                                          |
|  +-----+ +------+ +------+ +-------+ +--------+  |
|  | KVM | | Xen  | | LXC  | | VBox  | | VMware |  |
|  +-----+ +------+ +------+ +-------+ +--------+  |
+--------------------------------------------------+

# VM 생명주기 관리
virsh list --all                    # 모든 VM 목록
virsh start myvm                    # VM 시작
virsh shutdown myvm                 # 게스트 OS 정상 종료
virsh destroy myvm                  # 강제 종료 (전원 차단)
virsh reboot myvm                   # 재부팅
virsh suspend myvm                  # 일시 정지 (메모리 상태 유지)
virsh resume myvm                   # 재개

# VM 생성/삭제
virsh define vm.xml                 # XML로 VM 정의
virsh undefine myvm                 # VM 정의 제거
virsh undefine myvm --remove-all-storage  # 스토리지까지 제거

# 스냅샷 관리
virsh snapshot-create-as myvm snap1 "First snapshot"
virsh snapshot-list myvm
virsh snapshot-revert myvm snap1
virsh snapshot-delete myvm snap1

# 리소스 조정
virsh setvcpus myvm 4 --live        # vCPU 핫 추가
virsh setmem myvm 8G --live         # 메모리 조정

# 콘솔/디스플레이 접속
virsh console myvm                  # 시리얼 콘솔
virsh vncdisplay myvm               # VNC 포트 확인

<domain type='kvm'>
  <name>web-server-01</name>
  <uuid>auto-generated</uuid>
  <memory unit='GiB'>8</memory>
  <currentMemory unit='GiB'>8</currentMemory>
  <vcpu placement='static'>4</vcpu>

  <os>
    <type arch='x86_64' machine='pc-q35-8.2'>hvm</type>
    <boot dev='hd'/>
  </os>

  <features>
    <acpi/>
    <apic/>
  </features>

  <cpu mode='host-passthrough' check='none' migratable='on'>
    <topology sockets='1' dies='1' cores='4' threads='1'/>
  </cpu>

  <clock offset='utc'>
    <timer name='rtc' tickpolicy='catchup'/>
    <timer name='pit' tickpolicy='delay'/>
    <timer name='hpet' present='no'/>
  </clock>

  <devices>
    <emulator>/usr/bin/qemu-system-x86_64</emulator>

    <!-- virtio 디스크 -->
    <disk type='file' device='disk'>
      <driver name='qemu' type='qcow2' cache='writeback' discard='unmap'/>
      <source file='/var/lib/libvirt/images/web-server-01.qcow2'/>
      <target dev='vda' bus='virtio'/>
    </disk>

    <!-- virtio 네트워크 -->
    <interface type='bridge'>
      <source bridge='br0'/>
      <model type='virtio'/>
    </interface>

    <!-- VNC 디스플레이 -->
    <graphics type='vnc' port='-1' autoport='yes' listen='0.0.0.0'/>

    <!-- 시리얼 콘솔 -->
    <serial type='pty'>
      <target port='0'/>
    </serial>
    <console type='pty'>
      <target type='serial' port='0'/>
    </console>
  </devices>
</domain>

# 디렉토리 기반 스토리지 풀
virsh pool-define-as default dir --target /var/lib/libvirt/images
virsh pool-build default
virsh pool-start default
virsh pool-autostart default

# LVM 스토리지 풀
virsh pool-define-as lvm-pool logical \
  --source-name vg_vms --target /dev/vg_vms

# Ceph RBD 스토리지 풀
virsh pool-define-as ceph-pool rbd \
  --source-host mon1.example.com \
  --source-name libvirt-pool \
  --auth-type ceph --auth-username libvirt

# 볼륨 관리
virsh vol-create-as default myvm.qcow2 50G --format qcow2
virsh vol-list default
virsh vol-delete myvm.qcow2 default

# NAT 네트워크 (기본)
virsh net-list --all

# 브릿지 네트워크 설정 (netplan 예시)
cat /etc/netplan/01-bridge.yaml

network:
  version: 2
  ethernets:
    enp3s0:
      dhcp4: false
  bridges:
    br0:
      interfaces: [enp3s0]
      addresses: [192.168.1.100/24]
      routes:
        - to: default
          via: 192.168.1.1
      nameservers:
        addresses: [8.8.8.8, 8.8.4.4]

+------------------------------------------------------------+
|                    Horizon (Dashboard)                       |
+------------------------------------------------------------+
|                    OpenStack API Layer                       |
+------+-------+--------+--------+-------+--------+----------+
| Key- | Nova  |Neutron | Cinder | Glance| Swift  | Heat     |
|stone | Comp- | Net-   | Block  | Image | Object | Orches-  |
| Auth | ute   | work   | Store  |       | Store  | tration  |
+------+-------+--------+--------+-------+--------+----------+
|  RabbitMQ (Message Queue)  |  MariaDB/Galera (Database)    |
+------------------------------------------------------------+
|               Hypervisor (KVM/QEMU)                         |
+------------------------------------------------------------+
|               Physical Infrastructure                       |
+------------------------------------------------------------+

기능:
- 토큰 기반 인증 (Fernet, JWT)
- RBAC (Role-Based Access Control)
- 멀티테넌시 (Project/Domain 격리)
- LDAP/AD 연동, SAML/OIDC Federation
- 서비스 카탈로그 (엔드포인트 레지스트리)

# Keystone 토큰 발급
openstack token issue

# 프로젝트/사용자 관리
openstack project create --domain default myproject
openstack user create --domain default --password-prompt myuser
openstack role add --project myproject --user myuser member

Nova 내부 구성:
- nova-api: REST API 엔드포인트
- nova-scheduler: VM 배치 알고리즘 (FilterScheduler)
- nova-conductor: DB 접근 프록시 (보안)
- nova-compute: 하이퍼바이저 드라이버 (libvirt)
- Placement: 리소스 추적 서비스

# 인스턴스 생성
openstack server create \
  --flavor m1.large \
  --image ubuntu-22.04 \
  --network internal-net \
  --security-group default \
  --key-name mykey \
  web-server-01

# flavor 관리
openstack flavor create --vcpus 4 --ram 8192 --disk 80 m1.large

# 인스턴스 관리
openstack server list
openstack server show web-server-01
openstack server resize web-server-01 m1.xlarge

Neutron 구성:
- neutron-server: API 서버
- ML2 Plugin: 모듈러 네트워크 드라이버
- OVS/OVN Agent: 가상 스위치 관리
- L3 Agent: 라우팅, NAT
- DHCP Agent: IP 할당
- Metadata Agent: 인스턴스 메타데이터

# 네트워크 생성
openstack network create internal-net
openstack subnet create --network internal-net \
  --subnet-range 10.0.1.0/24 \
  --gateway 10.0.1.1 \
  --dns-nameserver 8.8.8.8 \
  internal-subnet

# 라우터 생성
openstack router create main-router
openstack router set --external-gateway external-net main-router
openstack router add subnet main-router internal-subnet

# Floating IP 할당
openstack floating ip create external-net
openstack server add floating ip web-server-01 203.0.113.10

# 보안 그룹
openstack security group rule create --protocol tcp \
  --dst-port 80:80 --remote-ip 0.0.0.0/0 default
openstack security group rule create --protocol tcp \
  --dst-port 22:22 --remote-ip 10.0.0.0/8 default

# 볼륨 생성 및 연결
openstack volume create --size 100 data-vol
openstack server add volume web-server-01 data-vol

# 스냅샷
openstack volume snapshot create --volume data-vol snap-before-upgrade

# 볼륨 타입 (백엔드 지정)
openstack volume type create --property volume_backend_name=ceph-ssd fast-ssd
openstack volume create --size 50 --type fast-ssd fast-data

# 이미지 업로드
openstack image create "ubuntu-22.04" \
  --file ubuntu-22.04-server-cloudimg-amd64.img \
  --disk-format qcow2 \
  --container-format bare \
  --public

# 이미지 목록
openstack image list

# HOT (Heat Orchestration Template) 예시
heat_template_version: 2021-04-16

description: Web server stack

parameters:
  image:
    type: string
    default: ubuntu-22.04
  flavor:
    type: string
    default: m1.large

resources:
  web_server:
    type: OS::Nova::Server
    properties:
      name: web-server
      image: { get_param: image }
      flavor: { get_param: flavor }
      networks:
        - network: internal-net
      security_groups:
        - default

  web_port:
    type: OS::Neutron::Port
    properties:
      network: internal-net

  floating_ip:
    type: OS::Neutron::FloatingIP
    properties:
      floating_network: external-net
      port_id: { get_resource: web_port }

outputs:
  server_ip:
    value: { get_attr: [floating_ip, floating_ip_address] }

컨트롤러 노드 (3대 HA):
  - CPU: 8코어 이상
  - RAM: 32GB 이상
  - Disk: 500GB SSD (OS + DB)
  - NIC: 2개 이상 (관리 + 서비스)

컴퓨트 노드 (N대):
  - CPU: 최대한 많은 코어 (VM 수에 비례)
  - RAM: 128GB+ (VM 메모리 합계 + 오버헤드)
  - Disk: SSD (로컬 에페메럴)
  - NIC: 2개 이상

스토리지 노드 (Ceph OSD, 3대 이상):
  - CPU: OSD당 1코어
  - RAM: OSD당 4GB
  - Disk: NVMe/SSD (OSD) + SSD (WAL/DB)
  - NIC: 10GbE 이상

# 1. 준비
pip install kolla-ansible

# 2. 인벤토리 설정
cp /usr/share/kolla-ansible/ansible/inventory/multinode .
# 인벤토리 파일 편집

# 3. 전역 설정
cat /etc/kolla/globals.yml

# /etc/kolla/globals.yml
kolla_base_distro: "ubuntu"
kolla_install_type: "source"
openstack_release: "2024.2"

kolla_internal_vip_address: "10.0.0.100"
kolla_external_vip_address: "203.0.113.100"

network_interface: "eth0"
neutron_external_interface: "eth1"

enable_cinder: "yes"
enable_cinder_backend_lvm: "no"
enable_cinder_backend_ceph: "yes"

enable_heat: "yes"
enable_horizon: "yes"
enable_neutron_provider_networks: "yes"

ceph_cinder_user: "cinder"
ceph_cinder_pool_name: "volumes"

# 4. 패스워드 생성
kolla-genpwd

# 5. 부트스트랩
kolla-ansible -i multinode bootstrap-servers

# 6. 사전 검증
kolla-ansible -i multinode prechecks

# 7. 배포
kolla-ansible -i multinode deploy

# 8. 후처리 (OpenRC/clouds.yaml 생성)
kolla-ansible -i multinode post-deploy

# 9. 확인
source /etc/kolla/admin-openrc.sh
openstack service list
openstack compute service list
openstack network agent list

+------------------------------------------------------------+
|  External Network (203.0.113.0/24)                          |
|                        |                                    |
|                  [External Router]                           |
|                        |                                    |
|  Management Network (10.0.0.0/24)                           |
|  +----------+  +----------+  +----------+                   |
|  |Controller|  |Controller|  |Controller|                   |
|  |   Node 1 |  |   Node 2 |  |   Node 3 |                   |
|  +----------+  +----------+  +----------+                   |
|        |              |              |                       |
|  Tunnel Network (10.0.1.0/24) - VXLAN                       |
|        |              |              |                       |
|  +----------+  +----------+  +----------+                   |
|  | Compute  |  | Compute  |  | Compute  |                   |
|  |  Node 1  |  |  Node 2  |  |  Node 3  |                   |
|  +----------+  +----------+  +----------+                   |
|        |              |              |                       |
|  Storage Network (10.0.2.0/24) - Ceph                       |
|        |              |              |                       |
|  +----------+  +----------+  +----------+                   |
|  |  Ceph    |  |  Ceph    |  |  Ceph    |                   |
|  |  OSD 1   |  |  OSD 2   |  |  OSD 3   |                   |
|  +----------+  +----------+  +----------+                   |
+------------------------------------------------------------+

Open vSwitch (OVS):
- 소프트웨어 가상 스위치
- neutron-openvswitch-agent가 관리
- 성숙하고 안정적
- 대규모에서 성능 저하 가능

OVN (Open Virtual Network):
- OVS 위에 구축된 SDN 솔루션
- 분산형 아키텍처 (중앙 에이전트 불필요)
- 네이티브 L3/NAT/DHCP/ACL 지원
- 대규모 환경에서 우수한 성능
- OpenStack 최신 권장 백엔드

# OVN 구성 확인
ovn-sbctl show
ovn-nbctl show

# 논리 스위치/라우터 확인
ovn-nbctl ls-list
ovn-nbctl lr-list

VXLAN (Virtual Extensible LAN):
- UDP 포트 4789로 L2 프레임을 L3 네트워크에 캡슐화
- 24비트 VNI로 최대 약 1,600만개 세그먼트 (VLAN은 4,096개)
- 멀티테넌트 환경에 적합

패킷 구조:
+------+------+------+------+---------+------+------+
|Outer | Outer| Outer| VXLAN| Inner   |Inner |Inner |
|Ether | IP   | UDP  |Header| Ether   |  IP  |Payload|
+------+------+------+------+---------+------+------+

DVR 없이 (Centralized):
  VM -> Compute Node -> [Network Node: L3 Agent] -> External

DVR 적용:
  VM -> Compute Node [Local L3 Agent] -> External
  (East-West 트래픽도 로컬에서 처리)

# 보안 그룹 생성
openstack security group create web-sg
openstack security group rule create \
  --protocol tcp --dst-port 80 --remote-ip 0.0.0.0/0 web-sg
openstack security group rule create \
  --protocol tcp --dst-port 443 --remote-ip 0.0.0.0/0 web-sg
openstack security group rule create \
  --protocol tcp --dst-port 22 --remote-ip 10.0.0.0/8 web-sg

+------------------------------------------------------------+
|  Ephemeral Storage                                          |
|  - VM 삭제 시 함께 삭제                                       |
|  - 로컬 디스크 (빠르지만 비영구)                                |
|  - 스냅샷으로 영구 이미지 변환 가능                              |
+------------------------------------------------------------+
|  Persistent Block Storage (Cinder)                          |
|  - VM과 독립적 생명주기                                       |
|  - 다른 VM에 재연결 가능                                      |
|  - 스냅샷, 복제, 암호화 지원                                   |
+------------------------------------------------------------+
|  Object Storage (Swift)                                     |
|  - REST API로 접근                                           |
|  - VM 이미지, 백업 데이터 저장                                 |
|  - 높은 내구성 (3중 복제)                                     |
+------------------------------------------------------------+
|  Shared File System (Manila)                                |
|  - NFS/CIFS 공유                                             |
|  - 여러 VM이 동시 접근                                        |
+------------------------------------------------------------+

Ceph + OpenStack 매핑:
- Ceph RBD  -> Cinder (블록 스토리지)
- Ceph RBD  -> Nova (에페메럴 디스크, 라이브 마이그레이션)
- Ceph RBD  -> Glance (이미지 저장)
- Ceph RGW  -> Swift API 호환 (오브젝트 스토리지)
- CephFS    -> Manila (공유 파일시스템)

# Ceph 풀 생성 (OpenStack용)
ceph osd pool create volumes 128
ceph osd pool create images 64
ceph osd pool create vms 128
ceph osd pool create backups 64

# Ceph 인증 키 생성
ceph auth get-or-create client.cinder \
  mon 'profile rbd' \
  osd 'profile rbd pool=volumes, profile rbd pool=vms, profile rbd pool=images'

ceph auth get-or-create client.glance \
  mon 'profile rbd' \
  osd 'profile rbd pool=images'

# CPU 핀닝 + NUMA 인식 (nova.conf)
# [DEFAULT]
# vcpu_pin_set = 4-31
# reserved_host_cpus = 0-3
# cpu_allocation_ratio = 4.0

# [libvirt]
# cpu_mode = host-passthrough

<!-- 고성능 VM: CPU 핀닝 + Hugepages + NUMA -->
<domain type='kvm'>
  <vcpu placement='static'>16</vcpu>
  <cputune>
    <vcpupin vcpu='0' cpuset='4'/>
    <vcpupin vcpu='1' cpuset='5'/>
    <!-- ... -->
    <emulatorpin cpuset='0-1'/>
  </cputune>
  <numatune>
    <memory mode='strict' nodeset='0'/>
  </numatune>
  <memoryBacking>
    <hugepages>
      <page size='1' unit='GiB'/>
    </hugepages>
  </memoryBacking>
  <cpu mode='host-passthrough'>
    <topology sockets='1' dies='1' cores='16' threads='1'/>
    <numa>
      <cell id='0' cpus='0-15' memory='32' unit='GiB'/>
    </numa>
  </cpu>
</domain>

성능 순서 (낮음 -> 높음):
1. virtio-net (소프트웨어 가상화) - 약 10Gbps
2. vhost-net (커널 모드 데이터패스) - 약 15Gbps
3. DPDK (유저 스페이스 패킷 처리) - 약 40Gbps
4. SR-IOV (하드웨어 패스스루) - 네이티브에 근접 (100Gbps)

# virtio-scsi (멀티큐 지원)
# virtio-blk보다 많은 디바이스 연결 가능, SCSI 명령 지원

# I/O 스케줄러 (NVMe에는 none 권장)
echo none > /sys/block/nvme0n1/queue/scheduler

# I/O 스레드 분리 (libvirt)

<iothreads>4</iothreads>
<disk type='file' device='disk'>
  <driver name='qemu' type='qcow2' cache='none' io='native' iothread='1'/>
  <source file='/var/lib/libvirt/images/vm.qcow2'/>
  <target dev='vda' bus='virtio'/>
</disk>

컨트롤 플레인 HA:
- 최소 3개 컨트롤러 노드
- HAProxy + Keepalived (VIP)
- Pacemaker/Corosync (클러스터 관리)
- Galera Cluster (MariaDB 동기 복제)
- RabbitMQ 미러링 큐

데이터 플레인 HA:
- Ceph (3중 복제, 노드 장애 자동 복구)
- Neutron DVR (네트워크 노드 SPOF 제거)
- Nova 인스턴스 HA (Masakari)

# HAProxy 상태 확인
echo "show stat" | socat stdio /var/run/haproxy/admin.sock

# Galera 클러스터 상태
mysql -e "SHOW STATUS LIKE 'wsrep_cluster_size';"
mysql -e "SHOW STATUS LIKE 'wsrep_cluster_status';"

# RabbitMQ 클러스터 상태
rabbitmqctl cluster_status

# Prometheus + OpenStack Exporter 설정
# prometheus.yml
scrape_configs:
  - job_name: 'openstack'
    static_configs:
      - targets: ['openstack-exporter:9198']
    metrics_path: '/metrics'

  - job_name: 'ceph'
    static_configs:
      - targets: ['ceph-mgr:9283']

  - job_name: 'libvirt'
    static_configs:
      - targets: ['compute1:9177', 'compute2:9177']

# OpenStack 데이터베이스 백업
mysqldump --all-databases --single-transaction \
  --routines --triggers > openstack-db-backup.sql

# Cinder 볼륨 백업 (Ceph)
rbd snap create volumes/volume-UUID@backup-20260325
rbd export volumes/volume-UUID@backup-20260325 volume-backup.raw

# Glance 이미지 백업
openstack image save --file ubuntu-backup.qcow2 ubuntu-22.04

# Nova 인스턴스 스냅샷
openstack server image create --name "web-server-backup" web-server-01

Rolling Upgrade 절차:
1. 컨트롤러 노드를 하나씩 업그레이드
   - 서비스 중단 최소화
   - API 하위 호환성 활용
2. 데이터베이스 마이그레이션 실행
3. 컴퓨트 노드를 하나씩 업그레이드
   - VM 라이브 마이그레이션으로 빈 노드 업그레이드
4. Neutron 에이전트 업그레이드
5. 전체 서비스 검증