[Hyper-V] [Open Stack] [Controller Node] [Storage] ②-① Object Storage - Swift 서비스 설치 및 구성

 

 

 

 

 

 

 

 

OpenStack for Architects - Second Edition Paperback

"이 포스팅은 쿠팡 파트너스 활동의 일환으로, 이에 따른 일정액의 수수료를 제공받습니다."

 

🗂 목차

1. [Hyper-V] [Open Stack] Open Stack이란?
2. [Hyper-V] [Open Stack] [Controller Node] Hyper-V 구성 및 Ubuntu 22.04.3 LTS Server 설치
3. [Hyper-V] [Open Stack] [Controller Node] ① 오픈스택 패키지 설치
4. [Hyper-V] [Open Stack] [Controller Node] ② NTP Server 구성
5. [Hyper-V] [Open Stack] [Controller Node] ③ RabbitMQ - Message Queue 설치 및 구성
6. [Hyper-V] [Open Stack] [Controller Node] ④ Memcached 설치 및 구성
7. [Hyper-V] [Open Stack] [Controller Node] ⑤ Etcd 설치 및 구성
8. [Hyper-V] [Open Stack] [Controller Node] ⑥ Keystone - Identity 설치 및 구성
9. [Hyper-V] [Open Stack] [Controller Node] ⑦ Image Service - Glance 설치 및 구성  
10. [Hyper-V] [Open Stack] [Controller Node] ⑧ Compute Service - Nova 설치 및 구성
11. [Hyper-V] [Open Stack] [Contoller Node] ⑨ Neutron - Network 서비스 설치 및 구성
12. [Hyper-V] [Open Stack] [Controller Node] ①⓪ Horizon - Dashboard 서비스 설치 및 구성

13. [Hyper-V] [Open Stack] [Compute Node] Hyper-V 구성 및 Ubuntu 22.04.3 LTS Server 설치 및 초기 구성
14. [Hyper-V] [Open Stack] [Compute Node] ① 오픈스택 패키지 설치
15. [Hyper-V] [Open Stack] [Compute Node] ② Nova 설치 및 구성
16. [Hyper-V] [Open Stack] [Compute Node] ③ Neutron - Network 서비스 설치 및 구성

 

 

 

 

🚀 Controller Node 구성

    🔽 개요

주니의 오픈스택 구성도

 

 

 

 

       📦 소개

오픈스택 오브젝트 스토리지는 멀티 테넌스를 위한 오브젝트 스토리지 시스템이라고 해요. 확장성이 높고, RESTfull HTTP API를 통해 저비용으로 구조화 되지 않은 많은 양의 데이터를 관리하는데 사용할 수 있어요.

오브젝트 스토리지는 아래 구성 요소를 가지고 있어요.

구성 요소	상세 내용
swift-proxy-server	파일 업로드 및 메타 데이터 수정, 컨테이너 생성하는 오브젝트 스토리지 API와 raw HTTP 요청 처리. 웹 브라우저에서 파일이나, 컨테이너 목록 제공. 성능 개선을 위해 프록시 서버는 일반적으로 사용하는 memcache를 선택하여 캐시로 사용.
swift-account-server (계정 관리)	오브젝트 스토리지에서 정의된 계정 관리.
swift-container-server (컨테이너 서버)	오브젝트 스토리지에서 컨테이너, 디렉터리 맵핑 관리.
siwft-object-server (오브젝트 서버)	스토리지 노드에서 파일이기도 한 실제 오브젝트 관리.
다양한 주기 프로세스	거대 데이터 스토리지에서 내부 일 수행. 복제 서비스는 클러스터를 통해 일관성과 사용성 보장. 다른 주기 프로세스에 대한 검사, 업데이트, reaper 포함.
WSGI 미들웨어	오픈스택 Identity를 통해 인증 처리.
swift Client	관리자, 리셀러 사용자, swift 사용자 중 하나에게 Command Line Client 권한을 통해 REST API에게 명령하는 사용자를 의미.
siwft-init	Ring 파일 구축 초기화 스크립트. 매개 변수로 데몬 이름 지정 및 명령 제공. http://docs.openstack.org/developer/swift/admin_guide.html#managing-services
siwtf-recon	CLI Tool은 siwft-recon 미들웨어로 수집된 클러스터에 대한 다양한 측정값과 telemetry 정보 검색.
swift-ring-builder	스토리지 ring을 구축하고, 균형을 다시 맞추는 Utility.  http://docs.openstack.org/developer/swift/admin_guide.html#managing-the-rings

 

오브젝트 스토리지는 파일 혹은 디렉토리를 단독으로 저장하기 위한 저장소로 각 사용자마다 구분된 컨테이너를 통해 데이터를 저장하는 공간이에요.

각 사용자는 오브젝트 스토리지를 사용하기 위해 계정으로 로그인하고, 디렉터리에 해당하는 컨테이너를 생성 또는 삭제할 수 있고, 문서, 동영상, 사진 등의 파일을 업로드하여 저장할 수도 있어요.

물론 오브젝트 스토리지에 저장된 파일들을 내려받기 할 수도 있어요.
오브젝트 스토리지로 저장되는 파일들은 key, value 형태로 저장되는 경우가 많고, REST API를 통해 파일 업/다운로드가 가능해요.

또한, 오브젝트로 불리는 각 데이터 단위가 개별로 저장되게 되는데, 파일 스토리지와 달리 평면 구조(비 구조화)로 구성되어 있어요. 오늘날 비정형 데이터가 전체 데이터의 80% 이상을 차지한다고 하는데, 이 때문에 클라우드, 빅 데이터, 인공지능 분야에서 비정형 데이터 처리를 위한 스토리지 아키텍처 필요성이 증대되고 있어요.

비정형 구조이기 때문에 파일을 빠르게 찾을 수 있도록 메타 데이터가 필요해요. 그렇기 때문에 오브젝트는 메타 데이터의 커스터마이징을 제공하고, 이는 오브젝트 스토리지의 특장점이 될 수 있어요.

HTTP 기반의 RESTful API를 지원하고, 네트워크 상에 HTTP 명령어를 사용하여 데이터에 접속할 수 있도록 해주고 있어요. (예: GET /obj=juny)

오브젝트 스토리지는 블록 스토리지와 다르게 단독으로 구성할 수 있고, 사용자 계정의 컨테이너에 파일아니, 데이터를 저장할 수 있어요. 그렇기 때문에 사용자별로 저장 공간을 나누는 스토리지 시스템 구축 시 오브젝트 스토리지를 이용하면 좋아요.

출처:스토리지 기초 지식 9편: 오브젝트 스토리지란

 

 

 

    🔽 구성 요소 설치 및 구성

       📦 keystone 초기 구성 - 컨트롤러 노드

최초 작업은 컨트롤러 노드에서 진행해야 해요.

컨트롤러 노드에서 오브젝트 스토리지 관련 사용자 계정, 서비스와 엔드포인트를 Keystone에 생성해 볼게요.

openstack user create --domain default --project service --password servicepassword swift

password 부분에는 해당 계정이 사용할 암호를 입력해 줘야 하는데, 특수문자가 들어가지 않게 암호를 만드는걸 추천해요.

openstack user create --domain default --project service --password servicepassword swift

openstack role add --project service --user swift admin

만들어준 계정의 권한을 관리자(admin)으로 설정해 주었어요.

openstack service create --name swift --description "OpenStack Object Storage" object-store

그리고 위와 같이 서비스를 만들어 주었어요.

export swift_proxy=private-controller

swift 프록시 정의를 위와 같이 해 주었는데, 주니는 네트워크 노드를 따로 분리하지 않았고, 해당 기능은 컨트롤러 노드에서 처리하게 구성할 것이기 때문에 위와 같이 컨트롤러 노드로 정의해 주었어요.

openstack endpoint create --region RegionOne object-store public http://$swift_proxy:8080/v1/AUTH_%\(tenant_id\)s; openstack endpoint create --region RegionOne object-store internal http://$swift_proxy:8080/v1/AUTH_%\(tenant_id\)s

반응형

위와 같이 public과 internal 엔드포인트를 만들어 주었어요.

openstack endpoint create --region RegionOne object-store admin http://$swift_proxy:8080/v1

그리고 admin 엔드포인트를 만들어 주었어요.

 

 

 

       📦 초기 구성(프록시) - 컨트롤러 노드(네트워크 노드)

이 부분은 네트워크 노드를 따로 구성했다면 네트워크 노드에서 진행해주어야 해요.

주니는 네트워크 노드 역할을 컨트롤러 노드에서 진행할 것이라 컨트롤러 노드에서 진행하려고 해요.

최초 패키지 설치를 진행할게요.

apt install -y swift swift-proxy python3-swiftclient python3-keystonemiddleware python3-memcache nginx libnginx-mod-stream

curl -o /etc/swift/proxy-server.conf https://opendev.org/openstack/swift/raw/branch/stable/zed/etc/proxy-server.conf-sample?h=stable/zed

그런 뒤 swift-server 설정 파일을 위와 같이 내려받아 줍니다.

vim /etc/swift/proxy-server.conf [DEFAULT] 변경

vim /etc/swift/proxy-server.conf [pipeline:main] 변경

vim /etc/swift/proxy-server.conf [app:proxy-server] 변경

vim /etc/swift/proxy-server.conf [app:proxy-server] 변경

454번째 servicepassword는 위에서 만든 swift 계정의 암호를 넣어주어야 해요.

vim /etc/swift/proxy-server.conf [filter:keystoneauth] 변경

vim /etc/swift/proxy-server.conf [filter:healthcheck] 변경

vim /etc/swift/proxy-server.conf [filter:cache] 변경

vim /etc/swift/proxy-server.conf [filter:ratelimit] 변경

vim /etc/swift/proxy-server.conf [filter:domain_remap] 변경

vim /etc/swift/proxy-server.conf [filter:catch_errors] 변경

vim /etc/swift/proxy-server.conf [filter:cname_lookup] 변경

vim /etc/swift/proxy-server.conf [filter:staticweb] 변경

vim /etc/swift/proxy-server.conf [filter:tempurl] 변경

vim /etc/swift/proxy-server.conf [filter:formpost] 변경

vim /etc/swift/proxy-server.conf [filter:name_check] 변경

vim /etc/swift/proxy-server.conf [filter:list-endpoints] 변경

vim /etc/swift/proxy-server.conf [filter:proxy-logging] 변경

 

 

vim /etc/swift/proxy-server.conf [filter:bulk] 변경

vim /etc/swift/proxy-server.conf [filter:slo] 변경

vim /etc/swift/proxy-server.conf [filter:dlo] 변경

vim /etc/swift/proxy-server.conf [filter:container-quotas] 변경

vim /etc/swift/proxy-server.conf [filter:account-quotas] 변경

vim /etc/swift/proxy-server.conf [filter:gatekeeper] 변경

vim /etc/swift/proxy-server.conf [filter:container_sync] 변경

vim /etc/swift/proxy-server.conf [filter:xprofile] 변경

vim /etc/swift/proxy-server.conf [filter:versioned_writes] 변경

위와 같이 변경이 완료 되었다면 저장하고, 나와줍니다.

curl -o /etc/swift/swift.conf https://opendev.org/openstack/swift/raw/branch/stable/zed/etc/swift.conf-sample?h=stable/zed

이번엔 위와 같이 swift.conf 설정 파일을 내려 받아 주었어요.

vim /etc/swift/swift.conf [swift-hash] 변경 전

vim /etc/swift/swift.conf [swift-hash] 변경 뒤

여기까지 되었다면 저장하고, 나옵니다.

chown -R swift. /etc/swift

해당 설정 파일이 담긴 swift 디렉터리 소유자를 변경해 주었어요.

 

 

       📦 Swift Ring File 설정 - 컨트롤러 노드 (네트워크 노드)

swift-ring-builder /etc/swift/account.builder create 12 1 1; swift-ring-builder /etc/swift/container.builder create 12 1 1; swift-ring-builder /etc/swift/object.builder create 12 1 1

위 명령어는 오픈스택 오브젝트 스토리지 서비스를 구성하고, 오브젝트 스토리지 ring 파일을 생성하기 위한 명령어에요.

∙ /etc/swift/account.builder 파일을 사용하여 계정 스토리지 파일 생성.
   - 12: 파티션 수. 파티션을 데이터를 분산하여 저장하는 방법 중 하나
   - 1: 디바이스 개수. 디바이스는 실제 스토리지 노드를 나타내며, 이 숫자는 실제 환경에 맞게 조정 가능.
   - 1: 복제 수. 즉, 데이터를 한 번 복제하여 안정성 확보.

∙ /etc/swift/container.builder 파일을 사용하여 컨테이너 스토리지 ring 파일 생성. 이 ring 퍄일은 컨테이너 데이터 저장용.

∙ /etc/swift/object.builder 파일 사용하여 객체 스토리지 ring 파일 생성. 이 ring 파일은 실제 오브젝트 데이터 저장.

 

이 명령어를 사용하여 ring 파일을 생성하고, 구성한 다음 오픈스택 Swift의 오브젝트 스토리지 서비스를 구축하고, 데이터를 분산 저장할 기반을 구축할 수 있어요. ring 파일은 데이터가 어떻게 분산되고, 저장될지에 대한 중요한 정보를 포함하고, 이러한 파일을 정의한 뒤에는 오브젝트 스토리지 서비스를 시작할 수 있어요.

swift-ring-builder /etc/swift/account.builder add r0z0-192.168.20.4:6002/device 100; swift-ring-builder /etc/swift/container.builder add r0z0-192.168.20.4:6001/device 100;swift-ring-builder /etc/swift/object.builder add r0z0-192.168.20.4:6000/device 100

728x90

위 명령어를 이용해서 오픈스택 객체 스토리지에서 사용되는 ring builder 도구를 사용하여
스토리지 디바이스를 추가할 수 있어요.

이 명령어는 account.builder, container.builder, object.builder에 대해 실행되었어요.

명령어 구조	상세 내용
swift-ring-builder	Swift의 ring builder 도구 실행 명령어.
/etc/swift/account.builder, /etc/swift/container.builder, /etc/swift/object.builder	각각 acount, container, object에 대한 ring 파일 의미. 이 파일들은 스토리지 클러스터의 논리적 구조와 복제 계획 정의하는데 사용.
add	디바이스 추가 명령어
r0z0-{Object Storage Node IP}:6000, r0z0-{Object Storage Node IP}:6001, r0z0-{Object Storage Node IP}:6002,	각 디바이스의 시별자와 위치를 나타냄. 해당 디바이스 식별하고, 위치 정의 역할.
100	디바이스 가중치. 가중치는 데이터가 해당 디바이스에 얼마나 자주 배포되는지를 나타내며, 높은 가중치는 해당 디바이스에 더 많은 데이터가 저장됨을 의미.

위 명령어는 오브젝트 스토리지 클러스터 구성 및 스토리지 디바이스 클러스터에 추가하여 데이터를
분산 저장하게 하기 위해 사용하는 명령어에요.

Swift의 ring builder 도구를 사용하여 클러스터 구성을 관리하고, 데이터의 복제와 분산을 관리할 수 있답니다.

swift-ring-builder /etc/swift/account.builder rebalance; swift-ring-builder /etc/swift/container.builder rebalance;swift-ring-builder /etc/swift/object.builder rebalance

위 명령어를 이용해서 오브젝트 스토리지 서비스에서 사용되는 ring builder 도구를 사용하여 스토리지 파티션(예: 객체, 컨테이너, 계정)의 대해 재배치를 지시한 부분이에요.

명령어 구조	상세 내용
swift-ring-builder	Swift의 ring builder 도구 실행 명령.
/etc/swift/account.builder, /etc/swift/container.builder, /etc/swift/object.builder	account, container, object에 대한 파일을 나타냄. 이 파일들은 스토리지 클러스터의 구조와 복제 계획 정의하는데 사용.
rebalance	스토리지 파티션의 재배치 작업 실행 명령어

재배치 작업은 스토리지 클러스터의 부하를 분산시키고, 데이터의 복제를 최적화하기 위해 수행하는 것이에요.
Reassigned 라인은 재배치 작업이 몇 개의 파티션을 다시 할당했는지 나타내고, Balance는 현재 파티션의 균형을 나타내며, Dispersion은 파티션 분산 정도를 나타내요.

명령 결과 Balance is now 0.00, Dispersion is now 0.00는 파티션 재배치가 완료되었고, 파티션의 균형과 분산이 최적화 되었음을 나타내는 것이에요. Swift 클러스터가 안정되고,
잘 구성되었다면 이러한 값을 최대한 0에 가깝게 유지된답니다.

이렇게 주지적으로 작업을 수행해주면 스토리지 클러스터의 성능을 최적화하고, 안정성을 유지할 수 있어요.

chown swift. /etc/swift/*.gz; systemctl restart swift-proxy;systemctl enable swift-proxy

이제 위와 같이 생성된 ring 파일 소유자를 변경해 주었고, swift-proxy 데몬을 재기동하고, 서비스에 등록해 주었어요.

 

 

 

       📦 Nginx 설정 - 컨트롤러 노드 (네트워크 노드)

vim /etc/nginx/nginx.conf

위와 같이 새로운 upstream을 추가해 주었어요.
저장하고, 나옵니다.

systemctl restart nginx

그런 뒤 nginx 데몬을 재기동 해 주었어요.

 

 

Openstack Essentials Second Edition Paperback

"이 포스팅은 쿠팡 파트너스 활동의 일환으로, 이에 따른 일정액의 수수료를 제공받습니다."

 

 

 

🧐 참고 자료

Ubuntu 22.04 LTS : OpenStack Zed : Configure Swift (Proxy Node) : Server World