계산용 클러스터 구축에 관해 질문이 있습니다.
글쓴이: aaatgun / 작성시간: 화, 2005/05/03 - 11:22오후
NFS로 묶어 클러스터를 구축하려 합니다. P4 630(3.0G)급의 node에 그림과 같이 각 node에 HDD를 포함시키고 master의 /home 만 공유시켜 이곳에서 입출력을 담당하게 하려 하고 Gigabit Ethernet으로 구성하려 합니다.
한가지 궁금한 것이 있는데 적은 수의 node라면 이정도의 구성으로도 충분하리라 생각되지만 node 수가 많을 때 (32node 이상일 경우) master에서 I/O에 있어 심한 병목을 겪으리라 예상됩니다만... 그 정도가 심한지... 심하다면 어떠한 해결책이 있을까 궁금합니다.
File attachments:
첨부 | 파일 크기 |
---|---|
![]() | 11.42 KB |
Forums:
32노드 정도까지는 별 문제가 없읍니다만, 사용하는 어플리케이션에 따라서
32노드 정도까지는 별 문제가 없읍니다만, 사용하는 어플리케이션에 따라서는
8노드만 가도 못 버틸 수도 있읍니다.
병렬프로그램의 특징에 따라서 어떤것은 대부분의 노드가 컴퓨팅만 하게 되고
하나의 노드가 writing을 담당하는 경우, 실제로는 NFS로 묶여있다고 해도
대부분은 read가 이루어지므로 크게 문제가 없읍니다.
그러나, 어떤 어플리케이션은 모든 노드가 write를 동시에 수행하는 프로그램도
있는데 이경우에는 NFS가 상당한 부담으로 작용하게 되겠지요.
일단, 최대한 노력이 적게 드나 성능이 별로인것부터 순서대로 나열해 드리죠.
1. NFS + UDP : 그럭저럭 쓸만합니다.
2. 1번이 빈번한 NFS Stale handle 에러를 보이면서 IO에 문제가 생길때는
NFS V3 + TCP로 세팅합니다.
3. 2번도 별로 미덥지 못할 경우에는 NFS가 아니라 GFS를 NFS대신으로 사용
해보시기를 권해드립니다. 구성은 그대로 두고, GFS(GNBD서버)를 하나 두고
나머지는 GFS클라이언트로 사용하면 NFS보다는 마음이 편합니다.
4. CFS(Cluster File System)을 본격적으로 도입해봅니다.
- PVFS
- GPFS
- Lustre
등을 사용하시면서 Infiniband 등을 장착하는 방안도 있을건데, 이때가 되면 아마 노드수는 최소 128을 넘어가고 있을것이고, 장비 전체에 들어가는 돈에서
네트웍 + 스토리지의 비용이 최소 몇천만원에서 억을 훌쩍 넘을 것으로 보입니다.
겸사겸사해서 다음의 행사에 관심있으시면 한번 와서 들어보시길..
=======================================
한국과학기술정보연구원 슈퍼컴퓨팅센터에서는 클러스터 관련 기술 동향을 파악하고 국내
관련 연구 개발 및 업계간의 기술정보를 교류하여 클러스터 컴퓨팅 관련 산업 발전을 이끌어
내기 위한 목적으로 2004년 11월에 “클러스터 기술센터”를 발족하였습니다
이에 아래와 같이 2005년도 클러스터기술센터 춘계 워크숍를 준비 하였으니,
여러분의 많은 관심과 참여 바랍니다.
- 아 래 -
o 일시 : 2005년 5월 11일 10:30 ~ 18:00
o 장소 : 한국과학기술정보연구원(KISTI) 대전 본원 국제회의실
o 주요참석자 : 학계 및 관련연구소, 업계, 클러스터 사용자 그룹 등
□ 세부행사일정
10:30~11:00 등 록
11:00~11:10 환 영 사
11:10~11:30 클러스터 기술교류센터 운영 방안
11:30~12:00 클러스터 기술연구 및 개발 현황
12:00~13:30 점 심
클러스터 기술 교류 센터 오픈 기념 워크숍
13:30~14:00 Cray XT3 Supercomputer 소개
14:00~14:30 Present and Future Supercomputer Architectures and their Applications
14:30~15:00 포스데이타(주) SPACE 솔루션
15:00~15:20 휴 식
15:20~15:50 대규모 스토리지 팜 개발 및 운영
15:50~16:20 Nagios를 이용한 대규모 서버팜 모니터링
16:20~16:50 대규모 게임서버군 관리 및 운영방안
16:50~17:50 패널 토론 : 클러스터 컴퓨팅 기술센터 역할 및 발전 방향
17:50~18:00 폐 회 사
http://www.cluster.or.kr 을 개비중이라서... 아직 공지가 없네요.
--------------------------------
윈도위의 리눅스 윈도위의 윈도우 리눅스위의 익스플로러
자세한 가르침에 감사합니다. 말씀하신 대로라면 read가 주로 수행된다면
자세한 가르침에 감사합니다. 말씀하신 대로라면 read가 주로 수행된다면 network의 성능이 관건이 되겠군요.
aaatgun
댓글 달기