Win32 IOCP를 따라잡을 Unix, Linux, *BSD계열의 방법은?

<중략>
kqueue나 epoll 등 현존 기술 모두 뒤져봐도 못따라잡는거로 검색결과 나타나던데, 다른 기술이라던가 아니면 앞으로 곧 나타날 신기술이 있는지 아니면 색다른 조합으로 가능한지?

링크의 내용과 얘기하신건 이해가 안됩니다.

그럼 단순히 그 돈많은 NC소프트가 사람을 못구해 IOCP로 서버를 몇백대를 계속 구성해온 걸까요?

돈만있으면 해외에서라도 사람은 옵니다. 게리엇형제를 데려온것처럼 말입니다.

국내뿐 아니라 해외에서도 온라인게임서버는 리눅스도 있긴한데 역시나 대부분은 윈도우즈입니다.

WoW 역시도 마찬가지고요. 사람을 못구한다느니 하는건 기업입장에선 성능에 비하면 크게 고려대상이 아닙니다.

cocas wrote:

kenny007one wrote:

정말 평소엔 낭비라 생각했던 Windows의 이벤트방식과 쓰레드의 결합이란게 엄청난 효율을 발휘하는 것을 보고 놀랐습니다.

이렇듯 국내 대부분이 아니라 거의 모든 온라인 게임회사의 서버는 Windows NT 계열로 IOCP를 이용한 서버입니다.

처음 게임 서버들이 제작될 때는 성능 문제가 많았습니다. 그 시절에는 kqueue도 epoll도 없었을 시절이니까요. 하지만 현재는 성능이 주 문제가 아닙니다.

http://www.gpgstudy.com/forum/viewtopic.php?t=3942&postdays=0&postorder=asc&start=0

개발 환경의 편의성, 개발 관성이 게임 서버를 윈도로 결정하게 되는 가장 큰 요인으로 꼽히고 있습니다.

kenny007one wrote:

이렇게 멀티소켓 컨넥션 쓰레드 처리라는 단 하나의 부분이 Linux나 오픈소스 OS가 Windows 에 뒤지는 퍼포먼스 벤치마크 분야라고 볼수 있는데요.

어떻게 대안이나 따라잡을 방법은 현재 없는것일까요?
kqueue나 epoll 등 현존 기술 모두 뒤져봐도 못따라잡는거로 검색결과 나타나던데, 다른 기술이라던가 아니면 앞으로 곧 나타날 신기술이 있는지 아니면 색다른 조합으로 가능한지?

관련 자료를 보여주세요.

그리고 관련 자료좀 보여주세요.

저는 아무리 찾아봐도 없던데..

궁금해 죽겠습니다. :)

제가 찾은 게시물 내용들을 인용합니다.

Quote:

의외로 서버 프로그래머 중에서 정말 난감하게 프로그래밍 하는 사람들이 많습니다.
동접 500이래도 죽지않고 돌아간다면 오히려 칭찬을 해 줘야 되는 경우도 생깁니다.
게임 회사에서도 사람 좀 몰리면 그냥 서버 개수를 늘리지.. 라고 생각하는 경우가
많죠. 수치에 연연하는 사람은 개발자들 뿐... 서버 개발 및 유비 비용을 5분의 1로
줄여줄 수 있다고 해도 시큰둥해 하는 사람들 많이 봤습니다.

서버측 디자인을 하면서 무분별한 OOP를 도입해서 서로 얽히게 만들어 놓는 경우도
허다 합니다. 코드 보면 정말 난감 이라는 말이 실감나죠. 심지어 컴파일 자체가
일이 되는 경우도 생깁니다. 그런 경우 서버 설명해 달라고 하면 만든 사람도 난감해
합니다.

다시 말씀드리지만 절대로 서버의 퍼포먼스를 떨어뜨리는 것은 소켓 프로그래밍이 아닌
경우가 훨씬 더 많습니다. 아니 거의 대부분이라고 하는 것이 맞습니다. 하지만 보통
사람들은 원인을 여기서 찾으려고 합니다. 이쪽에 CPU타임이 많이 돌아가게 짠다면
그 프로그램은 많이 잘못된 경우죠. 동훈님이 쓴것처럼 기본만 지켜도 1000~2000 쯤은
거뜬하게 나오는 것을 그렇지 않게 하는 사람 정말 많죠. 소스를 암호로 바꿔 버려서
나중에 어떤 부분 때문에 퍼포먼스가 안나오는지 찾으려면 새로 만드는게 나은 경우도
생길 수 있습니다.

Quote:

그 메모리 재할당 문제 때문에 여러가지 다른 방법을 강구해야 하겠죠.
더불어 버퍼 오버플로 같은 녀석도 처리를 해야 하구요.

IOCP나 epoll이나 kqueue나 하는 것들에 대해서는 제가 보기에는 논의 대상으로
삼는것은 옳지 않다고 봅니다. 실재로 성능 차이가 별로 없을 뿐 아니라 어느것이
성능이 좋네 하는 것도 플랫폼의 특성을 최대로 이끌어 내는 것이 더 중요하기
때문이죠.

윈도를 서버로 선택했다면 어쩔 수 없는 선택으로 IOCP를 사용해야 하고, 리눅스를
버로 선택했다면 epoll을 신중히 검토해야 하며, BSD계열을 사용한다면 kqueue를
선택하는게 좋겠죠.

그리고 이 녀석들의 성능이 이제는 전체 성능에 그다지 영향을 미치지 않습니다.
시스템 성능과 운영체제의 튜닝이 그만큼 좋아졌기 때문입니다.

제가 온라인게임에서 동시 접속이 4000이상 나오는 서버들을 별로 본 적이 없습니다.
모 게임의 경우에는 IOCP를 쓰면서도 동접 500을 간신히 찍을 정도기도 하구요. 제가
기초를 만들어준 서버로 예전 회사에서 동접 750정도 밖에 내지 못한다는 소리를
들었죠. C++에서 지원하는 iostream이라는 녀석을 마음껏 사용한 결과가 아닐까
싶네요.

똑같은 서버 엔진으로 저는 8000을 찍었습니다. 그때 사용한 엔진이 성능이 안좋다는
select/poll을 사용한 녀석입니다. 시연을 해 주기 전까지는 못믿는 사람이 태반
이더군요. 이 게시판의 저 밑에 접속과 성능에 대해 테스트 한 결과가 있을 겁니다.
물론 완전히 객관적인 관점에서 테스트 한 것은 아니지만 대충 볼만을 할 겁니다.

결국 서버 성능은 서버를 구축하는 개발자의 디자인에 따라서 달라지는것이 맞다고
봅니다. 그리고 서버를 튜닝할 줄 아는 사람이 있다면 금상첨화 겠군요.

실제 게임 서버 제작자 분들의 글을 인용합니다. (그림자나라님 외..)

출처 : http://delmadang.com/ 게임제작 게시판

ixevexi wrote:

off - topic이라 죄송한데

epoll에 대해 궁금한게 있습니다.
epoll이 poll에 대해 어떠한 점이 빠른 것입니까
외부로 들어난 api를 봤을때
poll은 모든 fd를 max_fd까지 검색해야하는것 (보통 linux에선 1024가
파일 디스크립터 맥스로 잡혀있으니 1024번 검색)인데
epoll은 result에 event 구조체를 하나씩 까보면서 검색을 하지 않고
이벤트가 일어난 부분만 처리할 수 있는 차이점 밖에 모르겠습니다.

과연 1024번 검색하는 루틴이 빠진것 만으로 그렇게 엄청난 성능 향상
(joinc wiki를 보면 간단한 에코서버에서 동접이 늘어나니까 말도 안되는
성능향상이 있더라구요) 이 일어 날 수 있는지 궁금합니다.
특히 동접 사용자가 많아지면 많아질수록 검색시 fail이 아닌 active한
descriptor들이 많아 오히려 오버헤드가 줄어들어 별 차이가 없을 거 같은데요.

아니면 그 api안에 숨겨진 다른 기술이 있나요?

PS. 여기에 질문을 하는게 좀 걸리므로 좋은 답변을 위해서 새로운
쓰레드를 여는게 낫나요?

단순 에코서버라 그렇지 좀 더 복잡한 서버의 경우는 그리 성능향상폭이 크진 않습니다.

특히 컨넥션이 짧은 시간안에 작은 데이터들이 자주 보내고 받고 하는 게임 서버의 경우는 거의 기존 select poll과 비슷하다고 온라인게임서버 개발하는 제 친구가 그러더군요.

그 자료는 그쪽 회사 기밀이라 밝힐수가 없는게 안타깝습니다만,
거의 모든 Unix(Linux, 솔라리스, AIX, HP-UX, FreeBSD등) 을 비교하고 분석한 결과라고 합니다.

즉, 윈도우즈의 이벤트 기반의 쓰레드로 처리하는 IOCP만이 빨리 처리해서 딜레이를 없앨수 있다고 합니다. 솔라리스의 쓰레드만이 가장 근접하게 처리했다던데..

근데 여기 계신분들은 무조건적으로 Linux도 된다된다 하는쪽으로 흐르니 냉철한 비교와 시각이 없어져 편향적으로 흐르는거 같아 안타깝습니다.

윈도우즈의 커널 구조는 생각보다 Linux보다 우월한 구조도 있습니다.

Quote:

근데 여기 계신분들은 무조건적으로 Linux도 된다된다 하는쪽으로 흐르니 냉철한 비교와 시각이 없어져 편향적으로 흐르는거 같아 안타깝습니다.

답변할만한 충분한 질문을 답변을 안해주시면서 단순히 편향된 시각을 가졌다.. 라고 평가하시는군요.

기밀이라구요? 또 모르지요. 그런식으로 나오시면 "epoll 이나 kqueue 를 제대로 알지도 못하고 테스트한 사람이 대충 짜보구 성능 안나온다고 치부해 버릴지도." -> 이런식으로 나오게 됩니다.

제가 본 게시물 중에선 온라인 게임 실 테스트에서 리눅스 poll 기능만으로도 동접 5000+@ 에 CPU 점유율 20% 내외를 기록했다는 분도 있습니다.

애초에 편향된 시각으로 자신의 단편적인 정보원을 너무 믿지는 마십시요. 더더욱이 자신과 다른 시각을 가진 사람들을 일방적으로 매도하지는 더더욱 마시구요..

voljin wrote:

왠지 한 사람을 몰아치는 분위기인데...

비교해보면 느리긴 하죠... 리눅스로 일 추진했다가 같은 급의 일처리를 NT로 훨씬 가볍게 처리하는 회사랑 비교되서 대박 깨지는 일도 있고 말입니다. (수습하기 위한 추가 하드웨어 비용이 NT로 했을 때의 소프트 비용을 사뿐히 넘어섰을때 특히..)

그런데, NT(윈도우) 쪽이 개발하기 용이한/빠른(?) 이유가 무엇인가요?
개발자료가 많다? 개발하는 사람들이 많다? 개발툴이 잘 되어 있다?

어떤 이유인가요?(몰라서 여쭙는 것입니다.)

왠지 한 사람을 몰아치는 분위기인데...

비교해보면 느리긴 하죠... 리눅스로 일 추진했다가 같은 급의 일처리를 NT로 훨씬 가볍게 처리하는 회사랑 비교되서 대박 깨지는 일도 있고 말입니다. (수습하기 위한 추가 하드웨어 비용이 NT로 했을 때의 소프트 비용을 사뿐히 넘어섰을때 특히..)

예 ddoman님의 말씀이 맞습니다.

저는 리눅스가 모든면에서 윈도우즈보다 후지다라는게 아니라,

IOCP와 epoll과 같은 대체 가능한 기술의 비교를 하는겁니다.

지금까지 저한테 자료를 공개하라는데 그건 다른분도 마찬가지 아닙니까?

정말궁금해서 그런데..

어떤일이셧는지 구체적으로 이야기 해주실수 있나요?

voljin wrote:

왠지 한 사람을 몰아치는 분위기인데...

비교해보면 느리긴 하죠... 리눅스로 일 추진했다가 같은 급의 일처리를 NT로 훨씬 가볍게 처리하는 회사랑 비교되서 대박 깨지는 일도 있고 말입니다. (수습하기 위한 추가 하드웨어 비용이 NT로 했을 때의 소프트 비용을 사뿐히 넘어섰을때 특히..)

ddoman wrote:

voljin wrote:

실제 경험해본 사람은 이런 곳에서 굳이 자료를 제시하며 주장할 필요를 못 느끼는 법이죠.

비록 얼마 안되지만 현업에서 3~4년 정도밖에 일하지못한 입장에서는 전혀 공감이 가지 않습니다.
현업에서 일하면 일할수록 단정적인 발언은 삼가게 되고
나와 다른의견을 들었을때 상대방의 근거에 대해 충분히 고려하고 자세히들을려고 바뀌던데
vojin님은 종사자가 되신지 몇년이 되신지 모르겠지만 경력이 얼마나 되야
근거를 제시해달라는 사람들에게 경험이 없어서 묻는거라는 생각을 하게되는거죠?

kalstein wrote:

ACE는 멀티 플랫폼 네트웍 라이브러리입니다.

비동기쪽 구현인...ACE_Proactor 쪽이...NT쪽은 IOCP로 되어있구요. (NT는 IOCP를 제외하면 전혀 없다고 보면 되니까요 ^^
UNIX 계열 쪽은 POSIX 의 AIO를 이용해서 구현하고 있습니다만... NT와 Solaris, Linux를 비교했을때, 속도는

NT > Solaris > Linux 의 순서로 알고있습니다.

저도 ACE에 관심이 많아 현업에도 적용시켜보고 살펴보는 편입니다만 NT > Solaris > Linux 라는 의견에 대해서는 본적이 없습니다.

그 "알고있습니다" 의 표현을 한것을 보면 어디서 보신거 같은데 도대체 그런 비유가 어디있는거죠?

그리고 Linux쪽을 위해서 /dev/poll /dev/epoll을 따로 마련한건
Reactor 프레임워크쪽에 마련한거지 위에서 비유한 IOCP와 AIO로 구현한 Proactor 프레임워크가 아닙니다.
Linux의 AIO구현은 비용이 커서 epoll이 더 성능이 낫다는 말을 저도 들은거 같습니다만 그건 Proactor 모델로 국한시켰을 경우지 NT > Solaris > Linux 라는 말로 OS의 네트웍 도구에 대한 전반적인 비교를 할수는 없습니다.

그리고 fork후 read,write의 예를 들으셨는데 copy on write때문에 옛날 소스들이 잘 돌아가고 있다고 말씀을 하셨는데
fork모델에서 비용이 많이 드는건 단지 메모리 복사뿐이 아니라 프로세스 생성 비용과 빈번한 context switching으로 인한 비용입니다. 위에서 예로들은 iocp,aio,epoll 등은 context switching을 하지않거나 줄여서 얻는 이익이 가장 큰 목적 중 하나입니다.

예전에 만든 프로그램들이 잘돌아가는 이유는 당연히 병목지점이 프로세스 비용이 아니었기때문입니다.

리눅스가 빠르다고 주장하는 사람이나, NT가 빠르다고 주장하는 사람이나, 직접 경험하고 적용하는 사람이라면(비교를 해야 뭘로 구축할 것인지 결정을 하겠죠? 결정이 아닌 구축 작업을 하는 사람을 이런 이야기를 할 때 현업에 종사한다고 말하지는 않을 것입니다.) 굳이 남에게 자료를 요청할 필요를 느끼지 못할 것이라는 이야기입니다. 그리고 스스로 검증해본 정도의 준비도 없는 사람이 무턱대고 근거를 주시면 감사히 배우겠다고 나오는 자세도 그리 바람직해보이진 않습니다. 그런 사람에게 교양 이상의 의미가 있을까요? 두 가지 중 하나를 선택할 수 있는 환경이나 지위를 가진 사람이 굳이 여기에서 그러겠습니까? 조건도 적용분야도 다른 사람의 믿을 수 없는 근거보다 직접 확인하는 것이 확실한데...말씀하셨듯이 전반적인 비교 자체가 힘드니까요.
물론...물론, 글타래를 시작하신 분이 마음에 안들어서 좀 야박하게 댓글을 달았을 수도 있을거라고 생각합니다만.

경력을 들이미신 부분에 대해서는 굳이 짚고 넘어가지 않겠습니다. 하지만 아직 3~4년정도라는게 빈말이 아니라 정말이라면 어설픈 훈계는 앞으로 삼가시기를 바랍니다.

리눅스가 빠르다고 주장하는 사람이나, NT가 빠르다고 주장하는 사람이나, 직접 경험하고 적용하는 사람이라면(비교를 해야 뭘로 구축할 것인지 결정을 하겠죠? 결정이 아닌 구축 작업을 하는 사람을 이런 이야기를 할 때 현업에 종사한다고 말하지는 않을 것입니다.) 굳이 남에게 자료를 요청할 필요를 느끼지 못할 것이라는 이야기입니다. 그리고 스스로 검증해본 정도의 준비도 없는 사람이 무턱대고 근거를 주시면 감사히 배우겠다고 나오는 자세도 그리 바람직해보이진 않습니다. 그런 사람에게 교양 이상의 의미가 있을까요? 두 가지 중 하나를 선택할 수 있는 환경이나 지위를 가진 사람이 굳이 여기에서 그러겠습니까? 조건도 적용분야도 다른 사람의 믿을 수 없는 근거보다 직접 확인하는 것이 확실한데...말씀하셨듯이 전반적인 비교 자체가 힘드니까요.
물론...물론, 글타래를 시작하신 분이 마음에 안들어서 좀 야박하게 댓글을 달았을 수도 있을거라고 생각합니다만.

경력을 들이미신 부분에 대해서는 굳이 짚고 넘어가지 않겠습니다. 하지만 아직 3~4년정도라는게 빈말이 아니라 정말이라면 어설픈 훈계는 앞으로 삼가시기를 바랍니다.

전 다른 경우는 모르겠습니다. 제가 애초에 말한게 예로 드신 "위에 제시한 예"에 들어가다보니...이걸 제외하고 나면 말할게 없군요.

게임서버 같은 환경에서 왜 윈도 서버가 득세하고 리눅이로 커버할 방법은 무엇인지 이야기가 흘러갈까 했는데 이 글도 그냥 뭐가 낫냐 논쟁글이 되고 말았네요. 자꾸 글 중간에 웹서버 이야기가 끼어들어서 혼란스러워진 감도 있고...