C/C++을 이용한 수치해석

gsl 라이브러리같은건 기존의 포트란으로
개발된 유명한 IMSL이나 NAG 등등과 비교해
보시면 얼마나 기초적인 수준인가를 알 수
있을겁니다. 포트란으로 구축된 다양한 수치
해석루틴의 규모를 인식하고 나면 아마 에레
베스트산 앞에 서있는 느낌이 드실거에요.

포트란이 씨보다 빠르단 얘기를 곰곰히 생각해 봤는데

씨피유가 하나일때도 더 빠르다는 얘기가 아닌듯한데여

본문에서도 말했듯이 대규모(씨퓨가 수십개씩 단 놈)에서 포트란이 씨보다 빠른 이유는

병렬컴퓨팅과 관계된 얘기가 아닌지요?

포트란에서는 씨에는 없는 parallel이란 키워드가 있지요

한마디로 병렬 컴퓨팅을 생각하고 만든언어가

아닌가 생각됩니다

Fortran 이 C 보다 연산이 빠른 이유가 이해가 잘 안되는군요. 조목조목 빠른 명확한 이유를 설명 해 주실 수 있는 글을 볼 수 있으면 좋겠군요.

저도 수치해석 좀 해봐서 아는데, 수치해석에서 사용하는 구문이 기껐해봐야 For같은 Loop 문이나 Array같은 변수 구조가 대부분이죠.
이렇게 만들어진건 C나 C++ 포팅하는게 그다지 어려운 일도 아닙니다. 사실 포팅하기 가장 쉬운 분야가 수치 해석 분야입니다. 구조 분석같은 거창한 것도 필요없이 일렬로 쭉 그냥 번역하듯이 구문의 형태만 살짝살짝 바꿔나가면 됩니다. 다만 FORTRAN의 경우 변수들을 공유하는 경우가 많아 잘 찾아서 패러미터로 잘 넘기든가 아니면 static으로 선언해서 전역적으로 사용해야합니다. 모듈화도 안된게 꽤 있기때문에 일렬로 늘어선 구문의 Line 수가 꽤 될 수도 있죠. 마치 어셈블리나 배이직 보듯이 말이죠.

요즘 왠만한 언어들이 Class 개념을 지원하기 때문에 복소수나 백터뿐만아니라, 4원수까지 거뜬히 해결합니다. 특히 복소수 Class 사용하면 감동합니다. 복소수는 Class 개념이 아주 잘 들어 맞습니다.

그리고 그냥 생각나서 하는 말인데,
C언어를 사용하여 FORTRAN 처럼 코딩하면 속도차이가 심할 것 같지는 않습니다. 농답입니다.

제가 작년에 어떤 논문에서 비교해둔걸 봤는데, Linpack 밴치마크를 했더니 분명 FORTRAN이 조금 나아 보이는 징조는 있었습니다만 그다지 큰 성능 차이는 아니었습니다. 그냥 같다고 봐도 무방할 정도 였습니다.
컴파일러가 생성한 프로그램의 속도가 10%이상만 차이가 나더라도 심하게 차이나는 것입니다.

그리고 단지 수치해석 부분만 만든다면 FORTRAN도 사용할만한데, 결과를 파일로 저장한다든지 그래픽으로 보여준다던지 아님 특별한 Hardware로 자료를 넘긴다든지 기타등등의 기능이 필요할때는 댓가를 치루어야 하지요.

그리고 40대 이상의 좀 오래되신 분들이나 FORTRAN 쓰지, 30대나 그 이하 분들이 FORTRAN을 사용한다는게 이해가 안되는군요.
조금 의외입니다.

그리고 제 눈에는 수치 해석 프로그램중 C로 된 것이 더 많아 보입니다. 왠만한 사이트가면 대개 C로 많이 코딩해두었던데..물론 제가 필요로 하는건 선형 대수 계열의 수치해석들입니다.

그러나 다른 고차원적인 뭔가에 대해서는 여전히 FORTRAN이 많을지도.

암튼 그냥 C++ 쓰세요.

저는 CFD하는 놈입니다.
당연히 lab에서 돌아가는 solver는 모두 fortran으로 되어 있지요.
저는 첨부터 C를 썼고 C++배우고 C++의 장점
을 살려서 수채해석을 할 수 없을까 고민도
했었습니다.(fortran은 정이 안가서..--;)
근데 Web 돌아다니며 이것저것 수치해석에 관한 C,C++,
fortran의 밴치 마크 결과를 보고 솔직히 첨엔
충격(!)을 먹었습니다. C가 fortran의 대략
70~90%, C++은 40~60%.(빠르면 80%) --;;
그나마 C는 fortran에 거의 근접할 가능성이라도 있지만 C++은 아직 컴파일러들이 C++ 표준 스펙 마저도 제대로 구현하지 못하는 실정이니
...
(97년 경에 system program이나 network program하는 사람들이 C++로 전환하려다가 경악했다죠. 컴팔시간은 길고, 덩치는 크고, 특히 실행 속도도 느리니까요. 그래도 그 당시에 비해서 요즘 C++컴팔러는 비교적 "똑똑"해졌다고 할 수 있겠지요.)

기본적으로 분명히 말해서 프로그래밍 언어는
"도구"입니다.(다만, 프로그래머가 주요 언어에
애착(?)을 가지는 것이 문제지요^^) 그런 의미에서 본다면 분명 fortran은 우세하며 앞으로도
충분히 그 명맥을 계속 유지해 나갈 것 같습니다. 솔직히 다른 언어가 "명백한" 장점이 있지 않는 한, 굳이 그 언어를 익히려 달려들 필요가
없으며 그 시간에 논문보거나 하는 것이 더 유용하겠지요.

C++이 수치해석쪽에서 그 영역을 넓힐 수 있을까요? 아직은 힘들 것 같습니다. 워낙 기존의
코드가 fortran으로 되어있고 왠만한 수치해석용 fortran library도 널려 있으니까요.
굳이 OOP의 개념을 좀 써먹으려면 python으로
적당히 필요한거 붙여서 짜는 것이 당장에는 유용할 듯 합니다. 제 좁은 소견으론, C++은 일단 실행 속도 문제도 급선무이지만 유용한 수치해석용 library도 꾸준히 증가되어야 한다고 봅니다.

http://www.osl.iu.edu/~tveldhui/papers/
==>여기에서 C++과 수치해석에 관한 자료를
좀 찾으실 수 있습니다.
(이사람이 Blitz++ 만들었다네요..)

p.s. 혹시 OOP를 수치해석에 어떻게 써먹을 지 고민해 보신분들 없나요...

경험상 보자면, 기계공학쪽에서 새로운 코드나 프로젝트를 수행한다면

1. Structured Grid & Fluid Dynamics
- Fortan에다가 Fortran90 및 loop align등을 잘 수행하는 것이 최적의 성능을 냄

2. FEM & Unstructured Grid
- 포트란으로 많이 되어있지만 새로운 개발을 시작한다면 C나 C++을 사용하는것이 좋아보임. 동적인 자료구조가 필요하고 linked list를 조금만 도입해서 잘 쓰면 훨씬 간결하고 효율이 좋아질 가능성이 많음

3. Control & Optimization
- 이건 실제 계산에 걸리는 시간이 위의 두 경우보다 작아서 Matlab을 사용하는 것도 상당히 효율이 좋아보임. Matlab으로 한줄이면 되는것을 실제로 짠다면 골병듬

1~3까지는 그래도 BLAS나 NAG등을 잘 사용하지 않으니까 사실은 대부분 기존의 라이브러리를 사용한다기 보다는 기존 선배의 프로그램을 사용하는 경향이 많아서 선배의 랭귀지를 따르게 되는 경향이죠

하지만 물리학이나, 기상쪽은 의외로 matrix 연산등을 기존의 library를 사용하는 경우가 많아서 아마 포트란에서 벗어나기가 상당히 힘들어보이더군요.

사족으로, Code의 재활용측면에서 가장 장점이 있을것같은 랭귀지가 C++이라고 생각하는데, 조사결과 포트란의 경우 code reusability가 약 80% 정도 된다는 연구 결과가 있음다. 놀랍죠? 그만큼 포트란 유저들이 좀 게으르죠. ㅋㅋㅋ

글을 쓰신 분께는 약간 이견이 있습니다.
포트란이 빠르기는 하지만 그건 조건부입니다.
C로 만든다는 것은 C를 이용한 Extensive한
최적화를 하겠다는 것인데, 이렇게 하면
포트란 만큼은 나옵니다. 물론 라이브러리를
써야 하는 경우가 많은 경우에는 어쩔 수
없지만 그게 아니라면 저 같은 경우는
훨씬 빠른 코드를 만들 수 있었습니다. 참고로
저는 C로 3차원 유체역학 Solver를 만들었
었습니다. 약 15%정도 FORTRAN에 비해서 빠르
더군요. 실은 FORTRAN으로 된 놈을 기본으로
해서 C로 바꾼 후에(저도 C가 더 편해서)
제가 하는 한도 내에서 C만의 특징을 이용해서
최적화를 했습니다(메모리 줄 잘 세우기,
데이터 줄 맞추기, 루프 손 봐주기 등등).
이렇게 하면 FORTRAN 버전 보가 훨씬 사용이
편하면서(설정 파일, 동적 메모리 할당,
및 편의 기능(GUI랑 붙이기 등등)) 위에서
말씀 드린 것 처럼 15% 정도 더 빨랐습니다.
평균이라 Grid 데이터의 종류에 따라 많으면
35% 정도, 적어도 10% 정도는 빠른 것으로
나왔습니다.(이걸로 발표도 했었습니다,
빠르기는 하지만, C로 코드를 만드는 것은
공기 역학 공돌이 들에게는 별로 편한 일은
아니다라는 결론이었지요... 물론 특별한
경우는 빼고) 제 생각에는 대부분의 수치
해석 라이브러리들이 FORTRAN을 거의 직역한
것이 많고 이걸 그냥 컴파일 하면 당연히
FORTRAN 컴파일러 만큼 못합니다. 최선을
다해서 손본 동일한 알고리듬 구현체를
동일한 아키텍쳐에서 비교하는 것이
정확한 결과라고 생각합니다.

저 역시 주로 수치해석을 하는 사람입니다. FEM같은 경우는 주로 기존의 방대한 라이브러리 때문에 선택의 여지가 없이 포트란을 사용할 수 밖에 없었지요.
그러나 요즈음 하고 있는 수치해석은 주로 차분을 이용하는 알고리즘이라서 기존 라이브러리가 필요하지 않습니다. 그래서 양쪽을 모두 고려하고 있는데요.
제가 같은 차분 알고리즘 코드를 fortran90과 C++ (껍데기만 그렇고 정확히는 C 입니다)으로 모두 구현해 보았을 때 이상하게도 C가 20~30%정도 빠른 결과를 얻었읍니다.
OS : win2000,
fortran compiler : compaq visual fortran 6.5
C++ : VC++ 6.0

이 경우 포트란90은 allocatable memory를 사용하였는데요.. 이 결과가 기존의 포트란이 더 빠르다는 통설과는 배치되는 결과이어서 사실 좀 의문이 듭니다.
기계과 수치해서 하시는 교수님께서 요즘은 C가 더 빠르다는 이야기를 하신적도 있다고 하는데요..
여러분의 경험은 어떠신지요?

C++의 template을 intensive하게 사용하는 방법으로 Fortran과의 속도 차이를 극복하려는 노력들이 꽤 있는 것으로 알고 있습니다.

제 자신이 fortran에 대해 잘 모르기 때문에 질문하신 분에게 얼마나 유용할지는 모르겠지만, 관련 사이트를 링크하겠습니다.

Blitz++ : http://www.oonumerics.org/blitz/

근데 얼핏 보니 아직 컴파일러들이 C++ 표준을 제대로 다 구현하지 못하고 있는 실정이기 때문에 사용할 수 있는 플랫폼이 제한적이라는게 문제이겠네요 (다행이 g++ 최신버젼에서는 컴파일이 되는 듯합니다. VC++에 대해선 언급도 없군요 -_-;;)

토론을 제안한 사람입니다.
먼저 순식간에 이렇게 많는분들이 답글을 쓰신것에 놀랐습니다. KLDP가 대단한 사이트란걸 새삼 느끼구요.

몇몇분들의 얘기가 C/C++ 혹은 JAVA로 문제없지않냐는 말씀이신것같아 제 생각과 경험을 말씀드리려고 합니다. 저는 현재까지 전세계적으로 출시된 왠만한 C 와 Fortran Compiler를 거의 모두 주기적으로 벤치마킹하고 있습니다. 보통 6개월 내지 일년정도에 한번씩은요. 한가지만 예를들면 최근에 꽤나 인기를 끌고있는 인텔에서 출시한 Fortran 컴파일러는 기존의 다른 Fortran 컴파일러보다 적게는 20-30%, 많게는 100%까지 향상된 계산속도를 보입니다. 같이 출시된 인텔의 C 컴파일러는 기존의 여타 Fortran 보다 오히려 성능이 떨어지는데 반해서요.

거의 모든 벤더들은 두 언어용으로 컴파일러를 출시하고 있지만 Fortran 이 평균 20-30% 정도 더 빠른데 예외는 하나도 없습니다. 제가 토론하고 싶었던 첫 주제는 바로 이 컴파일러의 성능문제였습니다.

JAVA 혹는 matlab 라이브러리는 유용합니다.
하지만 속도가 느려서 수퍼 컴퓨터나, 32, 64-cpu 클러스터에서 한달씩 걸리는 병렬계산을 그렇게 하는건 엄청난 낭비 입니다. C 에 대해서도 다르지 않습니다. Fortran 으로하면 2-3주면 결과가 나오거든요. CPU 타임이 돈이란건 다들 잘 아시지요?

첫글에서도 말씀드렸듯이 저는 C 로 코딩하는걸 선호합니다. 수없이 많은 편리한점이 있죠. 잘 아시다시피 특히 리눅스 에서 더 그렇구요. 하지만 수치해석에서는 속도가 안나오면 쓸수가 없습니다. 이게 바로 제가 품고있는 안타까움이지요.

하루빨리 C/C++ 로 수치계산용 코드를 쓸수있는날이 오길 바랍니다.

일단 관련 라이브러리가 c 로 되있는것들이 많아야 쓰여지지 않을까요.

제가 이쪽 상황은 잘 모르지만 포트란을 쓰는 이유가 이전에 만든 소스가 포트란 이기때문에
반 강제적인면이 있지 않나 싶네요.

그렇지만 c/c++ 로 쓰여질때의 잇점은 라이브러리의 개발속도라든지 포트란이 가지지못하는 여러잇점이 있다고 생각합니다.

자주쓰이는 라이브러리는 어셈블러로 만들고 이 모듈을 c에서 불러들이수도 있으니까요.

포트란으로 수십년간 작성되고 안정화된
수치해석 라이브러리들을 C/C++로 대체하려면
다시 엄청난 시간이 걸리겠지요. 그럴만한
필요성도 그렇게 많지 않은것도 사실이고요.
어차피 수치해석이라는게 컴퓨터 계산에 알맞게
이산화 시켜놓으면 대부분 똑같은계산의 무수한
반복이기 때문에 pre,post processing을
제외한 순수계산쪽에서는 Fortran도 그 유용성
을 계속 지니고 나가리라 생각됩니다.

예를 들어 유한요소법(FEM)을 예로 들면 요소
하나 하나가 아주 OOP적인 개념을 적용하기에
딱 알맞죠 하지만 실제 문제를 풀기위해 방정식
을 세우면 엄청난 행렬을 지지고 볶고하는
정형화된 패턴으로 계산을 수행하게 됩니다.
여기서는 그냥 만들어진 행렬을 그냥 기존의
계산루틴에 집어넣어버리면 결과가 잘 나옵니
다. 여기서 Fortran의 간결한 문법과 그에
따라 얻게되는 빠른 실행속도의 컴파일된
바이너리는 좋은 성능을 발휘하게 되는거죠.

이런 fortran루틴이야 C나 C++에서도
라이브러리 형식으로 불러쓸 수 있으니
재작성할 필요도 없고....

하여튼 수치해석의 pre,post processing
을 제외한 부분에서는 fortran의 유용성이
계속 유지되리라 봅니다.

Fortran이 그쪽에서는 그렇게나 중요하게 쓰이는 줄은

몰랐습니다. Fortran이란게 있다는 정도만 들어

봤을 뿐, Fortran Compiler나 Fortran을 쓰는
사람을

주위에서 접해본 적이 없거든요. 어차피 언어란

목적에 맞게 사용되는 거라고 생각합니다. C로

모든 것을 할 수 있게 될 수는 없으니까요.