최적화 관련 질문

(by Donald Knuth)

질문하신 것들은 (99%의 확률로) 프로그램의 성능에 눈에 띌 만큼 영향이 없거나 컴파일러 종류/버전/옵션에 따라 언제든지 달라질 수 있는 내용입니다.

정말로 이런 선택이 어떤 영향을 주는지 (예를 들어 함수 인자를 여섯 개에서 네 개로 줄이면 성능이 몇 % 빨라지느냐) 알고 싶다면 같은 일을 하는 프로그램을 그렇게 두 가지 버전으로 짜서 속도를 비교해 보는 수밖에 없습니다.

그리고 결과가 나온다 해도 *그 프로그램을* *그렇게 돌리면* 그런 속도차이가 난다는 거지 일반화할 수 있는 내용이 아닙니다.

다시 말씀드리자면 구체적인 프로그램과 구체적으로 그 프로그램을 돌리는 상황이 주어지지 않은 상태에서 이런 질문을 하는 건 무의미합니다.

1. 함수의 인수를 4개 이하로 하면 속도에 유리하다고 본 것 같은데.. 사실인가요?

>>> 인수가 적으면 적을수록 함수 호출시 수행되는 스택 확보 code 가 줄어드니 빨라지기는 할 테지만 그렇다고 인수를 줄일수는 없으니 무용 지물...

2. 일정 크기가 넘지 않는다면 구조체를 인수로 넘길때 레퍼런스를 사용하디 않아도 copy elision 기능이 작동하여 최적화된다고 본 것 같은데 그 구조체의 기준 크기는 어느 정도 인가요? 아니면 이것이 컴파일러나 시스템에 따라 다를 수 있나요?

>>> 구조체를 넘기는 것 자체가 엄청난 오버 헤드를 줍니다. 어떤 것을 사용해서 복사가 되어야 하니...

3. 배열 첨자에는 복잡한 연산을 하지않는 것이 좋나요?

>>> 첨자 연산에 따라서 cache miss가 일어날 수 있다면 속도면에서 많이 불리하겠죠.

4. 구조체 복사시에 memcopy 나 std::copy 를 사용하라는데 그렇게 하는것이 속도 향상에 도움이 되나요?

>>> 엄청나게 복사를 많이하는 작업을 하지 않는다면 거의 무시해도 될 겁니다.

5. const와 #define은 성능면에서 차이가 있나요?

>>> 몇 바이트 메모리를 아끼는 것 외에는 아무 차이도 없을 것이고...

코드는 cache hit/cache miss 상황을 고려하는 경우 외에는 그냥 짜도 됩니다.
임베디드 할게 아니면 코드 최적화는 생각할 필요가 없음.

1. 인자 갯수가 속도에 미치는 영향은
함수 호출에 인자를 전달하는 방식에 따라 결정될 것이고,

CPU에 따라 달라질 수 있으며 (예: x86, x86-64, etc.)
OS에 따라 달라질 수 있습니다. (정확하게, 해당 architecture에서 사용하는 ABI에 따라..)

Linux, Mac 등 계열은 System V Application Binary Interface를 보시면 됩니다.

물론 언어에 따라서 (C/C++) 달라질 수도 있지만, 큰 차이는 없을 겁니다.

C++11 기준으로 말한다면, 인자 갯수에 따른 속도 영향은 implementation에 따라 다르다가 정답일 듯.

참고로 Linux 64bit에서는 첫 6개 정수형 인자와 첫 8개 실수형 인자는 stack이 아닌 register로 전달됩니다.

2. copy elision이 되는 것과 object 크기와는 별 상관이 없습니다.

copy elision은, 특정 상황 (예 object가 return value로 쓰일 때)에서
불필요한 복사가 안되게 하는 것이기 때문입니다.

크기와 상관있는 것은, 함수 인자로 오브젝트가 직접 (reference나 pointer 없이) 들어왔을때,
ABI에 따라 이를 (1) stack에 넣을 것인지 아니면 (2) 다른 메모리에 복사해서 stack에는 pointer만
들어갈지가 결정됩니다. (이는 POD type에 대해 유효)

참고로 64bit linux에서 POD type의 크기가 16 byte이하이면 stack에 들어갑니다.

3. 당연히 복잡한 것보다 간단한 것이 빠르고 이해하기 쉽겠죠.

4. POD type인 경우 당연히 memcpy가 빠릅니다. memcpy는 일반적으로 라이브러리 또는 컴파일러에서
최적화가 잘 되어 있습니다.

5. 일반적으로 preprocessor macro가 제한적이며, 미묘한 차이가 있을 수 있지만, 무시할 수준일 겁니다.