C program 최적화에 대한 조언을 부탁드립니다.

위에서 좋은 말씀들을 해주셨네요.

어플리케이션의 종류에 따라 다르지만, 크게 효과를 보시려면 disk I/O쪽과 시간을 많이 사용하는 함수 몇군데만 고쳐주시면 됩니다. 함수의 호출구조 개선을 위해 inline (또는 매크로함수)을 사용하는 것이나, and/or의 계산순서를 이용한 if 처리, * 를 shift 로 바꾸는 것 같은 비교적 잘 알려진 최적화 테크닉 몇가지의 효과는 몇백만번씩 호출되는 경우가 아니라면 성능을 체감하기가 거의 불가능합니다. 게다가 이정도는 요즘 컴파일러들이 워낙 좋으니 옵션만 잘 주면 알아서 해주는 경우도 많지요.

크게 효과를 보셔야 한다면 i/o가 일어나는 레벨을 좀 더 빠른 것으로 바꾸거나( 예를 들면, disk에서 처리할 놈들을 메모리에서 처리하거나, 네트웍 i/o가 있는 부분을 메모리캐쉬로 바꾼다거나...) , search가 많이 일어나는 부분의 인덱스를 효율적인 것으로 개선하거나 하는 정도가 아닐까요.
또는 반복되는 계산이 많은 루틴이 있다면 이 부분만 머리를 짜내 새로 코딩을 하는 것도 도움이 됩니다. 예를 들면 arm 에서 멀티미디어 코덱의 FFT, DCT루틴따위를 fixed point 로 바꾼다거나 하는 식으로...

profiler 를 작동시켜보면 이렇게 시간이 많이 소요되는 부분은 바로 눈에 나타나게 됩니다. profiler에서 바로 눈에 띄지 않았다면 실행하면서 exec-path를 제대로 짚어가지 않았거나, 체감할만한 최적화는 힘들다거나 한 경우가 많습니다. 그러면 컴파일러 최적화 옵션을 연구해보시는 것이 조금 더 빠를 수도 있겠습니다. 최적화 옵션을 연구하다보면 코드 자체에서 최적화할 수 있는 여지에 대한 아이디어를 얻을 수 있는 경우도 많지요.