메모리풀 구현에 대한 질문입니다.

Modern C++ Design - 안드레 알렉산드레스쿠 저 , 인포북
라는 번역본 책이 있습니다.
그 책에 메모리풀의 설명부터, 주의 사항, 다양한 구현방법, 구현에 따른 특징 등이 잘 설명되어 있습니다.
메모리풀이 아니여도 추천할만한 책이니깐 함 봐보세요.

메모리 단편화는 오래전의 컴퓨터에서 이슈화 됐던 일이죠.
그 해결법으로 페이징기법을 사용하게 된거지요.
그래서 페이징기법이 도입된 이후 메모리단편화에 의한 문제를 접하기가 힘들죠.
요즘은 페이징 기법이 적용안된 작은 임베디드 시스템에서 다시 이슈화가 조금 되고 있기도 합니다.

가비지 콜렉션은 메모리단편화와는 다른 이슈이죠.

메모리풀이 하는 역할은 말씀하신대로 대략 OS가 하는 것과 비슷합니다.
하지만 OS가 하는 것은 일단 시스템콜이라는 이유로 늦고, 다른 프로세스와의 싱크 문제가 있어서 싱크관리해도 해야 하고(멀티프로세서일경우는 싱크가 더 복잡해지죠), 상당히 제너럴하게 구현되고, 메모리 페이징 테이블 업데이트 등등의 이유로 많은 오버헤드가 발생하게 되는데요.
메모리풀은 일단 큰 메모리를 한번에 가져오면, OS가 메모리 할당할때하는 복잡한것은 안해도 되니깐 불필요한 작업을 제거해서 최적화하는 것이지요.
그리고 OS로 부터 큰메모리를 가져오는 것과 작은 것을 가져오는 속도는 비슷하다는 것. OS로부터 메모리 할당 부하는 용량 아니고 회수의 문제라는 것.
메모리풀도 멀티쓰레드 환경을 위해 mutex lock 을 사용하긴 하지만, MT 환경에서는 lock은 매우 빨라서, OS의 프로세스간 싱크 오버헤드와 비교가 안될 정도로 가볍다.

메모리풀로 볼수 있는 효과는 new/delete, malloc/free 가 많으면 많을 수록 빠릅니다.
단순하게 링크드리스트에 int 등과 같은 primitive type 데이터를 담는 노드를 계속 추가하는 작업을 하는 코드만 따진다면, 수백% 빨라질겁니다.

메모리풀도 좋지만, 가장 중요한건 stack 으로 해결할 수 있다면 heap 을 사용하지 않고 stack 으로 해결하는게 가장 좋습니다.