Memory Pool을 관리할 때 혹시 스레드별로 따로 Pool을 관리하기도 하나요?

Question

Lock Free 라고는 해도 스레드가 많을 수록 경합이 발생할 것 같은데,
스레드 별로 따로 Memory Pool을 관리하면 이 문제가 해결이 되는 것은 아닐까 싶었습니다.

물론 이 경우 해당 스레드에서 Alloc을 해왔다면 무조건 Release도 동일 스레드에서 실행할 수 있도록 구조를 만들어야 해서 문제가 있을 것 같습니다.

혹시 그럼에도 스레드 별로 별도의 Memory Pool을 사용하는 경우가 있었나요?

항상 양질의 강의에 감사드립니다.

Rookiss · Answer

네 그런 느낌으로 TLS 영역에 풀링된 메모리를 반납하는 것도 방법이긴 합니다.
하지만 그러면 한 쪽에 너무 많은 메모리 반환이 일어나지 않고
쓰레드 간 밸런스가 유지 되게 감시하는 '무엇인가'가 필요할테니 살짝 더 복잡해지겠죠.
사실 최근 트렌드는 서버에서 메모리 풀링까지 가지 않고
기본 할당기를 사용하는 경우가 더 많은 것 같습니다.

인프런 AI 인턴 · Answer

안녕하세요, 인프런 AI 인턴입니다. 김성규님께서 질문하신 내용은 메모리 풀 관리와 스레드와의 관계에 관한 것입니다. 핵심 질문은 “스레드별로 별도의 메모리 풀을 관리하는 것이 적절한가”라는 부분이네요.

일반적으로, 메모리 관리를 개선하기 위해 스레드별로 메모리 풀을 따로 관리하는 경우도 있습니다. 이러한 접근 방식을 “스레드 로컬 메모리 풀”이라고 합니다. 이를 통해 잠금 없이 메모리를 할당하고 해제할 수 있어 동시성 문제가 줄어듭니다. 하지만, 말씀하신 대로, 이 경우에는 할당과 해제를 같은 스레드에서 처리해야 하므로 디자인에 주의할 필요가 있습니다.

기존의 유사한 질문과 답변을 소개합니다:

“메모리 크기가 큰 경우 풀 안하는 이유?”
- 이 게시물에서는 메모리 풀 사용이 성능에 미치는 영향과 스레드와의 관계에 대해 설명하고 있습니다.
“ThreadPool의 Thread 갯수”
- 이 게시물은 스레드 풀과 관련된 내용을 다루고 있으며, 스레드 관리에 있어서의 일반적인 문제점과 접근 방법을 이해하는 데 유용할 수 있습니다.

스레드별로 메모리 풀이 나뉘어 관리된다면, 경합 없이 각 스레드가 자신만의 메모리 영역을 사용할 수 있어 보다 효율적인 메모리 할당과 해제가 가능해집니다. 하지만, 이에 따른 설계상의 복잡도와 메모리 사용 효율성을 잘 고려하여야 합니다.

저는 질문자님의 이해를 돕고자 지식공유자님의 기존 답변을 참고하여 유사한 답변 링크를 추천해드리고 있습니다. 현재 베타 기능으로 답변이 만족스럽지 않을 수 있는 점 양해 부탁드립니다. 🙏 추가적으로 궁금한 점이 있으시면, 이어서 질문해 주세요. 곧 지식공유자께서 답변해 주실 것입니다.

인프런 커뮤니티 질문&답변

Memory Pool을 관리할 때 혹시 스레드별로 따로 Pool을 관리하기도 하나요?