본문 바로가기
728x90

파이썬병렬처리2

[PYTHON] 병렬 처리 시 발생하는 좀비 프로세스 방지 및 해결을 위한 3가지 핵심 방법과 언어 별 차이 파이썬을 활용한 대규모 데이터 처리나 웹 크롤링, 서버 백엔드 개발 시 병렬 처리(Multi-processing)는 필수적입니다. 하지만 운영체제 수준에서의 프로세스 생명주기를 완벽히 이해하지 못하면, 시스템 자원을 갉아먹는 '좀비 프로세스(Zombie Process)' 문제에 직면하게 됩니다. 본 포스팅에서는 전문가의 시점에서 좀비 프로세스의 발생 원인을 분석하고, 이를 완벽하게 해결하는 실전 코드를 제공합니다.1. 좀비 프로세스란 무엇인가? 발생 원인과 위험성좀비 프로세스는 실행이 종료되었지만, 프로세스 테이블에는 여전히 남아 있는 자식 프로세스를 의미합니다. 자식이 종료될 때 커널은 자식의 종료 상태를 부모에게 전달하기 위해 메모리 일부를 유지하는데, 부모가 이를 확인(Wait)하지 않으면 시스템에.. 2026. 3. 26.
[PYTHON] Multiprocessing Manager 객체를 통한 상태 공유 시 발생하는 3가지 오버헤드 해결 방법 파이썬의 Global Interpreter Lock(GIL)을 우회하여 CPU 집약적인 작업을 병렬로 처리하기 위해 우리는 multiprocessing 모듈을 사용합니다. 그중에서도 Manager 객체는 리스트(List), 딕셔너리(Dict)와 같은 복잡한 자료구조를 여러 프로세스가 공유할 수 있게 해주는 매우 편리한 도구입니다. 하지만 편리함 뒤에는 성능 저하라는 치명적인 '비용'이 숨어 있습니다. 본 포스팅에서는 Manager 객체를 사용할 때 발생하는 내부 메커니즘을 심층 분석하고, 실무에서 마주치는 성능 병목 현상을 해결하기 위한 구체적인 수치와 최적화 전략을 제시합니다.1. Manager 객체의 동작 원리: 왜 느릴까?Manager 객체가 데이터를 공유하는 방식은 Proxy(대리자) 패턴과 IP.. 2026. 3. 18.
728x90