728x90 MemoryError1 [PYTHON] 메모리 부족 502 에러 해결을 위한 Pandas chunksize 활용 방법과 성능 차이 데이터 분석가라면 누구나 한 번쯤 수 기가바이트(GB)에 달하는 CSV 파일을 pd.read_csv()로 불러오다 커널이 죽거나 'MemoryError'가 발생하는 난처한 상황을 겪어보셨을 겁니다. 일반적인 PC 환경에서 가용 RAM 용량을 초과하는 데이터를 한꺼번에 로드하는 것은 불가능에 가깝습니다. 이러한 물리적 한계를 극복하기 위한 가장 강력한 해결책이 바로 chunksize(청크사이즈) 옵션입니다. 본 가이드에서는 데이터를 조각내어 처리하는 청크 단위 로직의 내부 원리와, 단순히 읽는 것을 넘어 실무 데이터 파이프라인에 적용하는 최적화 전략 3가지를 심층적으로 다룹니다.1. 왜 Pandas는 대용량 데이터에서 메모리 부족을 일으키는가?Pandas는 기본적으로 모든 데이터를 메모리(RAM)에 상주시.. 2026. 3. 21. 이전 1 다음 728x90