On-Device AI 발열 및 DRAM Access 병목 현상의 분석 배경모바일 및 임베디드 디바이스에서 NPU(Neural Processing Unit)를 활용하여 AI 추론 연산을 수행할 때 발생하는 주요 문제는 하드웨어 발열과 이로 인한 Thermal Throttling 현상입니다. 많은 개발자들은 연산기(ALU/MAC Unit)의 이용률(Utilization)이 높을수록 디바이스의 발열이 심해질 것이라고 오해합니다. 하지만 실무 시스템 프로파일링 관점에서 시스템 소비 전력 및 발열의 가장 주요한 원인은 연산 로직이 아닌 external DRAM 메인 메모리와 NPU SRAM 간의 데이터 전송 과정에서 발생하는 DRAM Bus Traffic입니다.On-Device 딥러닝 모델의 크기가 커짐에 따라..
