엣지 AI 칩 하드웨어 성능과 클라우드 소프트웨어 오케스트레이션(Orchestration) 기술의 융합 배경온디바이스 AI(On-Device AI) 시장이 급격하게 성장하면서 하드웨어 연산 능력과 클라우드 인프라 자원의 효율적인 관리가 핵심 과제로 부상했습니다. 엔지니어들은 제한된 자원을 가진 엣지 디바이스(Edge Device)에서 딥러닝 모델의 추론(Inference) 속도를 극대화하고, 동시에 대규모 클라우드 환경에서 개발 프로세스를 제어해야 하는 다중 문제에 직면해 있습니다. 본 글에서는 대한민국 AI 반도체 생태계를 선도하는 하드웨어 스타트업 딥엑스(DeepX)의 NPU(Neural Processing Unit) 아키텍처와 소프트웨어/클라우드 오케스트레이션을 혁신하는 래블업(Lablup)의 Ba..