차량용 NPU 벤치마크: 트랜스포머 모델을 위한 INT8, FP16 및 희소성 실측 평가

자율주행 기술은 2D CNN에서 멀티 카메라 조감도(BEV) 트랜스포머 아키텍처로 진화했습니다. 마케팅용 피크 TOPS를 넘어 실제 메모리 대역폭과 양자화 정확도를 실측해야 합니다.

스펙시트 피크 TOPS 대비 실제 유효 연산 활용률

스펙상 200 TOPS를 자랑하는 칩이라도 복잡한 크로스 어텐션 연산 시 DRAM 대기로 인해 연산 장치가 정체되어, 최적화 컴파일러 없이는 실질 연산 활용률이 35% 미만에 그쳤습니다.

3D 객체 감지에서 양자화로 인한 정확도 손실 실측 분석

부동 소수점 모델을 INT8로 변환할 때는 실제 주행 데이터 기반의 정밀한 캘리브레이션이 필요합니다. 사후 양자화는 원거리 보행자 거리 추정 오차를 최대 6%까지 유발하므로 QAT 기법 적용이 필수적입니다.

도메인 포트폴리오 살펴보기