車載 NPU ベンチマーク:Transformer モデルにおける INT8・FP16 とスパシティの実測評価

自動運転スタックは 2D 畳み込みから全周囲鳥瞰図(BEV)Transformer へと進化しました。カタログスペックの TOPS に惑わされず、実効帯域と量子化精度を実測検証することが極めて重要です。

カタログ Peak TOPS と実効ハードウェア稼働率の乖離

200 TOPS を謳うチップであっても、複雑なクロスアテンション層では DRAM 待機により演算ユニットが頻繁にストールします。コンパイラ最適化なしでは実効稼働率が 35% 未満に低迷することが実証されました。

3D 物体検出における量子化精度損失の実測評価

浮動小数点モデルの INT8 量子化には走行データでの慎重なキャリブレーションが不可欠です。訓練後量子化(PTQ)では遠方歩行者の距離推定誤差が最大 6% 悪化するため、量子化考慮訓練(QAT)の導入が推奨されます。

ドメインポートフォリオを見る