— エッジAI推論のコスト最適化 第4回 — AIアクセラレータのカタログには、必ず「○○ TOPS」という数値が大きく書かれています。GPU以外の選択肢を探し始めた方が最初に見る指標であり、そして最初に判断を誤りやすい指標でもあります。TOPSは演算器の理論上の最大値であって、自社のモデルがどれだけの速さで動くかを直接示す数値ではないからです。 本記事では、性能表を読む際の4つの視点――公称TOPSの前提条件、TOPS/W(電力効率)、FPS公称値の読み方、本番条件での実測――を整理します。第3回のチェックリストで「処理量」と「電力枠」を評価する際の基礎になります。 1. 視点① 公称TOP…