Slide 8
Slide 8 text
8
DL推論 on CPU – 高速化の方法論
§ コツは”インテル製DLフレームワークの利用”と”AIモデルの最適化と
量子化”です。
CPU / GPU
OSS DLフレームワーク
AIモデル(未最適化, 未量子化)
Intel CPU
インテルTF, PyTorchなど
AIモデル(未最適化, 未量子化)
Intel CPU
インテル® OpenVINO™
AIモデル(最適化, 量子化)
Intel CPU
インテルTF, PyTorchなど
AIモデル(未最適化, 量子化)
Intel CPU
インテル® OpenVINO™
AIモデル(最適化, 未量子化)
① ② ③ ④
高
効果