タグ・1本

推論高速化

LightGBMの推論高速化—ONNXが単発も一括も最速、treeliteは使い方で順位が逆転
難易度: 実務2026年8月22日
LightGBMのpredictを1行ずつ呼ぶ処理は、変換なしでnumpyのまま一括で渡すだけで13.7倍になりました。1件ずつではLightGBMより4.7倍速いtreeliteが18,000件の一括では0.45倍に落ち、ONNXは両方で最速。Apple M1上の合成データ1件での実測です。