Mac・DGX SparkでLLM推論を最大3倍高速化する「TensorFold」の概要｜npaka Mac・DGX SparkでLLM推論を最大3倍高速化する「TensorFold」の概要をまとめました。 1. TensorFoldとは1-1. TensorFoldとは「TensorFold」は、Apple Siliconと対応するNVIDIA GPUで動作するオープンソースのLLM推論エンジンです。特徴は、Speculative Decodingによる生成の高速化です。さらにApple Silicon版では、MoEモ... はてなテクノロジー 2026年10月02日 04:24