748BのDeepSeekがGPU 1枚でさらに速く！生成は最大約2倍

STORY

記事概要

巨大なMoEモデルを手元のGPUで動かすハードルが、また1段下がった。GitHub上で開発されているLLM推論ソフトウェア「Project Maya」は10月26日、最新版「v1.1.28」を公開した。