StrataでDeepSeek-V4.1-Flash-1017が動く？最適化モデルがまもなく登場

記事概要

パラメータ数763B(7,630億)の超大型AIモデルですら、ゲーミングPCで動かせるようになるかもしれない。Michael Helcig氏が10月20日に明かしたもので、同氏が開発に関わるGSQ-RCOでモデルを圧縮し、推論エンジンである「Strata」でローカル推論向けに最適化したという。