AIを手元で動かすカギは「メモリ」だ！1台で128GB、 2台接続で256GBになる小さなAIモンスター「Dell Pro Precision with GB10」を検証 [Sponsored]

記事概要

LLMや生成AIを手元で動かそうとしたとき、まず壁になるのは処理の速さよりも「メモリに載るかどうか」ではないでしょうか。大きなモデルは数十GB、数百GBに達し、一般的なビデオカードには収まりません。かといって、社内の機密データをクラウドに預けるのはためらわれます。そんな現場は少なくないはずです。