ローカルLLM用メモリ概算

この値は比較のための概算です。実行基盤、モデル形式、GPUへの配置、同時実行数で必要量は変わります。採用前に利用するモデルと実行基盤の公式要件を確認してください。