计算大型语言模型部署所需的GPU显存，并推荐合适的显卡型号。参数数量以B(十亿)为单位，支持小数输入。
请输入模型参数并点击“计算显存需求”
模型大小(GB) = 参数数量(B) × 10^9 × 数据类型大小(字节) ÷ 10^9
简化为：模型大小(GB) = 参数数量(B) × 数据类型大小(字节)
键值缓存大小(GB) = 批量大小 × 序列长度 × 层数 × 2 × 隐藏层大小 × 数据类型大小(字节) ÷ 10^9
注：此计算与模型参数数量单位无关
总显存需求(GB) = (模型大小 + 键值缓存大小) × 1.2
其中1.2倍系数用于预留20%缓冲，覆盖框架开销和内存碎片