共 2 篇文章
多模态大模型量化方案调查提纲：从FP32到INT4。核心目标是模型能力保持、压缩效率50-75%、推理加速2-4倍。分析PTQ、QAT、QLoRA等方案对比。
在多模态大模型优化中，微调与量化的顺序选择直接影响最终模型的性能与效率。主要有三种策略：先微调后量化、先量化后微调、联合微调与量化。