标签: PTQ
共 2 篇文章
AI-调查研究-42-多模态大模型量化 从FP32到INT4：多模态大模型量化路径（最终汇总）
多模态大模型量化方案调查提纲：从FP32到INT4。核心目标是模型能力保持、压缩效率50-75%、推理加速2-4倍。分析PTQ、QAT、QLoRA等方案对比。本文深入分析原理与实践应用，帮助读者全面理解核心技术要点。
AI-调查研究-36-多模态大模型量化全景解析：PTQ、QAT、INT4、LoRA与混合精度
本篇综述系统介绍了多模态模型中的主流量化技术，包括后训练量化（PTQ）与量化感知训练（QAT）的原理与实践，深入剖析低比特量化在边缘部署中的挑战与优化手段。本文深入分析原理与实践应用，帮助读者全面理解核心技术要点。