Meta发布Llama 3.2量化版模型，功耗降低56%，性能提升2至4倍

继今年9月开源Llama 3.2的1B与3B模型之后，Meta于10月24日发布了这两个模型的量化版本。量化后的模型大小平均减少了56%，RAM使用量平均减少了41%，模型速度提高了2至4倍，同时降低了功耗，使这些模型能够部署到更多移动设备上。

目前，Meta已在一加12、三星S24+/S22及苹果iOS设备（未公布具体型号）等移动平台测试这些经过量化后模型，测试“运行结果良好”。研究人员未来还计划通过神经处理单元（NPU）提升这些量化模型的性能。

量化模型的推出，将进一步推动AI技术在移动设备上的应用，为用户带来更丰富的AI体验。同时，这也将为AI+跨境电商领域带来新的机遇，帮助企业更好地利用AI技术提升运营效率和用户体验。

产品特点

• 模型大小平均减少56%
• RAM使用量平均减少41%
• 模型速度提高2至4倍
• 功耗降低，可部署到更多移动设备

市场影响

• 推动AI技术在移动设备上的应用
• 为AI+跨境电商领域带来新的机遇

用户最佳实践

• 利用量化模型提升移动设备上的AI体验
• 利用AI技术提升跨境电商运营效率和用户体验

本文首发于AI+跨境电商网wivo.cc，为文章的首发平台载体。