9月1日
12:12
12:12官方账号arXiv cs.LG@Ahmed El Kady, Aravind Narayanan, Rehana Noorani, Yani Ioannou, Shaina Raza
研究团队对三种密集型和混合专家模型在BBQ和BBQ-V基准上进行了七种条件测试。INT4量化导致较大变化,而INT8基本保持质量但能耗增加1.79-4.26倍。减少基准测试提供最一致的节省,但极小子集对保留项目更敏感。
推荐理由:Vector Institute研究团队发现高效AI评估可能改变基准结论,不同优化方式对结果影响各异。