#LLaMA
共 5 条 · 7 天 0 条 · 30 天 2 条
信息流里打上「LLaMA」标签的资讯、产品与论文,按刊登时间排,新的在上。
10月2日
9月15日
7月9日
分析驱动的Transformer线性化:缩小与Softmax的差距
这篇论文搞清楚了Transformer线性化为什么delta式更厉害,还给出了具体修补方案,在LLaMA和Qwen上跑到了32B,MMLU成绩比之前的后验方法好。
7月4日
6月30日
这篇论文搞清楚了Transformer线性化为什么delta式更厉害,还给出了具体修补方案,在LLaMA和Qwen上跑到了32B,MMLU成绩比之前的后验方法好。