论文精选
Internalizer：为 DeepSeek V4-Flash 做上下文到参数映射
精选理由
有人给 DeepSeek V4-Flash 做了个超网络，把上下文直接变成参数，投影塞进每层共享专家 MLP，思路挺野。
研究者提出 Internalizer，一种可移植的上下文到参数映射方法，目标模型为 DeepSeek V4-Flash。该方法采用元学习超网络（meta-learned hypernetwork），把上下文直接映射为参数。实现上把 up、gate、down 三个投影放在 V4 每一层共享专家 MLP 上。
原文 · Teortaxes
Internalizer: Portable Context-to-Parameter Mapping for Very Large Language Models (specifically, DeepSeek V4-Flash). "meta-learned hypernetwork". Funny trick: projections (up&gate&down) are placed on the shared expert MLP of every layer in V4 https://t.co/ZHzqwivDWO
