Chinese content面向电磁信号的结构化预训练:用 RoPE-fs 时间对齐替代波形重建
做无线通信或信号处理方向预训练的值得看看。它把 RoPE 改成物理时间对齐的 RoPE-fs,再用掩码预测离散结构单元替代波形重建,解决了不同采样率、不同传播环境下预训练学歪的问题,少样本适配比现有基线更强。
做无线通信或信号处理方向预训练的值得看看。它把 RoPE 改成物理时间对齐的 RoPE-fs,再用掩码预测离散结构单元替代波形重建,解决了不同采样率、不同传播环境下预训练学歪的问题,少样本适配比现有基线更强。