10:55官方账号arXiv cs.AI@Salomon Kabongo本文对标准词嵌入进行了实证研究,回顾了Word2Vec、GloVe等主流工具包和公开嵌入矩阵。通过实验分析了嵌入空间的几何特性和语义关系,验证了向量相似度与词语类比任务的关联。结果显示,基于不同语料训练的嵌入在低频词表示上存在显著差异。论文Word2VecGloVe词嵌入推荐理由:想搞懂词嵌入到底是怎么工作的?这篇论文用实际实验拆解了Word2Vec和GloVe的特性,不是空谈理论。原文稍后读已读值得跟进有用关注 Word2Vec
14:30AI Will@FinanceYF5Christopher Manning(GloVe词向量、Transformer注意力机制联合发明人)将于Stanford HAI发表演讲。他曾获2024年IEEE John von Neumann Medal。演讲主题聚焦世界模型,探讨语言模型遇上具身智能。他是Stanford NLP Group创始人及CS224N课程创建者。行业Christopher ManningGloVeTransformer推荐理由:GloVe和Transformer的创造者Manning要讲语言模型怎么和机器人结合了,想了解具身智能世界模型的可以听听。原文稍后读已读值得跟进有用关注 Christopher Manning
11:38官方账号arXiv cs.AI@Manjinder Singh, Alexander E. I. Brownlee, Mohamed Elawady这篇论文提出GAversary,一种混合遗传算法(GA)用于生成对抗攻击,只需黑盒访问目标模型的logit输出。GAversary利用GloVe嵌入实现词替换(变异算子),提升对抗样本的语义相似性。在多个基准数据集和知名模型上测试,GAversary将目标模型准确率从76.8%降至5.8%,而对比方法BAE仅降至27.6%。代价是扰动词数约为BAE的两倍,语义相似度略低,运行时间增加约5%。论文GAversaryGloVe对抗攻击推荐理由:这篇论文搞了个GAversary,用遗传算法和GloVe嵌入做黑盒文本攻击,能把模型准确率从76.8%打到5.8%,比BAE狠多了。原文稍后读已读值得跟进有用关注 GAversary