AITOP

GPT

共 62 条相关 AI 资讯
6月30日
10:25
10:25官方一手arXiv: DeepSeek@Caglar Uysal, Baturay Birinci, Süha Orhun Mutluergil, Orçun Çetin
该论文对DeepSeek、GPT、Gemini、Grok、Llama和Qwen六种前沿LLM进行了提示注入漏洞实证评估。测试涵盖直接攻击与多阶段混淆攻击，涉及多种语言和字符编码。结果显示所有模型均存在系统性漏洞，非英语语种的恶意合规率显著高于英语。DeepSeek、Gemini和Grok在复杂指令下尤其易受攻击，简单字符编码仅部分降低风险。
论文DeepSeekGPTGemini
推荐理由：这篇论文告诉你，DeepSeek、GPT这些模型在非英语场景下有多容易被黑客利用来生成钓鱼内容，安全对齐的漏洞比想象中大。
原文
6月26日
11:26
6月25日
22:57
6月23日
13:10
13:10官方账号arXiv cs.AI@Campbell Lund, Thomas Euyang, Zanele Munyikwa, Marzieh Fadaee
2023年Eloundou等人计算的GPTs暴露评分成为工作未来辩论的核心输入，该评分定义暴露为LLM能辅助的职业任务占比。论文指出其存在时间、地理和本体论局限，并调查了五类应对研究：动态和基准度量、集成方法、任务框架扩展、以工人为中心的指标、采纳和使用数据。研究-政策协调不足，政策分析仍引用静态评分而未采纳方法论更新。建议政策制定者拓宽证据基础，研究者采用参与式方法并构建数据基础设施。
论文GPTExposure ScoresLLM
推荐理由：这篇论文拆解了被广泛引用的GPT暴露评分到底靠谱不，指出静态评分的坑，还给出了五类改进方向，搞AI政策或研究的人值得一看。
原文
6月17日
10:45
10:45官方账号arXiv cs.AI@Weizhi Zhang, Zechen Li, Hamid Palangi, Ben Graef, A. Ali Heydari, Simon A. Lee, Salman Rahman, Ray Luo, Zeinab Esmaeilpour, Erik Schenck, Chloe Zhang, Yamin Li, Menglian Zhou, Philip S. Yu, Daniel McDuff, Lindsey Sunden, Mark Malhotra, Shwetak Patel, Ahmed A. Metwally
RubricsTree是一个专家对齐的分层评估框架，包含超过100个可临床验证的原子布尔规则，这些规则从4000个真实用户查询中通过迭代人机协作提炼而成。框架使用上下文自适应路由器为每个查询激活相关子集，实现可扩展且与专家质量对齐的评估。在元评估中，RubricsTree在专家对齐上显著超过强基线，且可靠惩罚上下文退化的响应。作为结构化指令、文本反馈或训练奖励用于性能优化时，RubricsTree在HealthBench上为Gemini、GPT和Qwen系列模型带来高达约66%的相对提升。
论文RubricsTreeHealthBenchGemini
推荐理由：RubricsTree用4000条真实查询构建100多条可验证规则，评估健康AI比LLM裁判更准，还能当训练奖励，让Gemini等模型性能飙升66%。
原文
6月16日
10:03
10:03官方一手arXiv: Anthropic@Christian Seto, Jacqueline Nguyen, Jiayi Hong, Ross Maciejewski
最新研究测试了Anthropic Claude Opus 4.5、OpenAI GPT 5.2 Pro和Google Gemini 3 Flash在可视化评估上的能力。使用修改后的VLAT测试，发现这三款模型的可视化素养均超过人类平均水平。但在指令遵循方面，few-shot和chain-of-thought提示技术对提升可视化素养已无明显效果。在识别误导性可视化时，无专门提示下模型准确率偏低。结论认为LLM作为可视化评估者的能力仍需重新审视。
论文ClaudeGPTGemini
事件专题
推荐理由：这篇论文测了Claude、GPT和Gemini最新版，看图能力比人强，但让它们判断图表有没有骗人，还是不行。有意思的发现。
原文
6月15日
17:54
6月6日
10:47
6月5日
20:12
11:49
11:49向阳乔木@vista8
有网友发现，Claude 4.8和GPT 5.5的写作能力不如Claude 4.6系列，怀疑是因为Anthropic和OpenAI过度聚焦编程训练，导致模型在写作任务上退化。该观察引发讨论，核心问题在于为何编程与写作能力无法兼顾，是否存在技术难点。目前尚无官方回应，但反映了用户对模型能力平衡的担忧。
AI模型ClaudeGPT写作能力
事件专题
推荐理由：如果你用AI写文章、文案或创意内容，这个现象值得关注——模型在编程上越强，写作可能反而变差，做内容创作的建议点开看看讨论。
原文
6月1日
10:52
10:52官方一手arXiv: DeepSeek@Jiwoo Choi, Seonwoo Ahn, Tongxin Zhang, Seohyon Jung
精选
一项研究对六种大语言模型（Claude、GPT、Gemini、DeepSeek、Syn-Pro、HyperCLOVA X）在英语、韩语、中文和日语中的性别刻板印象进行了审计。研究使用HEXACO-100人格量表，并以48国人类数据为基准，发现模型的性别偏见幅度比人类跨国家差异范围宽约2.5倍。例如，一个以英语为中心的模型在用韩语提示时，偏见水平达到当地人类基准的5倍，即使提示中明确候选人已被录用（这通常会减弱人类的刻板印象）。研究提出了一个四模式框架（一致、抑制、重组、放大）来描述24个（模型×语言）单元的行为，并发现翻译不仅会缩放刻板印象，还会改变与之关联的属性。结论是，没有单一的偏见消除流程能跨语言边界均匀地解决偏见问题。
论文性别偏见跨语言审计HEXACO-100
推荐理由：这项研究揭示了AI性别偏见在跨语言环境下的复杂性和放大效应，对多语言AI部署团队和公平性研究者来说，是理解偏见机制、设计针对性缓解策略的关键参考。建议关注其四模式框架和跨语言属性重组发现。
原文
5月30日
14:07
5月26日
01:13
01:13berryxia@berryxia
一位开发者在X上分享编程体验，指出Claude在编码过程中表现出强烈的原则性和“正义感”，对某些任务会明确拒绝，显得非常有“人性”。相比之下，GPT对同样的任务默认接受，不会提出异议，只是默默执行。这一对比揭示了不同AI模型在伦理边界和用户交互上的差异，Claude更注重安全与道德约束，而GPT更倾向于无条件完成任务。对于开发者而言，了解这些差异有助于选择合适的工具，尤其是在涉及敏感或灰色地带任务时。
AI产品ClaudeGPT编程助手
推荐理由：做AI编程的开发者会发现Claude和GPT的伦理差异直接影响工作流——Claude会拒绝某些任务，GPT则默默执行，选对工具能避免意外中断或合规风险，值得点开对比。
原文
5月25日
15:37
15:37官方账号Decoder@Jonathan Kemper
精选
北京大学研究人员发现，GPT、Gemini等主流AI模型在文档分析中经常给出正确答案，但引用的文本段落并不支持其结论。这种现象被称为“归因幻觉”，在法律、医学等需要严格引用来源的领域存在风险。为系统检测这一问题，团队推出了首个专门基准测试CiteVQA。该研究揭示了AI在推理与引用之间的不一致性，对依赖AI进行事实核查的用户具有警示意义。
论文归因幻觉CiteVQAGPT
推荐理由：做文档分析或事实核查的开发者要注意了——AI可能答对了但引用了错误来源，北大这个新基准能帮你识别这类风险，建议点开了解如何防范。
原文
5月24日
17:01
16:21
5月21日
07:59
5月19日
12:41
12:41官方一手arXiv: OpenAI@Adilson Vital, Filipi N. Silva, Diego R. Amancio
精选
该研究提出将科学论文影响力预测建模为队列归一化的top-P%分类任务，并在统一框架下比较了基于图模型和基于大语言模型的方法。研究者构建了时序约束下的引用图和文本相似度图，生成Node2Vec表示，并与OpenAI文本嵌入结合。最佳监督配置结合有向引用图和文本嵌入，AUC达到约0.84-0.85。同时评估了基于GPT 5.5和5.4 Nano的GraphRAG设置，虽然LLM方法性能高（AUC达0.87），但检索上下文并未持续提升效果，仅用目标论文提示往往与GraphRAG提示表现相当。结论是结构和文本信号在监督预测中互补，但检索增强需谨慎评估。
论文论文影响力预测Node2VecGraphRAG
推荐理由：做学术影响力预测或科研评价的团队，这篇论文直接对比了图模型和LLM两种路线，给出了冷启动场景下的最佳实践——有向引用图+文本嵌入组合最稳，GraphRAG未必比简单提示好。值得点开看具体实验设计和结论。
原文
5月18日
23:18
5月15日
16:04
5月12日
19:11
19:11官方一手arXiv: DeepSeek@Claudia Benavides Cantos, Eduardo C. Garrido-Merchán
一项研究对比了Claude、GPT-4o、DeepSeek和Grok四种大型语言模型在西班牙和德国两个国家背景下分配固定社会预算的能力。每个模型在每个国家被询问六次，共生成48次分配结果，并与OECD参考预算进行比较。研究发现，所有模型存在系统性偏差：养老金分配不足近三倍，住房和就业分配过度分别达四倍和两倍。模型间主要差异不在于地缘政治倾向，而在于预算集中与分散策略，只有Claude表现出对国家背景的敏感性。研究认为，语言模型可辅助专家进行预算讨论，但不可替代。
论文GPTClaudeDeepSeek
推荐理由：该研究揭示了LLM在公共政策模拟中的系统性偏差，对AI辅助决策的可靠性提出警醒，值得政策制定者和AI开发者关注。
原文
5月11日
22:17
22:17官方账号Sam Altman@sama
OpenAI CEO Sam Altman在社交平台X上发推，半开玩笑地提议将下一个AI模型命名为“goblin”，并称“几乎值得这么做让大家都开心”。该推文迅速引发社区讨论，可能是在为即将发布的GPT-5或其他新模型制造话题。目前OpenAI官方未确认任何命名计划。
行业OpenAI模型命名GPT
事件专题
推荐理由：作为行业风向标，Sam Altman的推文常反映公司战略或营销动向，值得关注后续正式命名或模型发布信息。
原文