Chinese contentLibrary of Layers：推理时动态调整 Transformer 层顺序的新架构
arXiv 上这篇论文挺有意思：LoL 让模型推理时自己决定 transformer 层的执行顺序，把稠密、循环、MoE 三种架构统一到一套框架里，还能通过干预路由切换解题策略。
#architecture innovation
6 stories · 0 in 7 days · 1 in 30 days
Stories, products and papers tagged "architecture innovation", newest first.
Nov 3
Jul 23
Jul 13
Chinese content每秒 520 万亿次浮点运算，我国自研 AI 芯片取得架构突破
国产芯片用14纳米干出520万亿次浮点运算，还靠三维近存把带宽干到6.4TB/s，比H100还猛，不走制程拼架构这条路值得关注。
IT之家Source
Jun 12
Chinese contentPerplexity Deep Research 基于 Search as Code 架构，性能超越传统方案
Perplexity 用代码驱动搜索的方式解决了传统深度研究效率低、泛化差的问题，做信息检索或研究分析的团队值得关注这一新范式。
Jun 4
Chinese contentGraph Set Transformer：融合局部与集合上下文的图集学习新架构
做图神经网络或集合学习的研究者，GST解决了图集任务中局部与全局信息割裂的痛点，代码已开源，值得复现对比。
May 16
Industry23:25
Chinese contentGary Marcus：推理计算不是智能的全部，架构创新同样关键AI 从业者常陷入算力竞赛的思维定式，Marcus 的提醒点出了架构创新的长期价值，做模型选型和研发的团队值得一读。