#性能优化
AWS 两位工程师在 PyTorch 大会上手把手教你从 torch.profiler 调到硬件周期级,Trainium 优化性能的实用流程。
Anthropic 工程师讲他们怎么用 Claude 给 claude.ai 提速 3 倍,连提示词都贴出来了,做性能优化的直接抄作业。
Sing-box 1.15 的 TCP/IP Stack 性能优化很厉害,在 iPhone 上测出了 12.6Gbps 的上传和 14.9Gbps 的下载,比 Loon、Quantumult X 这些都强。
OpenAI 自己的存储平台 Habitat,从 Python 重写到 Rust,性能提升 6 倍,帮你理解大模型系统如何解决真实世界的性能问题。
宝玉手把手教你怎么用 /goal 让 AI 自己分析瓶颈、派 subagent 干活,把转录时间从 31 分钟压到 18 分钟,还省 token。
想给大模型训练或推理提速?这个HuggingFace分词器速度近千倍的开源Rust工具值得一试。
Marcel Rød 搞了个 Gigatoken,比 HuggingFace 快上千倍,比 tiktoken 快百倍,跑 tokenizer 的抓紧试试。
如果你在用 Milvus 做知识库或批量加载后想加速查询,试试 Force Merge Compaction,它能在数据稳定后帮你合并段,减少查询扇出。
这个补丁能让你的大型RAID5阵列性能提升10%-17%,特别适合多核高负载场景,运维Linux服务器的同学值得跟进。
CodeRabbit 搞了个 light mode,代码审查快了 1.5 倍,跑 agent 流程时瓶颈少多了,直接用命令行就能开。
Adobe和微软给Photoshop做了底层优化,x64快20%、ARM快13%,画笔和文件打开都更顺滑了,用Win11的PS用户赶紧升级体验吧。
大模型从实验到生产,Scaling Pain 是绕不过的坎。做推理部署的工程师,这篇博客里的 KV Cache 竞态和 HiCache 同步问题很可能你也会遇到,建议直接收藏。
这个案例展示了 AI 不仅能优化代码,还能发现人类开发者自己都没意识到的 bug,做高性能计算或编译器优化的开发者看完会重新评估 AI 的能力边界。
MTT AIBOOK 用户终于迎来系统大版本,性能提升 30% 和虚拟机双系统互通解决了日常办公和开发痛点,做 AI 开发或重度办公的可以直接 OTA 升级试试。
做 AI 产品架构或协议分析的开发者值得关注——protobuf 在节省流量和提升速度上有优势,但 schema 暴露在客户端也带来安全隐患,看完能帮你评估类似设计。