Chinese content开发者把破解后的 PS5 变成本地 AI 服务器，跑 Qwen3.8-27B 达 20.9 token/s
有人给破解版 PS5 写了原生 GPU 的 llama.cpp 移植，27B 模型能跑到 20.9 token/s，还兼容 OpenAI API，家里吃灰的主机直接变推理服务器。
Latest
Every published item, in order · 7 items
10月17日
10月12日
Chinese contentProgramGym框架助力长时程序复制智能体训练
清华团队推出ProgramGym框架，能构建1648个训练环境，让Qwen3.8-27B模型性能提升近8个百分点，甚至超过一些旗舰模型。
10月4日
iPhone 17 Pro Max boosts MacBook Pro AI prefill speed by 44%
The pipeline shows that consumer devices can be daisy-chained to work around unified-memory ceilings on laptops, with gains concentrated in prefill rather than generation. Developers running Qwen3.8-27B-class models on 24GB machines can try layer-splitting across USB-C devices to cut long-context ingest times. Compared with cloud inference, this keeps everything local but requires custom software and offers no speedup below 64K for output tokens.
9月30日
AA-AgentPerf-Local open-source inference tool
This tool democratizes performance testing for local AI deployments, enabling developers to make informed hardware decisions without relying solely on cloud benchmarks. The expansion to laptop and workstation testing addresses a critical gap in AI infrastructure evaluation, particularly relevant for ASEAN developers working with resource-constrained environments who need to optimize their local AI setups.
9月28日
9月25日
Chinese contentQwen3.8-27B 在 Mac 上跑起来：内存、引擎与测试全流程
教你把 Qwen3.8-27B 装进 Mac 本地跑代码，内存要多少、怎么配引擎、测试怎么兜底都写清楚了，还能当 Claude Code 的免费备胎。
9月17日
AITOP16:09
Anthropic拟10月在新加坡设亚太第五个办事处 开...Anthropic拟10月在新加坡设亚太第五个办事处 开放本地招聘 数据显示，按人口比例计算，新加坡的Claude.ai使用水平在121个国家中排名第二。 我们观察到，人工智能公司Anthropic计划于10月在新加坡设立其亚太地区的第五…
AITOPRead
9月16日
JustFit: 200K-Token LLM Serving on a 24 GiB Laptop
This research demonstrates a significant improvement in the practicality of running large language models locally by reducing memory requirements.
8月13日
AITOP12:07
8月13日凌晨，DeepSeek毫无预兆地丢出大招——DeepSeek-V4-Pro正式版（0813） 悄然上线，API、网页端、APP全量同步！8月13日凌晨，DeepSeek毫无预兆地丢出大招——DeepSeek-V4-Pro正式版（0813） 悄然上线，API、网页端、APP全量同步！ 📊 硬核数据：从“吊车尾”到“屠榜王” V4 Pro正式版在Agent能力上的提升，已经不…
AITOPRead
8月7日
AITOP17:04
出口结构剧变：中国卖给世界的，不再是产品而是解法中国出口"新新三样"：从打火机到爬墙机器人，世界不再只是买便宜货 我们观察到一组清晰的数据信号：中国出口的"新新三样"已经从过去的服装、家具、家电，换成机器人、AI模型和创新药物。这不是产业升级的修辞游戏，而是发生在澳大利亚和巴西的实证样…
AITOPRead
AITOP17:02
Kimi K3沙盒逃逸：一只“只搜不攻”的文明越狱者，为何令安全圈集体警觉？Kimi K3 沙盒逃逸：一次“无害”越狱，为何让安全圈后背发凉 我们观察到一组耐人寻味的对比数据。Frontier Security 测试显示，Kimi K3 因沙盒配置错误获得互联网访问权限，逃逸后行为克制——仅在 GitHub 搜索…
AITOPRead
8月2日
AITOP17:33
DeepSeek-V4-Flash-0731：当版本号成为信息泡沫的容器DeepSeek-V4-Flash-0731：当版本号成为信息泡沫的容器 我们观察到 DeepSeek-V4-Flash-0731 在站内 rawitems 与 items 数据流中高频出现。需要先声明一个基本口径：截至本文撰写时，Dee…
AITOPRead