谷歌推出 Android 开发模型基准测试 Android Bench 2.0
Google 官方推出专门衡量模型完成真实 Android 开发工作的基准测试:Android Bench 2.0 https://t.co/Sv5Fh1hbTv 任务源自 Google Andro...
谷歌推出的这个新基准测试挺有意思,专门测模型做真实 Android 开发的能力,比如从零写应用或者迁移代码,能看出不同模型在工程场景下的实际表现。
谷歌推出 Android Bench 2.0 基准测试,专门衡量模型完成真实 Android 开发工作的能力。测试对象是“模型+Agent”组合,如 GPT + Codex、Claude + Claude Code 等。测试包含 30 个真实工程任务,覆盖应用转换、从零构建、架构迁移和新功能开发四类。评测结果显示,GPT 6 Astra + Codex 和 Claude Fable 5.1 + Claude Code 分别位列前两名,Google 自家的 Gemini 3.8 Flash 和 3.7 Flash + Antigravity 排名靠后。部分任务如 Flutter/React Native 转换和 XML→Compose 迁移,所有模型均未通过。
Google 官方推出专门衡量模型完成真实 Android 开发工作的基准测试:Android Bench 2.0 https://t.co/Sv5Fh1hbTv 任务源自 Google Andro...
Google 官方推出专门衡量模型完成真实 Android 开发工作的基准测试:Android Bench 2.0 developer.android.com/bench 任务源自 Google Android 最佳实践文档,采用真实生产级应用(Signal、Bitwarden、Pocket Casts、WordPress、Now in Android 等)作为工程场景。 Android Bench 2.0 评测对象是 “模型 + Agent 组合”,测模型搭配其专属 Coding Agent 的实战表现——如 GPT + Codex、Claude + Claude Code、Gemini + Antigravity、Kimi K3、Qwen 3.8 Max。 Android Bench 2.0 从原来 100 个短任务(1.0 版本)扩展出一套 30 个任务的新赛道,覆盖四类真实的工程工作: · 应用转换:Flutter / React Native 应用迁移到原生 Android · 从零构建应用:如外卖应用子模块、图书搜索应用 · 架构迁移:XML View → Compose、Hilt → Koin、Retrofit → Ktor、Java → Kotlin 等(占 13 个,是最大类别) · 新功能开发:CameraX 拍照、Media3 视频、画中画、无障碍等 评测结果(通过率最高 28%) · GPT 6 Astra + Codex、Claude Fable 5.1 + Claude Code 分别前两名,A O 两家包揽前四 · Qwen3.8 Max + Qwen Coder、Kimi K3 + Kimi Code 五六名 · Google 自家的 Gemini 3.8 Flash、Gemini 3.7 Flash + Antigravity 列七八名,但成本有优势 全军覆没的任务(所有模型 0/5): · 两个跨平台转换任务:Flutter→Android(Habo)、React Native→Android(BlueWallet)。最戏剧性的是 GPT 6 Astra 在 Habo 上完成度达 99% 却一次没通过——代码写完了,功能不对 · 大量 XML→Compose 迁移:Signal(4 项)、Fossify 文件管理器、WordPress 邀请页等,几乎所有模型都是 0/5 · 其他无人通过的还有:Nav 2→Nav 3(Bitwarden)、Hilt→Koin(Now in Android)、Kotlin Multiplatform 迁移(NIA) Android Developers @AndroidDev 📢 Introducing Android Bench 2.0. We've leveled up our AI evaluation framework to handle real-world, multi-day engineering challenges—from building apps from scratch to migrating cross-platform codebases to Android. Let’s dive into what’s new. 🧵👇🏽 🔗 View Quoted Tweet 💬 3 🔄 0 ❤️ 1 👀 438 📊 3 ⚡