Sakana AI 成立 Security Research Group 专注 AI 安全研究
Sakana AI 这次把安全团队独立于商业业务来养,承诺公开基准和指南,和 OpenAI、Anthropic 内部安全团队的做法不太一样。做安全研究或想看日本 AI 生态动向的人可以盯一下他们后续发的基准。
日本 AI 公司 Sakana AI 宣布成立专注于 AI 安全的研发团队 Security Research Group,研究两个方向:AI 驱动的集体网络防御,以及 AI 系统自身的安全与安全性。团队将安全定义为质量问题,目标是从设计和开发阶段就避免软件缺陷的引入,减少因 AI 使用增加而上升的安全事件。
该团队独立于 Sakana AI 的商业业务运作,承诺公开研究成果、可复现的基准测试和实用指南,并与政府、产业界、学术界三方合作。公司还将安全质量与日本制造业长期擅长的“品质作り込み”(在源头构建质量)传统相关联。
对开发者而言,公开的可复现基准意味着未来可以有衡量 AI 安全能力的统一标尺;对日本本土的政企机构,这也是 Sakana AI 在安全治理领域的一次正式卡位。
Sakana AI、AIセキュリティ専門の研究開発チーム「Security Research Group」始動 🐙
ブログ:https://t.co/UOjACl5kHK Careers:https://t.co/Ga43O5Y4ls
AIを活用した集合的なサイバー防御と、AIシステム自体の安全性とセキュリティの確保を研究する研究開発チーム「Security Research Group」を 立ち上げました。
AIによってソフトウェアの欠陥が見つかりインシデントが増加している中、セキュリティを品質の問題として捉え、設計や開発の段階から欠陥を作り込まないことを目的とした本質的なセキュリティの向上等の調査・研究開発に取り組みます。品質の作り込みは、日本が長く強みとしてきた分野でもあります。
本グループは事業活動とは切り離して運営し、研究成果や再現可能なベンチマーク、実践的なガイドラインを公開しながら、政府、産業界、学術界と連携していきます。
⎯⎯⎯
Introducing the Sakana AI Security Research Group 🐡
Blog: https://t.co/xgbFZCtsnW
The Security Research Group is a R&D team studying collective, AI-driven cyber defense and the security and safety of AI itself.
As the use of AI leads to the discovery of more software flaws and an increase in security incidents, we are engaging in research and development aimed at fundamentally enhancing security, defining it as a quality issue and focusing on preventing the introduction of defects from the stages of design and development. Building quality into products is an area that has long been a key strength of Japan.
The group operates independently of our commercial business. We will share research, reproducible benchmarks, and practical guidelines openly, and work with government, industry, and academia.
Join us: https://t.co/PgJnt1OiSX 🐟
This report is categorized under AITOP's "Industry" desk. Within our cross-regional analytical framework, it directly maps to AI developer toolchains, coding agents, and engineering workflows. Key entities and technical topics under continuous tracking include Sakana AI, AI safety, cybersecurity, Japan.
Source attribution: curated from Sakana AI (@SakanaAILabs).