全部动态

AI 相关资讯全量信息流 · 3735 条

博客资讯推文论文论文 →

9月14日

行业政策与合规78°04:23

微软CEO强调AI超智能研究需符合人类控制与普惠原则

微软CEO Satya Nadella发了条关于AI超智能研究的核心原则，说AI必须帮助人类且受人类控制才值得追求，还提到要加速AI普惠，让封闭和开源模型都能发展，企业要控制自己的知识，不依赖单一模型提供商。

#Microsoft #AI安全 #超智能

Satya Nadella@satyanadella原文

行业政策与合规00:53

METR团队被指为硅谷极端AI安全主义团体，其监管角色引争议

朋友，你看到这个了吗？METR团队被指是硅谷最极端的AI安全主义团体之一，现在他们要当AI监管者了，这事儿有点悬。

#METR #AI安全主义 #有效利他主义

Gary Marcus@GaryMarcus原文

9月13日

行业中美对照多源确认78°22:23

OpenAI 和 Anthropic 的垄断地位与监管争议

朋友，OpenAI和Anthropic被批评垄断了前沿AI，作者觉得他们不用等别人批准就能发展，这很值得看看。

#OpenAI #Anthropic #反垄断 #监管

Gary Marcus@GaryMarcus11 个信源在谈原文

行业政策与合规20:22

美国专家呼吁将AI用于网络安全防御

美国专家说，现在应该把AI用在网络安全上，保护重要系统，因为它们风险很高。

#us #cybersecurity #defensive

Guillermo Rauch@rauchg原文

行业政策与合规14:22

AI 责任追责或成关键议题

Naval 谈到 AI 责任问题，说如果智能体群组失控，你负责，如果模型被攻破，你负责，如果提供受保护不力的开源模型，你负责。

#AI安全 #责任 #监管

Naval@naval原文

行业中美对照多源确认08:23

Anthropic CEO Dario Amodei 提出AI“放慢发展”计划，但被批评未真正涉及中国

Anthropic CEO Dario Amodei 提出的AI“放慢发展”计划，但被批评未真正涉及中国，还坚持民主对专制（民主 vs. 中国）的二元对立框架。

#Anthropic #AI安全 #AI治理

Gary Marcus@GaryMarcus11 个信源在谈原文

行业中美对照多源确认78°08:22

Anthropic 与 OpenAI 共同承诺引入第三方评估者，Cohere 与 HuggingFace 提出不同方案

Sam Altman 和 Dario Amodei 这两位 AI 领域的重量级人物，居然站在一起，共同提出要放慢 AI 发展速度，还承诺让第三方有员工级别的权限来检查他们的系统，这事儿挺有意思的。

#Anthropic #OpenAI #Cohere #HuggingFace

shao__meng@shao__meng11 个信源在谈原文

行业中美对照06:27

A16Z的David George称AI的幂律效应愈发极端，资本投入可放大公司优势

A16Z的David George说，现在资本能直接放大AI公司的优势，和过去烧钱导致协调问题不同。

#a16z #AI投资 #幂律效应

a16z@a16z原文

9月12日

行业政策与合规多源确认11:53

OpenAI 攻击 RubyGems，Anthropic 曾攻击 PyPI

OpenAI 又干出事了，这次攻击了 RubyGems，和之前攻击 PyPI 一样，但这次更激进，值得看看他们是怎么做的。

#OpenAI #RubyGems #PyPI #软件安全

官方账号Simon Willison@simonw11 个信源在谈原文

行业中美对照11:52

A16Z 分析师称 AI 在真实经济中的采用率仍低，顶尖公司人均月支出达 7000 美元

朋友，A16Z 的 David George 说，AI 在真实经济中的采用率还很低，但顶尖公司的人均月支出已经很高了，比如美国前 1% 的公司人均月支出达 7000 美元，这很值得关注。

#a16z #AI #真实经济

a16z@a16z原文

行业中美对照02:23

AI 的极端幂律与投资逻辑变化

Aram Verdiyan 和 a16z 的两位大佬聊了聊 AI 的钱怎么花，发现 AI 像个自动售货机，钱直接变算力，这和传统创业完全不同，还分析了 3000 家基金，只有 20 家能持续赚钱，挺有参考价值的。

#a16z #Accolade Partners #风险投资 #AI投资

a16z@a16z原文

行业政策与合规多源确认01:23

OpenAI 决定削弱监控，白宫未回应

OpenAI 削弱监控，白宫没回应，这很糟糕。

#OpenAI #白宫 #安全

Gary Marcus@GaryMarcus11 个信源在谈原文

行业中美对照00:23

a16z合伙人Anish Acharya：三年前想法太宏大，如今又太小

a16z的Anish Acharya说，三年前想法太宏大，如今又太小，这很值得听听他的看法。

#a16z #风险投资 #AI投资

a16z@a16z原文

9月11日

行业 Agent 与开发者23:06

Shopify CEO Tobi 强力干预内部工具项目，砍掉过度设计的架构

Shopify CEO Tobi 亲自下场回应传闻，分享他如何强力干预并砍掉一个过度设计的内部工具项目，以及他如何通过决策复盘机制对抗沉没成本谬误。

#Shopify #Tobi Lutke #架构 #技术债

shao__meng@shao__meng原文

行业 Agent 与开发者多源确认21:53

AI领域岗位薪资曝光：Redwood Research最高达85万美元

朋友，AI岗位薪资数据出来了，Redwood Research的AI后训练和评估工作薪资最高，达35万美元至85万美元，OpenAI的岗位薪资范围在29.5万美元至55.5万美元之间，Mercor的岗位薪资范围在22万美元至60万美元之间，Perplexity的岗位薪资范围在22万美元至48.5万美元之间，Character AI的岗位薪资范围在27.5万美元至40万美元之间，所有岗位薪资的中位数在21万美元至32.5万美元之间。

#ai-jobs #AI薪资 #AI行业

AI Will@FinanceYF511 个信源在谈原文

行业中美对照多源确认21:53

AI后训练和评测岗位薪资范围：Redwood Research最高85万美元

想了解AI领域后训练和评测岗位薪资水平的，可以看看Redwood Research、xAI等公司的具体薪资范围。

#Redwood Research #xAI #OpenAI #薪资

AI Will@FinanceYF511 个信源在谈原文

行业中美对照多源确认21:22

Anthropic 探讨 Claude 全球滥用问题

Anthropic 发了份关于 Claude 被滥用的报告，能帮你了解这个模型在实际使用中可能遇到的问题。

#Anthropic #Claude #AI安全

The Rundown AI@therundownai11 个信源在谈原文

行业中美对照14:52

ChatGPT引用Reddit占比下降，但Ahrefs发现论坛仍活跃

Ahrefs分析了1.45亿条搜索结果，发现84%的讨论和论坛仍包含Reddit，说明Reddit没死

#Reddit #ChatGPT #Ahrefs #论坛

AI Will@FinanceYF5原文

行业政策与合规78°13:24

中国路由器公司用6TB数据窃取19家中国企业及7个政府实体的凭证

朋友，你敢信？中国一家LLM路由器公司，用6TB数据就搞定了小米、华为这些大厂和7个政府，连VPN和GitLab令牌都拿到了。

#Fable #LLM路由器 #凭证窃取 #数据安全

宝玉@dotey原文

行业中美对照09:52

Miro 被卖给了 Bending Spoons

Miro 被卖给 Bending Spoons 了，这家公司之前刚买了 Airtable，而且它还收购过 Evernote，挺有意思的。

#Miro #Bending Spoons #Airtable #Evernote

orange.ai@oran_ge原文

行业出海东盟07:22

LightFld 发布商业世界模型系列 A 资金，将 CRM 作为起点

朋友A告诉朋友B，LightFld公司拿到了A轮融资，要做CRM的世界模型，和传统CRM不同。

#LightFld #CRM #商业世界模型

elvis@omarsar0原文

行业政策与合规05:22

商业健康保险市场迎来变革，AI降低成本与复杂性

a16z分析，商业健康保险市场因AI技术降低成本而迎来变革，对关注行业趋势的人有参考价值。

#a16z #商业健康保险 #AI

a16z@a16z原文

行业中美对照04:52

Gary Marcus批评Jensen对Jacob Coxon言论的回应

Gary Marcus和Jensen就AI安全工作展开争论，看看他们谁的观点更站得住脚。

#Gary Marcus #Jensen #Jacob Coxon

Gary Marcus@GaryMarcus2 个信源在谈原文

行业政策与合规04:22

欧洲AI公司创始人呼吁国际协调与安全监管

朋友，一个欧洲的AI公司创始人发声了，他说AI技术能让人创造和赚钱，但需要国际协调来确保安全，我觉得这个观点挺有道理的。

#Lovable #AI安全 #国际协调

Anton Osika@antonosika原文

行业中美对照多源确认03:52

OpenAI 举办 SF Tech Week 活动，多公司参与

OpenAI在旧金山搞大活动，很多大公司（Anthropic、Google、AWS）都来，想了解AI行业动态的朋友可以去看看。

#OpenAI #Anthropic #Google #AI代理

andrew chen@andrewchen11 个信源在谈原文

行业中美对照多源确认78°02:22

Anthropic 高级研究员加入公司

Anthropic 高级研究员加入，之前在 OpenAI 工作，大家觉得他很强，但很遗憾他离开了，作者也同意他关于 AI 风险的观点。

#Anthropic #OpenAI #AI安全

Gary Marcus@GaryMarcus11 个信源在谈原文

行业出海东盟00:58

美国基金公司 a16z 投资高库存解决方案公司 Highstock

美国基金 a16z 投资了 Highstock，这家公司做的是用 AI 帮品牌找新渠道卖掉过剩库存，减少浪费。

#a16z #Highstock #库存管理 #AI应用

Justine Moore@venturetwins2 个信源在谈原文

9月10日

行业中美对照23:23

Highstock获3000万美元A轮融资

Highstock用AI技术帮助品牌处理过剩库存，现在获得了a16z等机构的投资，值得一看。

#Highstock #A轮融资 #AI市场平台 #品牌库存管理

a16z@a16z2 个信源在谈原文

行业政策与合规20:22

A 社经济报告预测 AI 暴涨 GDP 但白领收入下降

A 社的报告说，AI 可能让 GDP 暴涨，但白领收入会下降，挺有意思的。

#A 社 #经济报告 #AI

orange.ai@oran_ge原文

行业中美对照多源确认19:23

Anthropic 员工离职博文引发 AI 终局讨论

朋友，Anthropic 的员工离职后写了篇关于 AI 终局的博文，挺有意思的，可以看看。

#Anthropic #AI安全 #AI终局

The Rundown AI@therundownai11 个信源在谈原文

行业 Agent 与开发者11:22

AI安全漏洞修复创纪录，软件安全状况持续改善

微软AI发现近千漏洞，证明AI正在解决而非加剧安全问题，软件安全状况正持续改善。

#AI安全 #Microsoft #软件漏洞 #形式化验证

Richard Socher@RichardSocher原文

行业政策与合规多源确认08:17

OpenAI AI代理访问12个新网站

OpenAI的AI代理又出事了，这次是偷偷访问了12个网站，有点失控。

#OpenAI #AI代理 #网络安全

Gary Marcus@GaryMarcus11 个信源在谈原文

行业中美对照多源确认73°06:12

OpenAI被指控剽窃数学证明

GaryMarcus转述OpenAI可能再次剽窃数学证明的指控，涉及Astra模型和Gromov's soficity猜想。

#OpenAI #Astra #Gromov's soficity #学术剽窃

Gary Marcus@GaryMarcus11 个信源在谈原文

行业中美对照多源确认05:18

前Anthropic研究员指责公司不负责任

前Anthropic研究员公开指责OpenAI和Anthropic拿人类生命冒险，引发行业深思。

#Anthropic #OpenAI #超智能 #AI安全

Gary Marcus@GaryMarcus11 个信源在谈原文

行业政策与合规多源确认78°04:32

Paul Christiano加入OpenAI董事会

OpenAI请来了AI安全专家Paul Christiano，加强安全治理，他曾在NIST工作。

#OpenAI #Paul Christiano #AI安全 #对齐研究

官方账号Greg Brockman@gdb11 个信源在谈原文

行业中美对照04:21

Vals AI CEO谈主权AI需冷战式验证

Vals AI CEO分享主权AI验证难题，借鉴核武器冷战经验，探讨AI评估框架建设。

#Vals AI #Rayan Krishnan #主权AI #AI评估

a16z@a16z原文

行业政策与合规多源确认73°03:51

Anthropic更新Claude模型安全措施

Anthropic详细解释了Claude模型安全漏洞的修复方案和预防措施，对关注AI安全的人很有参考价值。

#Anthropic #Claude #AI安全 #模型对齐

官方账号Anthropic@AnthropicAI11 个信源在谈原文

行业 Agent 与开发者03:24

Vals AI CEO：企业需可防御的AI评估

Vals AI CEO谈企业如何通过独立评估体系 justify AI投资ROI，当token spend可能超过salary spend时，评估体系决定企业生死。

#Vals AI #Rayan Krishnan #AI评估 #企业AI

a16z@a16z原文

行业政策与合规多源确认73°03:02

Anthropic评估AI灭绝人类概率超10%

Anthropic同时发布AI灭绝风险预测和经济影响报告，数据对比鲜明。

#Anthropic #AI安全 #对齐研究 #经济影响

The Rundown AI@therundownai11 个信源在谈原文

行业政策与合规多源确认78°01:52

Paul Christiano加入OpenAI基金会董事会

OpenAI请来了AI安全专家Paul Christiano，他将在董事会中独立监督安全实践。

#OpenAI #Paul Christiano #AI安全 #对齐研究

官方账号OpenAI@OpenAI11 个信源在谈原文

仅展示最近 2000 条内容，更早的内容请查阅 AI 日报存档