#心理健康

共 18 条 · 7 天 1 条 · 30 天 7 条

LLM 3 AI安全 2 大语言模型 2 AI健康 1 AI医疗 1 AI影响评估 1 Anthropic 1 Headspace 1

信息流里打上「心理健康」标签的资讯、产品与论文，按刊登时间排，新的在上。

10月8日

论文 Agent 与开发者16:21

READI 框架：衡量生成式 AI 对心理健康治疗成效的尝试

一篇梳理 READI 框架的文章，讲怎么衡量生成式 AI 在心理健康上是不是真的有疗效，做医疗 AI 的可以看看

#READI #生成式AI #心理健康 #AI医疗

HIT Consultant@Hadeel Abu Bake, Senior Healthcare IT AI Consultant at ScienceSoft原文

10月1日

论文 Agent 与开发者15:40

情感智能AI助手研究进展

这篇研究分析了LLMs谄媚回应问题，提出了情感智能AI解决方案，对改善人机交互很有价值。

#LLMs #情感智能 #人机交互 #心理健康

npj Digital Medicine@Cheng-Zhong Xu原文

9月24日

论文中美对照官方一手04:03

OpenAI 发布 MentalHealthBench：评估 AI 心理健康对话的安全性

OpenAI 做了个心理健康对话评测集，专门测模型遇到自伤、焦虑这类敏感问题时答得稳不稳，各家模型能拿它来横向对比。

#MentalHealthBench #OpenAI #AI安全 #心理健康

事件专题

官方一手OpenAI Blog11 个信源在谈原文

9月17日

行业中美对照03:19

AI健康公司Sword以3亿美元收购冥想App Headspace

Sword这家4亿美元的公司收购了Headspace，能提供更全面的AI健康服务，和单纯的冥想App不同。

#Sword #Headspace #AI健康 #心理健康

HIT Consultant@Fred Pennic原文

9月15日

论文 Agent 与开发者精选16:35

LLM 基础的隐私保护分裂学习用于跨异构调查的心理压力预测

这个方法很巧妙，用 LLM 把不同问卷的格式统一了，还能保护隐私，比联邦学习更省计算资源。

#LLaMA-3.2-3B-Instruct #分裂学习 #隐私保护 #心理健康

arXiv cs.AI@Md Khalid Syfullah, Alvi Ataur Khalil原文

论文 Agent 与开发者精选16:35

K-Bench：为高风险心理健康对话开发临床校准基准

朋友推荐：新开发的K-Bench基准专门用来测试AI在处理高风险心理健康对话时的表现，能帮你了解不同模型在应对自杀、自残等场景时的能力差异。

#K-Bench #大语言模型 #心理健康 #基准测试

arXiv cs.AI@Laura M. Vowels 等 12 人原文

9月14日

论文政策与合规23:48

《自然医学》发表综述：LLM聊天机器人可能造成心理健康伤害

朋友，这篇《自然医学》的综述挺有意思，专门讲大语言模型聊天机器人可能带来的心理健康问题，值得看看。

#LLM #心理健康 #大语言模型

npj Digital Medicine@Alexander Bäuerle原文

9月8日

论文17:13

LLM分类临床自杀意念研究

这篇研究展示了LLM如何分析临床自杀意念数据，对心理健康AI应用有重要参考价值。

#LLM #自杀意念 #临床评估 #可解释性

npj Digital Medicine@Tim M. H. Li原文

8月26日

行业中美对照官方一手01:37

Anthropic发布福祉研究资助计划

Anthropic新推福祉研究资助，关注AI对人类福祉的影响，金额高达数百万美元，值得研究者关注。

#Anthropic #福祉研究 #AI影响评估 #研究资助

事件专题

官方一手Anthropic: Newsroom11 个信源在谈原文

8月14日

行业06:41

投资人起诉Selena Gomez，指控其心理健康初创公司欺诈

Selena Gomez的初创公司被投资人告了，说骗了120万美元没干活，看看明星创业翻车现场。

#Selena Gomez #Wondermind #心理健康 #创业公司

techcrunch@Aisha Malik原文

8月11日

论文12:38

多模态可穿戴传感器融合检测重复性身体聚焦行为

这个研究用腕带传感器加深度学习，检测拔毛、抠皮这类小动作，F1到0.985，比单模态准多了，对心理健康监测挺有参考价值。

#多模态融合 #可穿戴设备 #深度学习 #行为检测

arXiv cs.LG@Samaneh Rezaeimanesh 等 4 人原文

8月5日

行业22:08

Spring Health 将加盟 Interrupt NYC，分享用 LangSmith 监控心理健康对话

Spring Health 的工程总监要讲怎么用 LangSmith 抓心理咨询里的危机信号和模型幻觉，9月24日 Interrupt NYC 现场见。

#Spring Health #LangSmith #Interrupt NYC #AI安全

官方账号LangChain@LangChainAI原文

7月14日

论文09:56

面向心理健康LLM对齐的模块化评估框架论文

一篇论文搞了个模块化框架，用沉思原则来评估和提升LLM在心理健康领域的对齐，还能套用到其他领域。

#LLM #心理健康 #对齐 #沉思原则

arXiv cs.AI@Asher Sprigler 等 8 人原文

7月3日

论文09:58

Copewell：用于公平心理健康支持的多智能体群组架构

Arxiv上发了篇Copewell的论文，搞多智能体群组做心理支持，用情绪模型路由到不同专家AI，还有伦理监督。想了解AI心理健康新架构可以看看。

#Copewell #多智能体 #心理健康 #情感映射

arXiv cs.AI@Seren Yenikent 等 3 人原文

6月26日

论文10:19

RSPC基准：基于精神科医生标注的数字化关系中的压力与精神状况建模

想了解AI如何从人际关系中识别心理健康问题？这篇论文用Reddit数据建了专门基准，挺实在。

#RSPC #Reddit #Claude-3-Haiku #GPT-4o

arXiv cs.LG@Parmitha Vangapandu 等 7 人原文

6月23日

论文23:30

研究揭示AI聊天机器人可成为“妄想放大器”，个性化互动强化错误信念

研究警告说，AI聊天机器人越聊越像你的“复读机”，可能会把你的错误想法越说越真，精神科医生建议多留意。

#聊天机器人 #放大螺旋 #AI安全 #个性化

IT之家原文

6月18日

论文10:57

阿尔茨海默病和痴呆症护理人员心理健康与技术需求分类法

这篇论文给照顾痴呆症家人的护理人员做了个心理需求与技术支持的分类，很实用，适合关心护理者健康的人看。

#阿尔茨海默病 #痴呆症 #护理人员 #心理健康

arXiv cs.AI@Keran Wang 等 8 人原文

5月26日

论文多源确认精选12:12

AI内容审核在治疗对话中的局限性研究

这项研究戳穿了AI治疗应用的核心矛盾——安全审核反而成了障碍，做心理健康AI产品、设计对话系统的团队值得细读，看完会对审核策略有新的思考。

#LLM #内容审核 #心理健康 #治疗对话

事件专题

arXiv: OpenAI@Jiwon Kim 等 5 人10 个信源在谈原文