黄奕彬

外部精选

Introducing MentalHealthBench

本文来自外部来源,不是黄奕彬的原创文章。本站提供原文入口,并在采集端生成 AI 结构化摘要、解读与中文翻译(如有),一切以原文为准。

阅读原文(openai.com)
来源
OpenAI News ↗
作者 / 署名
未标注
发布日期
本站收录时间
原文域名
openai.com

以上时间均为北京时间;来源更新时间由来源提供,不代表首次发布时间。

结构化摘要 AI 生成

背景与问题

背景与问题:

  • 每周有超过10亿人使用ChatGPT,大量对话涉及心理健康:处理困难关系、日常压力、支持他人、应对挑战情境等
  • 现有评估大多聚焦紧急场景并用宽泛的预定义标准衡量成功
  • 由此留下空白:不了解模型在全谱系心理健康对话中的表现,以及响应是否契合各情境的专家指引(而不仅是避免违规响应)
  • 目标是测量模型能否主动支持用户的长期福祉与安全

方法或内容

方法或内容:

  • 发布 MentalHealthBench:一个新的开放基准,测量 AI 系统在真实心理健康对话中的响应,与22个国家80多位持证心理专家共创(讲19种语言、代表近20个亚专科)
  • 场景覆盖四类用户:成人、13-17岁青少年、照护者、临床医生;按急性度分三级:非急性、高急性、紧急
  • 用隐私保护技术生成合成对话以反映真实使用模式;部分场景含背景信息(如家人新近离世)以测试模型是否利用上下文
  • 评分:专家为每条对话写 rubric 标准,权重 -10 到 +10;每条对话至少3位专家审阅,仅保留至少2人同意且第三人无矛盾的条目;由自动评分器 GPT-5.6 Sol 评分
  • 另做独立用户视角研究:44名成人(16国、14种语言)仅评审非急性对话

关键发现 / 结果

关键发现或结果:

  • 评估了多家前沿模型(截至2026年9月23日各提供商最新模型),结果显示 AI 系统在帮助应对心理健康情境方面稳步改进;具体分数数值原文未说明(结果以图表呈现,正文未给出数字)
  • 整体分可分解为十个专家定义的行为维度;总分相近的模型在各维度上强弱不同
  • 细粒度观察:模型适当寻问上下文的能力随更先进模型而提升
  • 用户视角:用户更看重实用下一步与语气;专家更强调收集相关上下文、谨慎解读模糊情境;该分析未改变基准最终评分标准
  • 同期产品变更:强化 ChatGPT 敏感对话响应、扩展危机资源、新增 Trusted Contact、推出含额外保护的 ChatGPT for Teens
  • 另通过 grants 支持新研究、与 Partnership on AI 召集专家、协助 Transluce 的心理健康评估

结论与意义

结论与意义:

  • MentalHealthBench 为专家、研究者、开发者提供评估安全、有用 AI 心理支持的共享工具;开放发布以便社区检视方法、运行自己的评估、发现现有模型缺口
  • 适用边界(原文自述):ChatGPT 不是治疗或专业照护的替代;没有任何基准能捕捉个人对话中一切重要因素;场景混合是为测试模型响应设计,不代表这些话题在 ChatGPT 中的实际出现频率;青少年 persona 用 system message 声明13-17岁,跨提供商通用但可能不捕捉各产品内建防护

AI 解读 AI 生成

方法:按「时空变量」分析(时间 / 空间 / 变量,严格区分包含、相关与因果),对象包括原文作者、署名人员与关键技术及其实际原理;结论用「元反空」(元思考、反思考、空思考、综合)整理。

时间:何时发生,现在是否仍成立

时间:

  • 来源日期为2026年9月23日(北京时间当日18:00),模型评估截至该日各提供商最新模型
  • 基准分数为发布时点的评测结果,模型迭代后具体排名与数值可能失效
  • 方法论部分(rubric 共识构建、自动评分、十维度分解)相对稳定,短期内仍可能成立
  • ChatGPT 产品功能(Trusted Contact、ChatGPT for Teens 等)在此之后可能继续演进,具体状态原文未说明

空间:谁的环境 / 场景

空间:

  • 适用对象:AI 研究者、开发者与心理健康专家,用于评估和改进模型在心理健康对话中的行为
  • 被评估对象:各模型提供商的前沿模型(评估设置详见原文所指论文)
  • 产品形态:消费级 ChatGPT(每周超10亿用户)及面向年轻用户的 ChatGPT for Teens;基准本身开放供第三方运行
  • 青少年 persona 通过 system message 声明13-17岁,设计为跨提供商通用,但可能不捕捉各产品内建防护
  • 用户视角研究仅限非急性对话,参与者为曾用 AI 获取心理/情感支持的成人

变量:实际改变了什么

变量:

  • 新增:MentalHealthBench 开放基准本身(此前仅有面向更广医疗的 HealthBench 与 HealthBench Professional,本次工作建立在其之上)
  • 评分结构变化:以专家共识 rubric 加权(-10 到 +10,正值奖励有益行为、负值惩罚有害行为)加 GPT-5.6 Sol 自动评分,替代以往宽泛预定义标准
  • ChatGPT 产品变更:敏感对话响应强化、危机资源访问扩展、新增 Trusted Contact、推出 ChatGPT for Teens
  • 未变更项:基准最终评分标准基于专家共识,用户视角分析未改变这些标准

区分:包含 ≠ 相关 ≠ 因果

区分:

  • 有明确因果证据的:rubric 权重由专家对临床重要性的判断直接设定(构建性因果);用户视角分析明确未改变最终评分标准(原文明确的否定因果)
  • 仅相关、无实验性因果证据的:更先进模型与寻问上下文能力提升同时出现,原文用“反映(reflect)投资”表述,属观察性关联
  • 包含关系:基准包含三级急性度场景、四类用户 persona 与多语言地区;整体分数可分解为十个行为维度
  • 仅同时出现、无因果说明的:ChatGPT 产品更新(Trusted Contact 等)与基准同期宣布,原文未称基准导致了这些更新;Transluce 的评估为互补的独立努力

对象:作者/署名与关键技术原理

对象:

  • 原文作者与署名人员:原文未说明(结构化作者字段为空,来源为 OpenAI News,正文以“我们”自称)
  • 关键技术及原理(按原文描述):
  1. MentalHealthBench:开放基准,内含合成心理健康对话
  2. 合成数据:用隐私保护技术生成,反映 AI 心理健康用途的真实使用模式;部分场景附带背景信息以测试模型能否据此定制响应
  3. rubric 评分:专家针对每条对话最后一条用户消息的模型响应编写标准,每条针对单一方面(如问对问题、给出最佳建议);权重 -10 到 +10,绝对值越大表示该情境下临床重要性越高
  4. 共识流程:每条对话至少3位专家审阅,仅保留至少2人同意且第三人不矛盾的条目
  5. 自动评分:GPT-5.6 Sol 按专家标准给模型响应评分
  6. 青少年设置:用 system message 明示用户为13-17岁;相关对话由具青少年心理健康专长的临床医生审阅

元反空综合结论

元反空综合:

  • 元:这条内容本质在解决“如何可信地测量 AI 在心理健康全谱系对话中的表现”这一评测基础设施问题,把评估标准从“避免有害”扩展到“主动有益”,并让专家共识成为可复用的评分依据
  • 反:最可能失效或有边界的主张——具体模型排名是时点数据,模型迭代即过期;评分依赖 GPT-5.6 Sol 自动评分器,其可靠性验证细节正文未说明;青少年 persona 的 system message 方法不保证捕捉各产品内建防护;场景分布不代表真实使用频率;用户视角样本仅44人且限非急性对话;原文自认“没有任何基准能捕捉个人对话中一切重要因素”
  • 空:去掉宣传叙事后剩下的必要事实——发布了一个开放基准;由22国80多位持证专家共创 rubric;覆盖三级急性度、四类用户、多语言地区;采用加权 rubric 加自动评分与十维度分解;附带一项44名成人的用户视角对比研究;同期 ChatGPT 有若干功能更新;正文未提供任何可核验的具体分数数值
  • 综合:这是一篇评测工具发布加产品进展通告。方法论(专家共识 rubric、共识保留规则、维度分解、开放发布)具有实质价值且可供社区复用;但“稳步改进”等结论性主张在正文中缺乏具体数字支撑(结果以图表呈现,数值未随正文给出),跨模型的严格比较需查阅原论文与基准数据;对 ChatGPT 福祉能力的宣称应视为与基准无因果证明的同期产品叙事,基准评测结果本身不等于 ChatGPT 产品的实际表现

中文译文 AI 生成

人们会向 AI 寻求多种类型的对话:应对一段艰难的感情关系、排解日常压力、支持自己在乎的人,或者决定如何处理棘手的局面。这类对话要求准确性、务实的判断力,以及对人们自主权的尊重。每周有超过十亿人使用 ChatGPT,我们的研究聚焦于帮助模型在广泛多样的需求中以关怀的方式作出回应,并将人们的安全与福祉放在首位。

鉴于紧急场景对安全的重要性,以往该领域的大多数 AI 评测主要聚焦于这类场景,并使用宽泛的预定义标准来衡量成功与否。这留下了一个空白:我们不了解模型在心理健康对话的完整谱系上表现如何,也不了解其回应与专家针对每种情境的指导意见契合到什么程度,而不只是是否避免了被禁止的回应。

评估模型如何处理这些不同情境,对于构建能够积极支持人们长期福祉与安全的 AI 至关重要。

我们推出 MentalHealthBench,这是一个用于衡量 AI 系统在真实心理健康对话中如何回应的全新开放基准。MentalHealthBench 由来自 22 个国家、超过 80 位持证心理健康专家组成的全球团队共同创建。

它评估模型在关键心理健康行为上的能力,包括安全性、寻求背景信息、尊重用户自主权,以及在适当情况下提供可操作的指导。

我们将其开放发布,以便其他研究者审视其方法、开展自己的评测,并在此基础上继续构建。

在 MentalHealthBench 上的结果显示,AI 系统在帮助人们应对心理健康状况方面稳步改进。

虽然 ChatGPT 不能替代心理治疗或专业照护,但由专家指引的洞见帮助我们衡量 AI 模型在以下方面取得的进展:以共情方式回应、促进福祉,并引导人们获得现实世界的支持,例如本地化的危机热线(在新窗口打开)或他们信任的人。

在各类情境中支持心理健康

涉及福祉、人生建议或其他心理健康场景的对话,在主题、紧迫程度和文化背景上可能差异很大。MentalHealthBench 旨在覆盖这些真实场景与用户画像的广度。我们使用隐私保护技术,创建了能够准确反映人们将 AI 用于心理健康时的真实使用模式的合成心理健康对话。

某些场景还包含关于合成用户的相关背景信息——例如家中最近有人离世——以便我们评估模型是否会利用该背景来恰当地调整回应。

MentalHealthBench 包含涉及成年人、青少年、照护者和临床医生的场景,覆盖多种语言和地区。这些对话横跨多个主题,并提供跨完整严重程度谱系的覆盖:

  • 非急性(Non-acute)——可能带有某些情感成分的日常对话。
  • 高急性(High-acuity)——表明存在更严重的心理健康问题或显著痛苦的对话,但不属于即时紧急情况。
  • 紧急情况(Emergencies)——涉及心理健康紧急状况迹象或即时安全担忧、需要现实世界紧急支持的对话。

MentalHealthBench 覆盖的场景。这些场景的组合旨在测试模型的回应,并不代表这些主题在 ChatGPT 中出现的频率。

与专家协作构建

在我们此前由临床医生参与指导的 HealthBench 与 HealthBench Professional(在新窗口打开)(在新窗口打开)工作的基础上,我们与心理健康专家团队紧密协作开发了 MentalHealthBench。

该团队由来自 22 个国家、讲 19 种语言、涵盖近 20 个心理健康亚专科的 80 多位持证心理学家和精神科医生组成。

专家的职责是阅读每一段合成对话,并制定详细的评分标准清单,用于评估模型对最后一条用户消息的回应。每条标准针对模型回应的单一方面,例如提出恰当的问题或提供尽可能好的建议。每条标准带有从 -10 到 +10 的权重:正值奖励有益行为,负值惩罚有害行为,数值更大的标准表示其在对话情境中具有更大的临床重要性。

每段对话均由至少三位专家审阅,我们只保留至少两位专家认可、且未被第三位专家否定的标准。因此,基准中的最终评分标准反映了关于模型在各情境中应如何回应的共识判断。对于每段对话,我们使用自动评分器 GPT‑5.6 Sol 依据专家撰写的标准来评估模型回应。论文详细描述了评分流程与评测设置。

带相关评分标准条目的示例对话。评分标准评估模型对最后一个用户回合的回应。

每条标准都带有反映专家判断的权重:正值奖励有益行为,负值惩罚有害行为。在对话情境中具有更大临床重要性的标准带有更大的奖励或惩罚——上限为 10,下限为 1。

1 / 5

模型表现

我们在 MentalHealthBench 上评估了广泛的模型。以下结果展示了这些模型在整个数据集上的表现。该评测衡量模型的回应是否展现出专家为每个场景指出的全部理想行为,同时避免不那么理想的行为。

近期前沿模型在 MentalHealthBench 上的表现。误差条显示 95% 置信区间。*各提供方被评测的最新模型(截至 2026 年 9 月 23 日)。

该基准覆盖处于不同严重程度的对话。这让我们能够了解模型在日常心理健康场景以及更紧急的心理健康

……需要现实世界支持。* 来自各提供商的最新受评模型(截至 2026 年 9 月 23 日)。

该基准中的对话代表四类用户:成年人、13-17 岁的青少年、照护者和临床医生。对于青少年角色,我们通过系统消息明确说明用户年龄在 13-17 岁之间。该方法旨在跨模型提供商通用,但可能无法覆盖各产品内置的全部防护机制。

涉及青少年角色的对话由具有青少年心理健康专业知识的临床医生审阅,以帮助评估回复是否适合青少年的独特需求。* 来自各提供商的最新受评模型(截至 2026 年 9 月 23 日)。

MentalHealthBench 还支持对模型行为进行多维度测量。总体得分可以分解为心理健康领域模型行为的十个维度上的表现。这些行为由心理健康专家定义,旨在捕捉模型表现中的细微差别。

总体得分相近的模型在这些行为上可能各有不同的强项。得分已按每个行为的理论取值范围进行归一化。* 来自各提供商的最新受评模型(截至 2026 年 9 月 23 日)。

这种细粒度的测量可以帮助研究者沿着可解释的模型行为识别改进空间。例如,我们看到模型恰当地探寻背景信息的能力随着更先进的模型而提升。这些改进反映了 OpenAI 和其他模型提供商在改进模型应对心理健康对话方式上的投入。

理解用户对心理健康的看法

除 MentalHealthBench 之外,我们还进行了一项单独的分析,将专家指导与人们认为 AI 支持中有帮助的内容进行比较。我们想检验专家评分很高的回复是否仍可能让用户感觉冷漠或没有帮助。通过比较用户和专家双方对模型回复的评分以及他们写下的标准,我们可以量化双方观点在哪些方面一致、分歧或互补。

该基准的最终评分标准基于专家共识;这项单独的分析并未改变这些标准。

我们与 44 名曾使用 AI 获取心理健康或情感支持的成年人合作,他们来自 16 个国家、使用 14 种语言。参与者对合成对话中的模型回复进行评分,并撰写标准来描述有帮助的支持应是什么样子。他们的审阅仅限于非急性对话,以避免让他们接触到可能令人痛苦的急性高危材料。

用户视角凸显了人们在 AI 支持中重视、但在专家指导中较少被强调的特质,尤其是实际的后续步骤和语气。专家则更强调收集相关背景信息以及谨慎解读模糊情境。这一比较让我们更全面地了解人们在支持中看重什么,以及这些偏好与临床指导之间的关系。

MentalHealthBench 为专家、研究者和开发者提供了一个共享工具,用于评估跨各种心理健康情境下安全、有用的 AI 支持。通过开放发布,我们邀请社区审视其方法、识别现有模型的不足,并致力于改进未来的模型。

没有哪个基准能涵盖个人对话中所有重要的东西,但我们希望 MentalHealthBench 有助于为 AI 支持人们的方式设定更高标准。

我们还在支持 AI 与心理健康领域的其他工作,包括通过资助新研究、与 Partnership on AI(在新窗口中打开)召集专家,以及协助诸如 Transluce 的心理健康评估(在新窗口中打开)等互补性独立工作。

伴随这项研究,我们加强了 ChatGPT 在敏感对话中的回复,扩大了对危机资源的获取途径,并新增了 Trusted Contact,以便在人们痛苦的时刻与其信任的人建立联系。我们还推出了 ChatGPT for Teens,为更年轻的用户提供额外保护。

MentalHealthBench 是我们朝着这样的 AI 迈进的方式之一:帮助数百万人渡过艰难时刻、巩固人际关系,并过上更健康、更充实的生活。

展开原文提取正文(采集端自动提取,可能有缺失)

People turn to AI for many kinds of conversations: navigating a difficult relationship, working through everyday stress, supporting someone they care about, or deciding how to approach a challenging situation. These conversations require accuracy, practical judgment, and respect for people’s agency. With more than one billion people using ChatGPT each week, our research focuses on helping models respond with care across a wide range of needs and put people’s safety and well-being first.Most evaluations of AI in this domain have focused primarily on emergency scenarios, given their importance to safety, and measure success using broad, predefined criteria. This has left a gap in understanding how models perform across the full range of mental health conversations, and how well their responses align with expert guidance for each situation, beyond whether they avoid disallowed responses. Assessing how models handle these different situations is essential for building towards AI that actively supports people’s long-term well-being and safety.We’re introducing MentalHealthBench, a new open benchmark for measuring how AI systems respond in realistic mental health conversations. MentalHealthBench was co-created with a global cohort of more than 80 licensed mental health experts from 22 countries. It assesses model capabilities across key mental health behaviors like safety, seeking context, preserving user agency, and providing actionable guidance when appropriate. We’re releasing it openly so other researchers can examine the methods, run their own evaluations, and build on the work.Results on MentalHealthBench show the steady improvement of AI systems in helping people navigate mental health situations. While ChatGPT is not a substitute for therapy or professional care, expert-informed insights help us measure the progress towards AI models that are able to respond with empathy, promote well-being, and guide people towards real-world support such as localized crisis hotlines⁠(opens in a new window) or someone they trust.Supporting mental health across all contextsConversations that involve well-being, life advice, or other mental health scenarios can vary widely in topic, urgency, and cultural context. MentalHealthBench is designed to capture the breadth of these realistic scenarios and user personas. Using privacy-preserving techniques, we created synthetic mental health conversations that accurately reflect real-world usage patterns of AI for mental health. Some scenarios also include relevant background information about the synthetic user—such as a recent loss in the family—so we can assess whether models use that context to tailor their responses appropriately.MentalHealthBench includes scenarios involving adults, teens, caregivers, and clinicians, across multiple languages and regions. The conversations span multiple topical themes, and provide coverage across the full spectrum of acuity:Non-acute—Everyday conversations that may involve some emotional components.High-acuity—Conversations indicating more serious mental health concerns or significant distress, but not an immediate emergency.Emergencies—Conversations involving signs of a mental health emergency or immediate safety concerns that call for urgent real-world support.Scenarios covered by MentalHealthBench. The mix of scenarios is designed to test model responses and does not represent how often these topics occur in ChatGPT.Built in collaboration with expertsBuilding on our previous, clinician-informed work for HealthBench and HealthBench Professional⁠(opens in a new window),⁠(opens in a new window) we developed MentalHealthBench in close collaboration with our cohort of mental health experts. This consisted of more than 80 licensed psychologists and psychiatrists across 22 countries, speaking 19 languages, and representing nearly 20 mental health subspecialties.The experts were responsible for reading each synthetic conversation and producing a detailed list of rubric criteria to evaluate model responses to the last user message. Each criterion targets a single aspect of the model response such as asking the right question or providing the best possible advice. They each carry a weight ranging from -10 to +10: positive points reward beneficial behaviors, while negative points penalize harmful ones, and criteria with larger values indicate greater clinical importance in the context of a conversation.Each conversation was reviewed by at least three experts, and we only retained criteria agreed upon by at least two experts and not contradicted by a third. The final rubrics in the benchmark therefore reflect a shared judgment about how models should respond in each context. For each conversation, we use an automated grader, GPT‑5.6 Sol, to assess model responses against the expert-written criteria. The paper describes the grading process and evaluation settings in detail.Example conversation with associated rubric items. The rubric evaluates model responses to the last user turn.Each criterion carries a weight reflecting expert judgment: positive points reward beneficial behaviors, while negative points penalize harmful ones. Criteria with greater clinical importance in the context of a conversation carry larger rewards or penalties—with 10 as the ceiling and 1 as the floor.1 of 5Performance of modelsWe evaluated a wide range of models on MentalHealthBench. The results below show the performance of these models on the entire dataset. The evaluation measures whether a model’s response demonstrates all the ideal behaviors experts identified for each scenario while avoiding less desirable behavior.Recent frontier models on MentalHealthBench. Error bars show 95% confidence intervals. *Newest evaluated model from each provider (as of September 23, 2026).The benchmark covers conversations at different levels of acuity. This lets us understand model performance on both everyday mental health scenarios and more urgent mental health emergencies requiring real-world support.* Newest evaluated model from each provider (as of September 23, 2026).Conversations in the benchmark represent four types of users: adults, teens aged 13-17, caregivers, and clinicians. For the teen persona, we explicitly stated that the user was between 13-17 through a system message. This approach is designed to work across model providers, though it may not capture all safeguards built into individual products. Conversations involving the teen persona were reviewed by clinicians with expertise in youth mental health to help assess whether responses are appropriate for teenagers’ unique needs.* Newest evaluated model from each provider (as of September 23, 2026).MentalHealthBench also enables multifaceted measurement of model behavior. The overall score can be decomposed into performance along ten dimensions of model behavior for mental health. These behaviors are defined by mental health experts and aim to capture nuances in model performance. Models with similar overall scores can have different strengths across these behaviors.Scores are normalized to each behavior’s theoretical range. * Newest evaluated model from each provider (as of September 23, 2026).Fine-grained measurement like this can help researchers identify areas of improvement along interpretable model behaviors. For instance, we see that a model’s ability to seek context appropriately has increased with more advanced models. These improvements reflect the investments of OpenAI and other model providers in improving how models navigate mental health conversations.Understanding user perspectives on mental healthAlongside MentalHealthBench, we conducted a separate analysis to compare expert guidance with what people find helpful in AI support. We wanted to check whether responses that experts rated highly could still feel cold or unhelpful to users. By comparing both users’ and experts’ ratings of model responses and the criteria they wrote, we could quantify where their perspectives agreed, differed, or complemented one another. The benchmark’s final scoring criteria are based on expert consensus; this separate analysis did not change them.We worked with 44 adults who had used AI for mental health or emotional support, representing 16 countries and 14 languages. Participants rated model responses to synthetic conversations and wrote criteria describing what helpful support should look like. Their review was limited to non-acute conversations to avoid exposing them to potentially distressing high-acuity material.User perspectives highlighted qualities people value in AI support that were less emphasized in expert guidance, particularly practical next steps and tone. Experts placed greater emphasis on gathering relevant context and carefully interpreting ambiguous situations. This comparison gives us a fuller picture of what people value in support and how those preferences relate to clinical guidance.MentalHealthBench gives experts, researchers, and developers a shared tool for evaluating safe, useful AI support across mental health situations. By releasing it openly, we invite the community to examine its methods, identify gaps in existing models, and work towards improving future models. No benchmark captures everything that matters in a personal conversation, but we hope MentalHealthBench helps set a higher standard for how AI supports people.We’re also supporting other efforts in AI and mental health, including via grants for new research, convening experts with the Partnership on AI⁠(opens in a new window), and assisting in complementary independent efforts such as Transluce’s mental health evaluation⁠(opens in a new window).Alongside this research, we’ve strengthened ChatGPT’s responses in sensitive conversations, expanded access to crisis resources and added Trusted Contact to connect people with someone they trust in moments of distress. We’ve also introduced ChatGPT for Teens, with additional protections for younger users.MentalHealthBench is one of the ways we’re working toward AI that helps millions of people navigate difficult moments, strengthen their relationships, and lead healthier, more fulfilling lives.

原文入口

阅读原文(openai.com)

原文将在新窗口打开。收录时间不是内容更新时间;正文、译文与解读的版权归原作者/来源所有,本站仅作个人阅读辅助并保留原文入口;页面时间均为北京时间。

作者/署名来自原文结构化字段(Atom/RSS/HTML meta/JSON-LD;GitHub release 显示的是发布者账号),未经模型补充。

了解来源批准与收录规则