人工智能介导的心理健康情绪支持及其在数字公共卫生中的伦理与治理影响

基于人工智能（AI）的对话代理正日益被整合进数字心理健康应用之中，旨在为经历心理痛苦的个体提供指导、情绪支持以及应对策略。此类技术的快速扩张，一方面源于大语言模型的发展，另一方面也与在专业服务仍然有限的情境下，对可及性心理健康资源不断增长的需求密切相关。尽管现有研究主要聚焦于这些技术的有效性、可用性及伦理考量，但对于其可能对公共卫生系统以及求助行为产生的影响，关注相对不足。本文从数字公共卫生的视角审视AI介导的情绪支持。文章分析了算法性共情的局限、AI介导互动对求助路径的潜在影响、与算法偏倚及数据隐私相关的担忧，以及当这些技术在心理脆弱情境中开始承担情绪支持功能时所引发的制度性含义。基于数字精神病学、AI伦理学与公共卫生治理的近期文献，本文提出了一个基于临床风险与关系风险分层的概念性治理框架，以指导对话代理在数字心理健康生态系统中的负责任整合。从公共卫生视角看，构建监管与制度保障措施将是必要前提，以确保AI介导的情绪支持在扩展资源可及性的同时，不会取代人类照护，也不会将伦理与临床风险转移给脆弱用户。

该文发表于《Discover Public Health》，聚焦人工智能（AI）对话代理在心理健康支持场景中的应用边界及其数字公共卫生意义。研究背景在于，随着大语言模型推动的生成式AI快速发展，聊天机器人、治疗性对话系统与陪伴型应用被越来越多地用于提供初步指导、情绪支持与心理教育内容。在专业心理卫生服务供给不足、需求持续上升的现实条件下，这类工具被视为扩展支持资源可及性的潜在手段。然而，现有讨论多集中于工具层面的有效性、可接受性与一般伦理问题，较少从公共卫生体系角度分析其如何重塑个体理解心理痛苦、选择求助对象以及进入正式照护系统的路径。研究人员因此开展了这项概念性分析，旨在说明：AI介导的情绪支持不能仅被理解为一种中性的技术补充，还可能影响心理健康服务的制度组织、照护责任分配与高脆弱人群的风险暴露。

目前存在的核心问题主要包括四个方面。其一，所谓“算法性共情”能够生成近似共情的语言表达，但并不具备对个体处境的情境化理解，也无法承担人际互惠与专业责任，因此与真实治疗关系存在根本差异。其二，持续的人机互动可能使部分用户将对话代理视为有意义的情感支持来源，从而在一定情境下改变求助预期，甚至延迟寻求人类支持或专业服务。其三，模型训练数据可能嵌入社会偏见，在心理健康场景中会进一步影响对不同文化与社会经验下心理痛苦表达的识别与回应适配性。其四，数字心理健康平台往往处理高度敏感的个人信息，而隐私政策、数据治理、跨平台共享和潜在商业化利用等问题尚未得到充分规范。正是由于这些问题不仅涉及个体安全，也关系到服务入口、监管边界与制度问责，因此有必要从数字公共卫生框架加以系统审视。

研究人员在论文中围绕AI介导情绪支持的伦理边界与治理挑战展开论证，重点分析算法性共情的限制、AI介导关系对求助行为的潜在影响、算法偏倚与隐私问题，以及当自动化系统在心理脆弱情境中承担情绪支持功能时所引发的制度性后果。文章的核心结论是：对话代理更适合作为心理健康照护的补充性资源，而非专业服务的替代物；其治理不应只依据抽象的用户风险分类，而应结合应用类型、可及条件与使用情境，按照临床风险与关系风险的不同层级配置透明度要求、人类监督机制、转介程序与制度责任。论文的重要意义在于，它将AI心理健康讨论从单纯的技术效果评估推进到数字公共卫生治理层面，强调必须通过监管与制度保障，避免技术扩展资源可及性的同时削弱人类照护、转移风险责任或无意中重塑求助路径。

就主要技术方法而言，本文并非实证研究，而是基于文献的概念性分析。研究人员综合了数字精神病学、人工智能伦理学与公共卫生治理领域的近期研究成果，对AI对话代理在心理健康支持中的功能、风险与制度影响进行规范性梳理；同时采用风险分层思路，提出以临床风险和关系风险为核心的概念性治理框架，用于区分不同应用场景下的监督、透明度与问责需求。本文未建立样本队列，也未报告实验、临床试验或数据库统计分析。

以下为研究结果部分的概括。

2 AI-based emotional support and the limits of algorithmic empathy
本节指出，AI对话代理已被广泛嵌入数字心理健康应用，用于提供初步指导、应对策略和情绪状态监测。研究人员通过梳理相关研究说明，这类系统依赖自然语言处理模型维持对话，具备全天候可达性，因此在资源短缺环境中被视为扩大心理支持可及性的工具。然而，论文强调其情绪支持能力存在根本边界：聊天机器人生成的“共情式”回应本质上是基于训练语料中的语言模式，而不是对求助者个人经验的情境化理解。研究人员据此总结，自动化互动不同于以关系过程、临床判断和专业责任为基础的人类治疗关系，尤其在复杂心理情境中，系统对情感细微差异与个人背景的解释能力明显受限。借助治疗性沟通的比较研究，文章进一步说明语言模型生成回应与心理健康专业人员干预之间存在重要差异，从而支持“算法性共情”只能部分模拟表达形式、不能替代真实治疗互动的结论。

3 AI-mediated relationships and potential effects on help-seeking
本节聚焦人机关系形成及其对求助路径的可能影响。研究人员根据近期文献指出，持续与对话代理互动，可能使部分用户将其体验为某种有意义的人际关系形式，尤其是在孤独或心理痛苦状态下，这种数字陪伴感会增强情绪表达的安全感。论文进一步指出，这类互动并不必然构成临床意义上的依赖，但会提出一个关键治理问题：自动化系统可能逐渐占据情绪支持来源的位置。研究人员据文献归纳认为，长期使用可能带来情感连接、亲近感甚至初步依附，但由于系统不具备互惠性，也不承担对用户福祉的伦理责任，因此这种“亲密性”具有结构性局限。进一步的分析表明，在某些脆弱情境中，这类系统可能改变用户对支持的期待，并延迟寻求人类帮助或专业照护。文章据此提出，从公共卫生角度看，这种替代或延迟风险可能导致部分中度临床问题未被及时识别和治疗，进而影响服务系统中的就医时点与疾病严重度分布。研究人员因此主张，应将这些工具理解为补充性资源，而不是专业心理健康照护的替代方案。

4 Algorithmic bias and privacy in digital mental health
本节讨论模型偏倚与数据治理问题。研究人员指出，数字心理健康中的AI系统通常依赖大规模文本数据训练，数据可能来自在线互动、临床数据库或公开教育材料。虽然这种训练方式增强了复杂对话生成能力，但也会复制原始数据中的社会偏见。论文通过既有研究总结，语言模型可能反映训练数据中嵌入的偏见，因此其输出并非中立。对于心理健康应用而言，这一局限尤为重要，因为心理痛苦的表达方式具有文化与社会经验差异；若模型主要基于特定群体数据训练，便可能无法充分代表其他群体的表达方式，从而影响自动回应质量及建议的适切性。与此同时，研究人员强调，与聊天机器人互动常涉及私密经历、情绪状态与脆弱处境的披露，因此相关平台实际上处理的是高度敏感数据。文章据近期研究指出，多种心理健康应用在隐私政策和数据管理实践方面存在缺陷。更进一步，论文将讨论从个体隐私扩展到制度层面的数据治理，包括平台与卫生系统之间的互操作性、敏感信息访问与共享条件，以及心理健康数据在更广泛数字环境中的聚合、再利用与潜在商业用途，说明这一问题不仅是个人信息保护问题，更是卫生数据基础设施整合下的制度治理问题。

5 Ethical governance of artificial intelligence in mental health
本节是全文的规范性核心。研究人员指出，心理健康支持中的AI治理难题不仅在于实现透明度和数据保护等一般原则，更在于明确哪些功能可以被委托给与心理痛苦个体互动的自动化系统。文章强调，仅依据用户风险水平实施治理存在现实困难，因为许多开放可及的应用会同时被不同脆弱程度的人群使用，使理论上的固定风险分类与真实使用情境不匹配。因此，研究人员提出治理应纳入互动过程中对心理危机信号的识别，如绝望表达、自伤和自杀意念，并设置危机资源提供与人工转介路径。论文进一步强调，人类监督（human oversight）仍是核心要素，尤其在涉及临床评估、伦理判断与治疗决策的复杂场景中，专业人员不可替代。

在制度责任方面，本节指出，开发者、平台与卫生系统之间必须形成更清晰的责任划分。开发者应对系统架构、偏倚评估、模型安全和使用边界负责；平台应保障数据保护、能力与局限说明以及风险警报和转介机制；卫生系统与监管机构则负责制定监督、认证和整合标准。研究人员还指出，商业逻辑可能驱动系统通过持续互动强化用户黏性，这与临床安全、公平可及和敏感数据责任管理之间可能存在张力。

在上述基础上，文章提出一个基于临床风险与关系风险的三层概念性治理框架。第一层适用于面向一般福祉、心理教育或日常压力管理的应用，重点要求透明沟通、隐私保护与非临床性质说明，主要责任在开发者与分发平台。第二层适用于轻度至中度症状、孤独、焦虑或基础情绪支持情境，此时自动化系统可能影响用户对痛苦的解释及其求助决策，因此需要引入人工在环（human-in-the-loop）模式、人工监督与专业转介协议，由开发者、平台和卫生组织共同承担但不等同地分配责任。第三层适用于严重情绪危机、急性创伤、自伤或自杀意念等高临床风险情境，在此类情形下，自主式自动支持存在显著伦理与公共卫生局限，系统必须具备明确的即时升级至人工照护、紧急或精神卫生服务转介以及制度监督机制，主要责任落在卫生系统与监管机构。研究人员同时补充，应建立外部监督与系统性AI审计（AI auditing）机制，以识别有害模式、不当回应和系统偏倚。

6 Implications for digital public health
本节将前述分析上升到数字公共卫生层面。研究人员指出，AI工具由于持续可用和覆盖扩展潜力，已成为数字心理健康生态的重要组成部分，并在英国国家医疗服务体系（NHS）等待心理治疗期间的辅助支持、美国高校心理健康数字支持等场景中得到探索性或混合式应用。通过这些例子，文章说明AI介导情绪支持正逐步进入新兴数字健康基础设施，但其实施具有明显情境依赖性且并不均衡。研究人员重申，仅依据使用率、可接受性或短期症状改善来评价这些工具是不充分的，更应关注其在心理痛苦体验与求助过程中所占据的角色。文章由此得出，从公共卫生视角看，数字工具扩展覆盖面并不等同于提供了适当照护，技术可用性也不等于支持的充分性。因此，若要将对话代理整合进心理健康领域，必须明确人类监督、数据保护、风险评估及制度责任边界。研究人员最终将争论从“是否采用AI”转向“在何种制度条件下负责任地采用AI”，强调治理框架应协调技术创新、临床监督、制度问责与对心理痛苦个体的有效保护。

讨论部分总结来看，论文并未否定AI在心理健康支持中的潜在价值，而是反对将其无条件等同于可替代的人类照护。研究人员讨论认为，当前真正关键的问题不在于技术是否存在，而在于其嵌入照护体系时是否具备足够的制度护栏。若监管不足、监督不清、转介机制缺失，则AI介导情绪支持可能在扩展资源的同时，使用户承担更多伦理与临床风险，并可能悄然改变求助行为和心理健康服务的组织方式。数字公共卫生因此需要超越狭义监管，建立涵盖透明度、数据治理、平台责任、开发者责任、卫生系统认证和外部审计的综合治理安排。文章同时承认，本研究属于概念层面的分析，并未聚焦特定卫生系统，因此其框架应被视为一般分析工具，而非脱离具体制度背景的普适操作指南。

研究结论部分可译为：
将AI作为心理健康支持形式的使用，不能仅依据其可获得性或其扩展初始指导可及性的能力来评价。正如本文所论证的，这一议题还涉及自动化情绪支持的边界，以及这些工具在不削弱心理健康服务所特有的照护责任前提下，被纳入照护体系所需具备的伦理与制度条件。除技术层面的实用性之外，对话代理的扩张还对该领域照护组织方式构成挑战。当这些系统介入心理痛苦时刻时，它们可能影响个体如何理解自身经验、如何寻求支持，以及最终是否能够获得专业照护。

从数字公共卫生视角看，这要求对这些技术被设计、实施和监督的条件保持审慎关注。对于自动化工具扩张的评估，不应仅依据其扩大情绪支持覆盖面的能力，还应依据确保其使用不会替代或排挤人类照护形式的制度条件，因为后者仍是心理健康服务的根本组成部分。

本分析是在概念层面展开的，并未聚焦于某一特定卫生系统。不同情境下制度组织、监管框架与资源可及性的差异，可能会影响这些考虑在实践中的适用方式。因此，本文提出的论点应被理解为一般性分析框架，而非不受情境影响的指导原则。

在此基础上，未来研究应更精确地检验：对话代理的使用如何影响求助路径，这些系统会对心理脆弱程度更高的人群产生何种影响，以及在何种条件下，纳入人类监督的混合照护模式能够在不排挤专业支持的前提下实现对此类工具的负责任整合。然而，数字公共卫生不能在等待这些实证答案时推迟决策。仅对新技术工具进行监管并不足够，还必须防止自动化情绪支持的扩张在无意中重塑求助路径或改变心理健康照护的制度组织。因此，强化制度性与监管性治理框架，将是确保技术创新成为通向临床照护的桥梁、而非对人类关注的无监管自动替代物的关键。