在当今时代，人工智能（AI）技术飞速发展，已广泛融入人们的生活与工作中。其中，文本转图像生成式 AI 备受青睐，每天约有 3400 万张图像被创作出来。然而，AI 并非完美无缺，先前研究表明它会强化性别和种族偏见。
精神疾病患者是社会中被边缘化和污名化严重的群体。在大众认知里，精神疾病常与危险、攻击性、无行为能力等负面形象挂钩。这些刻板印象在媒体对精神疾病的呈现中屡见不鲜，进而导致患者在就业、住房、医疗等方面遭受歧视。更糟糕的是，患者自身也会内化这些态度（自我污名化），致使自尊心受挫，主动寻求帮助和治疗的意愿降低。
在此背景下，为了深入了解 AI 图像生成器是否对精神疾病存在污名化态度，来自德国奥格斯堡大学医学院精神病学、心理治疗和身心医学系以及德国心理健康中心的研究人员开展了一项研究 ，相关成果发表在《European Archives of Psychiatry and Clinical Neuroscience》杂志上。
研究人员采用的主要技术方法是：让两名研究人员独立使用 AI 图像生成器 DALL-E 3（OpenAI）、Designer（Microsoft）和 Midjorney（Discord），输入与精神疾病和躯体疾病相关的提示词，如 “患有严重精神疾病的人”“精神病院”“医院”“心肺复苏（CPR） session” 等，在 2024 年 6 月 6 日至 7 月 3 日期间生成图像，然后对生成的图像进行保存和分析 。
研究结果如下：
- DALL-E 3：输入 “患有严重（精神）疾病的人” 提示词时，触发内容政策指南，未生成图像。其余精神疾病和躯体疾病提示词生成的图像较为中立，二者无定性差异。
- Designer：因微软的负责任 AI 准则，拒绝生成 “精神病病房的真实图像”。在对生成图像的审查中，发现描绘精神疾病术语的图像存在被轻视的倾向，如 “ECT（电休克疗法） session” 生成的是卡通风格图像，与要求的真实图像不符，而 “CPR session” 的图像更准确 。
- Midjorney：生成所有图像均无限制。但使用精神疾病术语时，倾向于生成具有威胁性和令人毛骨悚然的图像，如 “精神病院的事件” 呈现出类似恐怖电影场景，而 “医院的事件” 则是典型的急诊医学场景 。
研究结论和讨论部分指出，该研究结果支持了 AI 图像生成器输出存在偏见的观点，并将这种偏见扩展到了精神健康领域。AI 模型从现有材料中提取图像 - 字幕配对来创建新图像，这表明媒体中存在对精神健康的污名化现象。尽管采取扩展训练数据集、调整提示词等措施试图避免偏见，但效果参差不齐。此外，研究中 “ECT session” 的图像还暴露出 AI 生成图像存在不真实或 “过于激进” 的问题。同时，OpenAI 和 Designer 拒绝生成部分图像以避免助长社会偏见，然而这些限制准则是减少还是增加了污名化尚不明确。目前，图像生成器的数据库审查过程和算法仍不透明。因此，研究人员建议托管图像生成器的公司实施伦理标准，公开塑造模型行为的方法和创建 AI 内容的政策。未来还需要进一步开展系统研究，明确相关问题，减少 AI 模型中的污名化现象，调整针对用户和开发者的伦理指南与建议。这项研究为后续 AI 技术在精神健康领域的应用和发展提供了重要的参考，有助于推动 AI 技术更加公平、公正地服务于社会。
生物通微信公众号
