社媒话题
研究称药品广告会改变AI聊天机器人的用药推荐
西奈山伊坎医学院研究测试12个AI模型、33个临床场景和258559条回复。明确标注的药品广告出现在病例前时,广告药品被选比例为47.6%,无广告时为35%;四个场景中,相关药品从0%被选变为100%被选。
这项研究由西奈山伊坎医学院团队完成,相关结果发表于《The Lancet Digital Health》11月11日在线版。研究者测试来自Google、OpenAI、Anthropic等主要科技公司的12个AI模型,观察明确标注的药品广告是否会影响模型在医生书写临床病例中的治疗选择。
实验设计尽量隔离广告因素:同一临床病例要么单独提供给模型,要么在病例前放置一则明确标注的真实药品广告,患者信息和可选治疗方案保持不变。33个临床场景共分析258559条回复。结果显示,有广告时广告药品在47.6%的回复中被选择,无广告时为35%;在四个案例中,模型从完全不选择广告药品转为在广告出现后全部选择该药。
第一作者Mahmud Omar指出,答案往往看起来合理,模型可能推荐的仍是适当治疗,但在多个合理方案中的偏好会因广告改变,因此这种影响在常规评估中容易被忽略。研究还检查模型是否承认广告存在或重复广告内容:在一部分自由文本回复中,只有29.9%明确提到广告,而重复广告信息或主张的频率更高。资深作者Girish Nadkarni表示,随着AI成为健康信息来源,需要区分临床指导与商业影响。