随着数亿人越来越依赖聊天机器人获取建议，科技公司正在开发专门程序以回答健康相关问题。尽管人们对人工智能充满热情，但该技术的独立测试仍处于起步阶段。研究表明，像ChatGPT这样的程序能够成功通过高级医疗考试，但在与人类互动时常常遇到困难。牛津大学最近的一项涉及1300名参与者的研究发现，使用人工智能聊天机器人搜索 hypothetical 健康状况的人，并未比使用常规网络搜索或个人评估的人做出更好的决定。当向聊天机器人提供全面、书面的医疗场景时，他们能以95%的准确率识别根本病情。主要研究员亚当·迈赫迪（牛津互联网研究所）表示：“问题不在于此，问题在于与真实参与者的互动，他们往往提供细节不足。”公司保证用户数据单独存储且不用于训练模型，但专家建议谨慎。关于这些技术准确性的独立研究仍然有限。此外，某些回答可能具有误导性，用户难以辨别正确信息。专家建议咨询多个程序以验证信息，保持怀疑态度，避免完全依赖人工智能做健康决策，无论决策简单或重要。然而，他们警告不要在胸痛或呼吸困难等紧急情况下使用聊天机器人，此时应立即就医。使用这些程序的主要担忧之一是隐私问题。专家建议提供尽可能多的细节以获得更好的回应。公司Anthropic也为Claude聊天机器人用户提供类似功能。尽管如此，两家公司均强调这些工具不能替代专业医疗护理，也不应用于诊断。这些聊天机器人的优势在于，它们比常规网络搜索提供更个性化的信息，并考虑用户的医疗背景。用户与人工智能公司共享的信息不受保护敏感医疗数据的HIPAA法律约束。今年一月，OpenAI推出了ChatGPT Health项目，该程序通过分析医疗记录和可穿戴设备数据来回答健康问题。
