近期，随着医疗资源面临压力，包括长时间等待和高昂成本在内的诸多问题日益凸显，越来越多的民众开始尝试利用人工智能聊天机器人，如ChatGPT，进行自我诊断。最新数据显示，美国约有六分之一的成年人每月至少一次利用这类机器人获取健康建议。
然而，对聊天机器人输出的过度信赖可能潜藏风险。牛津大学主导的一项研究显示，用户在与聊天机器人交流时，往往难以提供足够的关键信息，从而妨碍了获取最佳健康建议的可能性。
牛津互联网研究所的研究生项目主任亚当·马赫迪在接受采访时指出，这项研究揭示了双向沟通的障碍。他表示，使用聊天机器人的人并未比依赖传统方法（例如在线搜索或自行判断）的人做出更明智的决策。
为了进行这项研究，研究人员招募了约1300名英国参与者，并向他们提供了由医生设计的医疗场景。参与者需要识别潜在的健康状况，并借助聊天机器人及自己的方法来决定行动方案，比如是否就医。
研究中，参与者使用了包括GPT-4在内的多种人工智能模型。研究结果显示，聊天机器人不仅让参与者更难识别相关健康状况，还导致他们低估了已识别健康问题的严重性。
马赫迪强调，参与者在向聊天机器人提问时经常遗漏重要细节，或收到难以理解的回答。他指出，聊天机器人提供的建议往往好坏参半，而目前的评估方法未能反映出与人类用户互动的复杂性。
与此同时，科技公司正积极推动人工智能在改善健康状况方面的应用。例如，苹果正在开发一款提供运动、饮食和睡眠建议的人工智能工具；亚马逊则在探索利用人工智能分析医疗数据库中的健康社会决定因素；微软则协助构建能够对患者发送给护理提供者的消息进行初步分类的人工智能。
然而，无论是医疗专家还是患者，对于人工智能是否已准备好应用于高风险健康领域，都存在不同看法。美国医学协会建议医生不要使用ChatGPT等聊天机器人辅助临床决策，而包括OpenAI在内的主要人工智能公司也发出警告，不要仅凭聊天机器人的输出结果进行诊断。
