在人工智能飞速发展的今天，如何让AI系统更准确地理解并处理人类复杂的主观判断，成为学术界和产业界共同关注的焦点。近日，由谷歌、范德比尔特大学、康奈尔大学等顶尖机构联合完成的一项研究，为这一难题提供了创新解决方案。该研究提出了一种让AI评判系统能够输出概率判断的新方法，相关成果发表于学术预印本平台，论文编号为arXiv:2510.00263v1。
传统AI评判系统在处理主观性问题时存在明显局限。以商品评价为例，同一产品可能同时收到五星和三星的不同评分，这种多样性源于人类判断的个体差异。然而，现有AI系统往往像固执的裁判，试图给出唯一"标准答案"，忽视了判断中的不确定性和多样性。特别是在AI互评场景中，这种单一判断模式导致系统丢失了人类判断的丰富信息，甚至可能压制少数派观点。
研究团队提出的创新方案，核心在于让AI学会表达判断的确定性程度。新系统不再简单说"A优于B"，而是能够给出"70%概率A优于B"的量化判断。这种转变类似于从黑白电视升级到彩色电视，使AI能够捕捉人类判断的完整光谱。当面对争议性问题时，系统可能输出"50%概率A优于B"，反映判断的不确定性；而对共识明显的问题，则可能给出"90%概率A优于B"的高置信度判断。
为实现这种概率判断能力，研究团队开发了两种针对性训练策略。在数据充足的情况下，系统采用直接监督微调方法，通过分析多人标注数据学习真实概率分布。例如，若10个标注者中有8人认为A优于B，系统就学习输出80%的概率值。这种方法直接高效，但收集大规模多人标注数据成本高昂。
针对数据稀缺场景，研究团队设计了基于强化学习的训练方案。系统通过试错学习，根据预测准确性获得奖励或惩罚。研究引入了布里尔奖励和对数奖励两种机制，前者温和惩罚误差，后者严厉处罚过度自信的错误预测。这种训练方式类似教练指导运动员，通过反复实践掌握正确技能。
实验验证环节，研究团队选用了Gemma-2-9B和Qwen-2.5-7B两种不同规模的AI模型进行测试。数据基础来自包含10万余个提示的JudgeLM语料库，研究团队巧妙设计了数据分配方案：监督学习方法使用5000个有10人标注的提示，强化学习方法则使用50000个单人标注提示，确保两种方法使用相同总量的标注数据。为解决多人标注数据不足的问题，研究利用Gemini-2.5-Flash模型模拟不同人格的标注者，有效降低了数据收集成本。
实验结果令人振奋。新方法在对齐准确性上实现了18%-51%的错误率降低，在校准性方面将误差减少了4%-45%，在消除位置偏见上取得了7%-81%的改进。特别值得注意的是，这些提升并未牺牲模型在客观任务上的表现。在包含知识、推理、数学和编程的JudgeBench基准测试中，新训练模型保持了46.57%的总体准确率，与顶级模型Gemini-1.5-pro相当。
研究还揭示了一个意外发现：强化学习方法在多数情况下超越了监督学习。尽管监督学习能接触更精确的概率标签，但强化学习通过处理10倍数量的不同提示，获得了更好的提示多样性收益。这一发现对实际应用具有重要指导意义，提示在有限标注预算下，收集更多样本的简单标注可能比为少数样本收集精确标注更有效。
为验证方法的普适性，研究团队在包含真实人类专家标注的PandaLM数据集上进行了测试。结果显示，经过新方法训练的Gemma-2-9B模型达到了73.17%的人类判断一致性，不仅超越所有基线方法，甚至超过了GPT-4等顶级模型。在JudgeBench客观任务测试中，新模型在推理任务上取得了55.10%的最高准确率，证明概率判断能力并未损害模型的客观判断能力。
从理论层面看，研究团队证明了所提强化学习奖励函数具有费雪一致性，确保在理想条件下模型能收敛到真实概率分布。工程实现上，研究采用"口头概率"输出方式，让模型直接生成包含概率数值的文本，如"概率标签为0.75"，既保持了自然语言生成能力，又简化了模型架构修改。
这项突破为AI评判系统开辟了新方向。在风险管理方面，概率判断能提供更丰富的决策支持信息；在公平性上，它能更好反映不同群体观点差异。实际应用前景广阔，在内容审核中可帮助识别争议案例，在教育评估中提供更细致的评分反馈，在推荐系统中处理用户偏好不确定性，在客户服务中识别复杂问题。
尽管取得显著进展，研究仍面临技术挑战。如何处理标注者系统性偏见、将方法扩展到更复杂判断任务、提高计算效率，以及设计概率判断质量评估指标，都是需要进一步探索的方向。这项研究让AI系统学会了像人类一样表达判断的不确定性，为构建更诚实、可靠、公平的AI评判系统奠定了基础。
