近期,OpenAI 在推动“人工智能道德”研究方面迈出了重要一步,资助了一项深入探索该领域的项目。据TechCrunch报道,OpenAI的非营利部门已向美国杜克大学的研究团队提供了一笔资金,用于开展名为“Research AI Morality”的研究计划。
这项研究是更大规模计划的一部分,该计划在三年内共计投入100万美元(折合当前人民币约726万元),旨在探索如何赋予AI道德意识。这一举措不仅彰显了OpenAI对于人工智能伦理问题的重视,也预示着AI技术未来发展将更加注重道德层面的考量。
领导该项目的是杜克大学的两位知名学者:Walter Sinnott-Armstrong教授和Jana Schaich Borg。Sinnott-Armstrong教授在实践伦理学、道德心理学以及神经科学等领域有着深厚的学术背景,他领导的团队致力于解决现实世界中的伦理难题。例如,他们通过设计算法来辅助决策,确定谁应优先接受器官移植,同时权衡公众与专家意见,以确保系统的公平性。
OpenAI资助的这项研究旨在开发能够预测人类道德判断的算法,尤其是在医学、法律和商业等领域。然而,这一研究面临诸多挑战。由于机器学习模型主要基于训练数据进行预测,因此它们往往反映了主流文化的观点,可能存在一定的偏见。如何在算法中融入更加全面、客观的道德标准,成为研究人员亟待解决的问题。
通过这项研究,OpenAI和杜克大学的研究团队希望能够为AI技术的未来发展提供更加坚实的道德基础。他们相信,通过不断探索和实践,人工智能将能够更好地服务于人类社会,实现技术与伦理的和谐共生。