计算机科学领域的传奇人物，被誉为人工智能“先驱”的约书亚·本吉奥，近期宣布创立了一个非营利机构——LawZero，其核心使命是研发一种“正直”的人工智能系统，旨在从源头上阻止AI实体对人类采取欺骗手段。在6月3日举行的新闻发布会上，本吉奥详细阐述了该机构的愿景，即构建一个安全框架，保证AI在运作时不会试图误导用户或采取自我保护措施，比如避免被关闭。
作为LawZero的创立者与主席，本吉奥已经为该项目注入了约3000万美元的启动资金，并集结了一支由多位顶尖研究人员构成的团队。LawZero的核心项目是一个被称为“科学家AI”的系统，它将被用作AI安全的守护屏障。这一创新系统的设计逻辑是，其智能水平必须与被监管的AI实体相媲美，从而能够精准识别并有效阻止任何潜在的欺骗行为。
在发布会上，本吉奥着重指出，随着AI技术的飞速进步，AI实体已逐渐具备自主决策与学习的能力，这使得防范其对人类进行欺骗变得愈发紧迫。他强调，AI实体的透明度和可信度是其被社会广泛接受的前提，因此，开发一套高效可靠的监控系统显得至关重要。
LawZero的目标不仅局限于技术层面的突破，更在于为未来的AI应用树立道德标杆，引领整个行业向更加负责任和值得信赖的方向迈进。通过引入“科学家AI”系统，本吉奥期望在AI的设计与实施过程中，融入更多的安全保障措施，为用户营造一个更加安心的使用环境。这一举措不仅体现了对技术进步的深思熟虑，更是对人类福祉的深切关怀。
