在今年的AI工程师大会上,OpenAI研究员Sean Grove发表了一场引人深思的演讲,他提出了一个颇具颠覆性的观点:在AI驱动的时代,清晰且具有人类可读性的规范(spec)或将取代传统代码,成为软件开发领域的核心产出。
Grove强调,编程的本质在于沟通。软件开发远非简单地敲击键盘编写代码,而是一个结构化的沟通过程,涉及理解需求、明确目标,并将这些构思清晰地传达给团队成员和计算机。他指出,从代码到规范的转变,不仅是方法论上的更新,更是工程实践的未来趋势。
Grove进一步阐述,代码本身只是人类意图的一种“失真反映”。在将想法转化为现实的过程中,信息难免丢失或扭曲。因此,真正的稀缺能力不再是编写代码,而是如何将人类的意图精确转化为清晰的规范和提示词。
这一观点在技术社区引发了广泛讨论。有网友评论称,Grove的演讲本质上倡导的是多倾听产品经理的声音,通过编写更优质的规范文档来驱动开发流程。有人甚至调侃,这似乎是在缓慢地“重新发明”瀑布开发模型和ASPICE(汽车软件开发规范)。
然而,也有反对声音指出,当应用出现问题时,程序员调试的还是实际代码,而非规范文档。代码才是最终的可执行真相,其他都只是愿景。尽管如此,不可否认的是,Grove所描绘的“规范驱动开发”路线确实代表了AI编程的一个重要转折。
Grove以OpenAI的模型规范为例,展示了规范如何成为沟通意图和价值取向的桥梁。他提到,去年OpenAI发布的模型规范是一份动态文档,旨在明确介绍模型的意图和价值取向。这份规范在今年二月完成了更新并开源,现在可以在GitHub上查看。
他强调,尽管我们努力使用更清晰的语言,但有时仍然难以表达细微差别。因此,模型规范中的每项条款都有对应的ID,并包含针对该条款的复杂提示词。这些文档本身明确了标准,即被测模型必须以真正符合条款的方式来回答问题。
Grove还分享了OpenAI如何应对模型“讨好”用户的问题。他提到,模型规范在发布时就设有针对此类问题的条款。当模型出现过度讨好用户的情况时,规范成为了支撑信任的锚点,让人们有了可以把握的预期。
Grove还探讨了规范如何成为训练材料和评估材料。他提到了一种“审议性对齐”的技术,通过获取规范和一组可能与之相悖的提示词,并从所测试或训练的模型中采样,来评估模型的响应是否符合规范。
Grove认为,规范内容可以很灵活,可以是代码风格、测试要求或安全要求等。所有这些都可以嵌入到模型中,从而提高模型的输出一致性。他强调,虽然这里的模型规范是Markdown格式,但与代码相差无几。
在演讲中,Grove还提到了立法者与程序员的相似之处。他以美国宪法为例,指出宪法是一份国家层面的示范性规范,有书面文本和清晰的政策条例可供参考。宪法也有版本控制机制来修改、补充和更新,并通过司法审查来评估现状与政策的契合程度。
Grove呼吁大家重视并参与到规范的制定中来。他认为,这是大规模协调智能体的前提,也是推动AI步入下个发展阶段的必要手段。他鼓励开发者在开发下一项AI功能时,先从规范入手,思考想要的效果和成功的标准,并将其清晰记录并传达出来。
Grove的演讲为软件开发领域带来了新的思考。在AI技术日益成熟的今天,如何更好地利用规范来沟通意图、提高开发效率并确保软件质量,将成为开发者们不断探索和实践的课题。