近期,人工智能领域的知名学者、被誉为“AI教父”的杰弗里·辛顿教授,在一次接受哥伦比亚广播公司(CBS)的采访中,表达了对人工智能技术迅猛发展的深切忧虑。辛顿教授,这位曾荣获2018年图灵奖、并在多伦多大学担任名誉教授的科学家,对AI的未来走向提出了警示。
辛顿教授指出,人类正面临着一个潜在的危险——可能会不自觉地将世界的控制权交给AI。他形象地将AI比作一只“小老虎”,强调在AI技术日益成熟的过程中,我们必须警惕其可能带来的不可预测风险。辛顿教授认为,尽管AI在初期可能显得温顺可爱,但谁也无法保证它长大后不会成为威胁。
作为AI学习核心技术大型语言模型(LLM)的先驱开发者,辛顿教授多次在公开场合表达对AI危险性的担忧。自2023年离开谷歌并担任副总裁一职后,他更是频繁地发出警告,指出AI可能超越人类控制的风险。在采访中,辛顿教授以情感化的比喻描述了人类对AI的依赖,强调这种依赖背后隐藏的危机。
辛顿教授进一步指出,存在10%至20%的风险,AI最终将取代人类成为地球的主宰。他批评说,尽管一些大型科技企业如谷歌、xAI(由埃隆·马斯克创立)和OpenAI(由山姆·奥尔特曼领导)已经意识到了这种风险,但它们却将盈利置于安全之上。辛顿教授特别提到,这些企业正在积极游说以减少对AI的监管,并对谷歌在AI技术军事应用立场上的变化表示失望。
为了应对这一潜在危机,辛顿教授呼吁AI企业必须大幅增加在AI安全性研究方面的投入。他认为,这些企业应该将三分之一的计算资源用于安全性研究,以确保AI技术的发展不会对人类构成威胁。辛顿教授的这番言论,无疑为当前AI领域的发展敲响了警钟。