联想在近期举办的创新科技大会(Tech World)上,震撼发布了其最新的科研结晶——“联想推理加速引擎”。这一突破性技术,是联想携手清华大学及无问芯穹共同研发的成果,专为提升AI PC的本地推理能力而设计,其性能之强劲,足以与OpenAI去年推出的o1-mini云端模型相抗衡。
“联想推理加速引擎”融合了多项尖端技术,诸如高性能并行解码、算子融合优化及异构计算技术,这些技术的完美融合,使得该引擎在各种应用场景下都能显著提升推理速度,同时大幅降低功耗与资源占用。尤为当它与大模型推理芯片协同工作时,硬件加速与软件优化的无缝对接,更是将性能提升推向了新的高度。
为了生动展现“联想推理加速引擎”的卓越性能,大会现场精心安排了一场别开生面的“速度比拼”。三台配置一致的AI PC同时挑战解答2024年高考数学压轴题。测试结果显示,未搭载加速引擎的初代大模型耗时27秒,却未能得出正确答案;而二代大模型虽然用时稍短(26秒),但得以满分通过。然而,真正令人瞩目的是搭载了“联想推理加速引擎”的二代大模型,它仅用时13秒便交出了满分的答卷。
联想集团的领航者,董事长兼CEO杨元庆,在大会上满怀信心地宣布:“不久的将来,大家将在即将面世的下一代AI PC中,亲身体验到‘联想推理加速引擎’所带来的前所未有的本地推理能力。它的性能直追云端大模型,但成本却远远低于后者。”这一创新技术的问世,无疑预示着AI在个人计算领域的应用将迈入一个全新的高效时代,为用户带来更加智能化、便捷化的使用体验。
联想此次发布的“联想推理加速引擎”,不仅在技术上实现了重大突破,更为AI在个人计算领域的应用开辟了新的道路。这一创新成果,无疑将为未来的智能计算设备树立新的标杆。
随着“联想推理加速引擎”的逐步普及,我们有理由相信,未来的AI PC将拥有更加强大的本地推理能力,能够更好地满足用户多样化的需求,为我们的生活和工作带来前所未有的便利与智能。
而这一切,都得益于联想及其合作伙伴在技术创新上的不懈努力与卓越贡献。