ITBEAR科技资讯
网站首页 科技资讯 财经资讯 分享好友

ONNX Runtime Web引入WebGPU:网络浏览器中的机器学习迎来性能飞跃

时间:2024-03-05 11:22:12来源:ITBEAR编辑:快讯团队

【ITBEAR科技资讯】3月5日消息,微软近日宣布在其ONNX Runtime Web中整合了WebGPU技术,这一举措有望显著提升复杂机器学习模型在网络浏览器中的运行性能。目前,Chrome和Edge浏览器已初步支持这项技术,尽管它仍处于早期阶段。

ONNX Runtime Web是微软推出的一个Javascript库,旨在帮助网络开发人员直接在网络浏览器中部署机器学习模型,并提供基于硬件加速的多个后端支持。而WebGPU则是一种新兴的网络应用程序接口(API),它能够为机器学习模型提供硬件加速,从而在网络浏览器中实现更高效的运行。

此前,由于网络浏览器的计算能力有限,复杂的机器学习模型,特别是大型生成模型,在网络浏览器中的运行效率一直受到限制。然而,随着WebGPU技术的引入,这一问题有望得到解决。WebGPU能够释放设备GPU的能力,使得这些复杂的机器学习模型能够在网络浏览器中高效运行,从而显著提升性能。

据ITBEAR科技资讯了解,微软表示,WebGPU借助计算着色器等先进功能,能够以更高效的方式处理复杂的机器学习工作负载。此外,WebGPU对半精度(FP16)的支持也降低了GPU内存的使用率和带宽要求,进一步加快了运算速度。通过这些优化,WebGPU有望在网络浏览器中直接推断出更高效、可扩展的机器学习应用。

目前,适用于Mac、Windows、ChromeOS的Chrome 113和Edge 113以及适用于Android的Chrome 121已默认包含WebGPU支持。这意味着开发者们可以尝试通过ONNX Runtime Web调用WebGPU加速资源,以提升其机器学习模型在网络浏览器中的运行性能。随着这项技术的不断发展和完善,我们有望在未来看到更多高效、便捷的机器学习应用在网络浏览器中得以实现。

更多热门内容
MiTAC神雲科技于2025 OCP EMEA峰会发布新一代OCP服务器和开放固件创新技术
OCP 领导者和创新者齐聚一堂,共同探索 C2810Z5、C2820Z5、Whitestone 2 和现场固件演示。【爱尔兰都柏林电- 2025OCP EMEA 峰会,2025 年 4 月 29 日】- 卓越的高性能和节能服务器解决方案提供商MiTAC神雲科技股份有限公司幸地宣布,参加 4 月 29 日至 30 日位于都柏林会议

2025-04-29

国货之光!星震扫描仪震撼上市,助力国产替代
为满足党政机关、金融、央国企等客户日益增长的国产需求,星震作为国产品牌,秉持着自主创新的理念,经过二十三年的技术沉淀与研发攻坚,今日正式推出首批4款扫描仪产品ST-350、ST-450、ST-650、ST-850。这不仅是公司发展历程中的重要里程碑,更是为国产自主可控注入新

2025-04-27

三星Galaxy Tab S10 FE新品上市!入手即享高效体验
4月26日,三星Galaxy Tab S10 FE系列正式在国内开售,包含三星Galaxy Tab S10 FE和Galaxy Tab S10 FE+两款平板电脑新品,分别搭载不同尺寸的轻薄便携大屏,呈现出惊艳的视觉效果;将多元化的高效交互与丰富功能带给更多消费者,为学习、工作与休闲生活带来智能化的崭新体验。

2025-04-26