ITBEAR科技资讯
网站首页 科技资讯 财经资讯 分享好友

英伟达开源PAIR软件:局域网内调度AI算力,让多设备协同处理更高效

时间:2026-09-04 10:28:28来源:互联网编辑:快讯

英伟达近日发布了一款名为Personal AI Router(PAIR)的开源测试版软件,旨在为局域网内的本地AI应用提供智能化的设备调度服务。该软件能够自动识别网络中的可用计算资源,并根据设备负载情况将AI请求分配至最合适的终端,其功能类似于为AI任务分配工位的“智能调度员”。

PAIR支持在搭载M4及以上芯片的Mac设备、配备英伟达RTX显卡的PC以及DGX Spark服务器上运行,可为Ollama、LM Studio等主流本地AI工具提供统一的任务入口。用户无需为每台设备单独配置AI应用,只需通过PAIR即可将多个独立请求自动分配至空闲设备处理。当某台设备处于繁忙状态或离线时,系统会自动将新请求转发至其他已配对设备,确保任务持续推进。

英伟达特别说明,PAIR的核心功能在于实现并发负载的均衡分配,而非通过多设备协同提升单个AI响应的速度。例如,在处理多个文档审阅任务时,用户可将不同文件分配给不同计算机并行处理,但每个任务的完成质量仍取决于目标设备上运行的模型性能。这种设计既避免了资源闲置,又防止了因过度拆分任务导致的效率下降。

实际测试数据显示,PAIR的调度机制可显著缩短复杂任务的完成时间。在基于Hermes框架的测试中,使用Ollama与Qwen 3.6 35B A3B模型的场景下,仅依靠RTX Spark笔记本处理5个子智能体任务时,平均耗时达18分钟;而加入DGX Spark和RTX 5090设备后,通过PAIR智能调度,平均完成时间缩短至8分48秒。这一案例验证了软件在多设备协同场景下的有效性。

更多热门内容