在近日举办的世界人工智能大会上,端侧与边缘侧AI技术成为核心焦点。随着大模型加速向终端设备渗透,如何平衡算力、功耗与实际落地效果成为行业共同探索的命题。作为AI推理芯片领域的领军企业,某科技公司携全场景算力解决方案亮相,其最新发布的“元曦”系列大模型推理产品引发广泛关注,标志着边缘AI正式进入千P算力时代。
针对云端部署成本高、数据安全隐患等痛点,该公司推出的A系列AI推理卡搭载超1000TOPS算力,配备超大显存与高带宽架构,可稳定支持3B至4B参数模型的本地化运行。该产品特别针对机房集群、多路视频分析等高负载场景优化,通过减少云端依赖降低企业运营成本。据技术负责人介绍,其自主研发的混合精度计算架构使能效比提升3倍,在同等功耗下可处理更复杂的视觉推理任务。
在具身智能领域,该公司展示了机器人专用控制芯片的技术突破。通过将视觉感知与运动控制深度融合,其解决方案实现了对透明物体的精准抓取——这项被行业视为"最后一公里"的技术难题,得益于多模态感知芯片的深度优化。研发团队透露,通过定制NPU架构与动态功耗管理技术,新型芯片在保持5TOPS算力的同时,功耗较同类产品降低40%,特别适用于需要长时间运行的商用服务机器人。
端侧AI的落地实践成为展会另一亮点。某企业展示的本地化AI会议系统,通过自研芯片实现会议纪要生成、实时翻译等功能的完全离线运行。该方案已在国内多家金融机构部署,解决了传统云端服务的数据合规难题。另一款面向开发者的"代码辅助盒子",则通过本地化大模型部署,使代码生成效率提升60%,同时避免敏感信息泄露风险。
在农业与安防领域,该公司推出的太阳能智能相机开创了无电无网环境下的视频分析新范式。搭载自研AI-ISP技术的设备,可在0.001lux照度下输出彩色图像,为夜间作物监测、野生动物保护提供全新工具。据现场演示,该设备在连续阴雨天气下仍可维持72小时持续工作,较传统方案功耗降低80%。
从12TOPS的端侧芯片到千P级边缘推理卡,该公司构建的完整算力矩阵已覆盖30余个垂直行业。技术副总裁指出,当前AI落地面临两大趋势:一是从通用算力向场景化定制转变,二是从追求参数规模转向能效优化。其最新产品线通过架构创新,使单位算力成本下降至行业平均水平的1/3,特别适合中小企业数字化转型需求。
在机器人赛道,该公司明确聚焦量产阶段客户,重点解决能耗与成本敏感型场景的落地难题。通过将视觉感知、运动控制与大模型推理集成于单芯片方案,其产品可使机器人整机BOM成本降低25%。这种高度集成的架构设计,已获得多家头部机器人厂商的测试认证,预计年内将实现规模化出货。
随着AI应用从数字交互向物理世界操作延伸,边缘与端侧算力正成为新的竞争高地。此次展示的全栈解决方案,从芯片架构到行业应用形成完整闭环,为AI规模化落地提供了可复制的技术路径。特别是在数据安全要求严格的领域,本地化部署方案正获得越来越多企业客户的青睐,这或许预示着AI基础设施架构的深层变革正在发生。