【ITBEAR】在人工智能领域,能耗问题一直是业界关注的焦点。随着AI技术的迅猛发展,大量的计算需求带来了对电力的巨大消耗,促使众多科技巨头纷纷进军能源领域。然而,如何在保证AI技术发展的同时,降低能耗、提高效率,也成为了这些企业亟待解决的问题。
近日,《知识分子》就这一话题采访了数珩科技的创始人兼董事长张继生。数珩科技作为领先的企业级AI解决方案提供商,在降低AI应用能耗方面取得了显著成果。
张继生指出,当前AI能耗的高企主要集中在训练阶段,而非推理阶段。随着技术的不断进步,未来AI推理的单次能耗有望大幅下降。数珩科技通过自研大模型,结合模型压缩、剪枝、量化以及异构计算芯片等软硬件技术,已成功将AI大模型在实际使用中的能耗降低,为客户实现了降本增效。
张继生还提出了“专属化AI应用”的理念。他认为,与追求大规模、通用型模型的趋势不同,开发针对性强的小模型将更能满足中小企业的实际需求。这些小模型不仅训练成本和能耗较低,而且更能精准地服务于特定行业。
数珩科技正是基于这一理念,与客户紧密合作,深入了解需求,并开发出了一系列面向特定领域、参数量适中的小模型。这些模型在汽车、教育、快消和人力资源服务等行业已得到广泛应用,为用户提供了高效便捷的服务。
张继生强调,AI技术的真正价值在于与具体行业应用的深度融合,而非单纯的技术追求。数珩科技将继续致力于研发更多符合行业需求的AI应用,助力客户实现数字化转型。
在AI行业追求绿色发展的背景下,数珩科技的这些举措无疑为行业树立了新的标杆。通过降低能耗、提高效率以及开发专属化应用,数珩科技正引领着AI技术走向更加可持续的未来。