ITBEAR科技资讯
网站首页 科技资讯 财经资讯 分享好友

苹果携手高校推FS-DFM模型:8轮迭代生成长文,写入速度大幅提升

时间:2025-10-15 01:54:52来源:互联网编辑:快讯

科技领域近日迎来一项重要突破——苹果公司与俄亥俄州立大学联合研发的新型语言模型FS-DFM(Few-Step Discrete Flow-Matching)正式亮相。该模型通过创新性的算法设计,在长文本生成效率上实现质的飞跃,仅需8轮迭代即可达到传统模型上千次运算的效果,同时将文本写入速度提升至同类产品的128倍。

研究团队在最新发表的论文中指出,现有语言模型在处理长文本时普遍面临效率瓶颈。自回归模型(如ChatGPT)采用逐字串行生成方式,后一字符的生成高度依赖前置内容;扩散模型虽能并行生成多个字符,但仍需通过多轮迭代逐步优化结果。FS-DFM作为扩散模型的优化变体,通过重构迭代机制,实现了从"逐步逼近"到"精准直达"的跨越。

这项突破的核心在于三重技术革新。首先,研究人员开发出可适应不同迭代次数的自适应训练框架,使模型能根据任务需求动态调整计算强度。其次,引入的"教师-学生"引导机制通过知识蒸馏技术,确保每轮迭代都能实现精准更新,同时避免过度修正导致的语义偏差。最后,优化后的迭代算法将传统模型中冗余的计算步骤压缩80%以上,在保证生成质量的前提下大幅降低算力消耗。

实验数据显示,参数量仅1.7亿至17亿的FS-DFM变体,在关键指标上全面超越主流大模型。对比拥有70亿参数的Dream模型和80亿参数的LLaDA模型,FS-DFM在困惑度(衡量文本流畅性)和熵值(反映选词合理性)两项核心指标上均表现更优。具体而言,其生成的文本既避免了因熵值过低导致的重复单调,也克服了熵值过高引发的逻辑混乱问题。

该技术的突破性在于重新定义了语言模型的效率边界。传统扩散模型为达到理想效果往往需要数百次迭代,而FS-DFM通过优化迭代路径,将这一过程压缩至8轮。这种"少步精炼"的特性不仅显著提升了生成速度,更在保持文本质量的同时降低了硬件要求,为移动端等资源受限场景的应用开辟了新可能。

研究团队透露,FS-DFM的迭代优化机制具有广泛的适配性,未来可拓展至图像生成、语音合成等多模态领域。目前,这项技术已进入工程化验证阶段,其高效节能的特性或将推动语言模型在边缘计算设备上的普及应用。

更多热门内容
滴普科技通过港交所聆讯,冲刺港股“企业级大模型AI应用第一股”,上半年营收增亏减
瑞财经吴文婷10月12日,滴普科技股份有限公司(以下简称“滴普科技”)通过港交所上市聆讯,中信证券、民银资本、国泰君安国际、浦银国际与交银国际担任联席保荐人。 这意味着,滴普科技有望成为港股市场“企业级大…

2025-10-15

端侧大模型落地:挑战重重,未来端云协同将如何破局前行?
跑的快:端侧 AI 的核心价值在于隐私保护和低时延,在大模型场景,为了在端侧为开发者提供快速的大模型响应体验,我 们 CANN提供的亲和量化算法提供了混合 bit 量化能力可以充分利用好 NPU 的算力…

2025-10-15

OpenAI与英伟达、AMD合作后再携手博通,共探定制AI加速器新路径
OpenAI和他们合作的10吉瓦定制AI加速器,将由OpenAI设计加速器和系统,两家公司则会在开发和部署上进行合作。 1、本号不对发布的任何信息的可用性、准确性、时效性、有效性或完整性作出声明或保证,并在此…

2025-10-15

OpenAI密集布局算力领域,牵手英伟达、AMD、博通共筑26吉瓦算力蓝图
作为全球领先的人工智能企业,OpenAI近期在不到一个月的时间内,连续披露了三项规模空前的硬件合作:与博通(Broadcom)共同研发10吉瓦定制AI加速器;与英伟达(NVIDIA)签署最高1000亿美元的…

2025-10-15

2025世界农业科技创新大会启幕,神农大模型3.0与农业中关村2.0引领农业新未来
2023年,世界农业科技创新大会成功举行,渐渐变成重要农业盛会,是农业领域较具影响力的活动,一直秉持“创新农业,共享未来”的宗旨全力推进全球农业创新发展。 2025全球农业科技创新大会展现出农业科技的风采与…

2025-10-15

苹果在欧洲五国布局清洁能源项目,助力iPhone、Mac充电用上绿色电
10 月 14 日消息,科技媒体 Appleinsider 今天(10 月 14 日)发布博文,报道称苹果宣布在欧洲五国(希腊、意大利、拉脱维亚、波兰和罗马尼亚)启动新的可再生能源项目,计划未来数年内为欧洲电…

2025-10-15

英伟达黄仁勋赴星舰基地:亲手将首台DGX Spark交付马斯克
此次交接承载着对超级计算机起源的致敬——早在2016年,马斯克所在团队就曾从黄仁勋手中接收了首台NVIDIA DGX-1超级计算机。 另据媒体综合报道,今天星舰第十一飞圆满收官,没想到,英伟达创始人黄仁勋…

2025-10-15

芯片领域新动态:甲骨文携手AMD布局AI,英伟达市场地位受挑战?
今年来,OpenAI先后主导了与英伟达、AMD、甲骨文、博通等巨头的一系列数额巨大的订单,并计划启动一系列大规模AI基础建设项目。 因为需要尽可能多的计算能力,日前OpenAI又与博通达成了部署AI芯片的订…

2025-10-15