ITBEAR科技资讯
网站首页 科技资讯 财经资讯 分享好友

字节押注超5万亿参数大模型:张一鸣力挺创新,拒绝蒸馏与短期热点裹挟

时间:2026-08-07 13:00:48来源:快讯编辑:快讯

字节跳动正酝酿一场人工智能领域的豪赌。据多方消息,这家科技巨头正在讨论训练一个参数规模超过5万亿的超大模型,远超国内现有最大模型阿里的Qwen 3.8-Max(2.4万亿参数)和月之暗面的K3(2.8万亿参数)。这一计划若付诸实施,将使字节跳动在国内大模型竞争中占据先机,但目前仍处于早期论证阶段,能否最终落地尚未可知。

新模型将由Seed Foundation负责人项亮牵头,与大语言模型预训练数据负责人沈科共同推进。为确保项目顺利实施,Seed正在进行组织架构调整,重新划分职责并调配资源。项亮和沈科均为字节跳动人工智能领域的核心人物,均出身于字节的"搜广推"体系。项亮拥有中科院自动化所博士学位,2016年加入字节后曾负责机器学习中台AML团队;沈科则是清华大学2018届毕业生,现主导LLM预训练数据工作。

自进军大模型领域以来,Seed团队一直被视为国内最具潜力的团队之一。豆包App日活突破2亿的成就,很大程度上归功于Seed的技术支撑。然而今年以来,团队面临前所未有的压力。2月中旬推出的Seed 2.0模型市场反响平平,而同期智谱开源的GLM-5被认为达到国际领先水平,月之暗面7月发布的Kimi K3更是在多项评测中接近海外闭源旗舰模型。

面对竞争压力,字节跳动创始人张一鸣两周前亲自出席Seed全员会,为团队注入强心剂。他承认训练大模型的难度,表示可接受短期落后,但要求团队以追求智能上限为目标,力争跻身世界第一梯队。张一鸣特别强调编程方向的重要性,决定整合火山引擎、飞书和豆包的资源形成合力。同时他提醒团队,编程只是当前热点,不应忽视其他潜在机会。

在技术路线选择上,张一鸣明确反对模型蒸馏策略。他认为这种做法虽能快速提升表现,但本质上是在复制已有能力,难以实现真正超越。他鼓励团队从更底层维度构建AGI壁垒,这一观点与字节高层对蒸馏路线的担忧不谋而合。尽管不采用蒸馏可能意味着短期技术落后,但字节仍坚持自主创新道路。

为弥补编程能力短板,张一鸣亲自出面邀请DeepSeek核心研究员郭达雅加盟,负责专项训练工作。字节将所有相关研发资源划归郭达雅统筹,同时阿里千问团队也加大在这方面的投入。在数据获取方面,字节计划通过推动内部业务线使用自研模型来积累真实场景反馈数据,但高层认识到这仍不足以满足需求。

字节跳动的AI战略延续了其"大力出奇迹"的传统。公司成立之初就同时推出13个应用,最终内涵段子和今日头条脱颖而出;短视频领域通过"火山""抖音""西瓜"三路并进实现突破。这种多团队并行、海量资源投入的模式,在游戏和教育业务中也得到延续。在AI领域,字节同样展现出决绝姿态——资本开支、算力储备和人才招聘均居行业前列。

面对行业共识的大模型尺寸竞赛,字节选择迎难而上。尽管视频生成模型Seedance2.0已通过极致预训练(采用MoE架构,参数达2000亿)证明这种策略的有效性,但语言模型领域面临更大挑战。更大参数不仅需要算法创新,还涉及系统工程、数据管理和跨部门协作等复杂问题。为此,字节正在内部推动资源整合,打破部门壁垒,尝试建立更高效的协作机制。

有观察人士指出,字节的文化或许不完全适合颠覆性创新,但在解决明确技术难题方面表现突出。Seedance的成功印证了这一点——通过集中资源攻克预训练难题,该模型上线后迅速成为全球性能最强的视频生成工具。现在,字节希望用同样的方法在大语言模型领域实现突破,尽管这条道路充满不确定性。

更多热门内容
AI存储新变革:从“堆算力”到“协同数据路径”的存储范式升级
更值得AI SSD产业关注的是,Mooncake当前官方文档已经把DRAM与SSD/NVMe明确纳入多级缓存,并给出从内存向本地SSD卸载的路径,即将从内存淘汰的对象可在后台进入SSD,内存未命中时再从SS…

2026-08-07

17岁少年陈广宇:从普通好奇少年到AI前沿技术论文共同第一作者
2025年5月,陈广宇在个人社交账号上分享了自己关于DeltaNet的博客,这是一篇关于线性注意力机制的技术分析,那是他花费数小时的钻研成果。陈广宇后来在社交平台回忆,Tilde 正在进行的项目让他感到兴奋,…

2026-08-07

电子邮箱靓号现天价交易,80万标价背后是何市场逻辑?
稀缺属性、身份需求、文化心理、投资价值对于手机靓号都是锦上添花,而手机号在国内实际上还承担着“网络身份证”这一作用,才是靓号值钱的根源。 电子邮箱的架构与互联网完全一致,都是使用通用标准、开源的通讯协议,与即…

2026-08-07

中端机市场激战正酣:vivo S60与OPPO Reno16领跑,荣耀小米能否逆袭?
从现在的情况看涨价不仅影响到了中低端机型,而且也影响到了旗舰机型。反而是中端或者次旗舰影响不是很大,因为这些定位很准确的机型目前周销量都不错。看这个销量大家就知道如此定位的机型,还得看vivo与OPPO的,懂…

2026-08-07

AMD收购Taalas强化AI推理竞争力 芯片蚀刻技术或重塑行业格局
以单芯片200亿参数计算,仅需50颗加速器即可支持万亿参数级别的大模型,而AMD恰好拥有机架级计算平台和内部系统设计团队来满足这一需求。这笔交易被视为AMD挑战英伟达在AI硬件领域主导地位的最新举措,与英伟达…

2026-08-07

博主再爆料!小米18标准版或沿用左上角方形镜头模组 配置升级引期待
作为对比,去年发布的小米 17标准版手机便采用了左上角方形 Deco 设计,不过镜头为对称排列。小米 17 标准版为经典直屏设计,采用19.6:9 全新比例、超大 R 角设计,机身为同色玻璃镜组,搭配四微…

2026-08-07

ThinkBook Aeroblade宣传图流出 极薄设计或成联想ThinkBook系列新标杆
名称方面,该媒体指出在宣传图片中出现了“Aeroblade”这个关键词,而在联想现有产品线中,此前并未出现 Aeroblade相关名称,预估会是内部代码或者全新产品系列。 外观方面,Aeroblade 延…

2026-08-07

谷歌1500万数据实探:AI未夺饭碗,反成打工人“琐事救星”?
一、 浅层渗透与“杠杆”真相:AI到底介入了我们工作的哪一部分? 图1:AI在美国职业与每日工作任务中的渗透梯度(数据来源:GoogleATLAS v1.0) 如图1所示,尽管68%的职业在工作中用上了A…

2026-08-07

从文本到视频:中国AI以开源之力,为全球发展注入新动能与新选择
用户还可以同时输入图片、视频和音频作为参考素材,让模型在一套系统内完成从画面生成到声音匹配的完整流程,而过去这通常需要在多个模型和软件之间反复切换。 DeepSeek证明了高性能、低成本与开源权重可以同时成…

2026-08-07

17岁深圳少年陈广宇:从普通好奇少年到AI核心架构贡献者之路
2025年5月,陈广宇在个人社交账号上分享了自己关于DeltaNet的博客,这是一篇关于线性注意力机制的技术分析,那是他花费数小时的钻研成果。陈广宇后来在社交平台回忆,Tilde 正在进行的项目让他感到兴奋,…

2026-08-07