字节跳动正酝酿一场大模型领域的“豪赌”。据可靠消息,该公司内部正在讨论训练一个参数规模超过5万亿的模型,这一数字不仅远超国内同行——阿里的Qwen 3.8-Max(2.4万亿参数)和月之暗面的K3(2.8万亿参数),甚至接近国际巨头规划的下一代模型规模。若计划落地,这将成为国内参数规模最大的AI模型。尽管项目仍处于早期阶段,最终能否发布尚未确定,但字节的野心已显露无遗。
这一战略决策的背后,是Seed团队近半年来的焦虑与反思。作为字节大模型研发的核心力量,Seed曾凭借豆包大模型积累超2亿日活用户,但今年2月推出的Seed 2.0语言模型市场反响平平。与此同时,智谱开源的GLM-5被视为国内首个能与Anthropic Opus系列媲美的模型,月之暗面的Kimi K3更在多项评测中接近海外闭源旗舰水平。面对竞争对手的步步紧逼,Seed团队意识到,在现有尺寸上追赶已难突围,唯有将参数规模直接推至行业数倍,才可能实现弯道超车。
新模型的研发由Seed Foundation负责人项亮主导,大语言模型预训练数据负责人沈科协助。两人均出自字节“搜广推”体系,拥有深厚的技术背景:项亮本科毕业于中国科学技术大学,博士就读于中科院自动化所,2016年加入字节后曾负责机器学习中台AML团队;沈科2018年清华毕业后加入字节,现主导LLM预训练数据工作。为推进项目,Seed正在重新梳理组织架构,明确职责分工,并调配大量资源支持。
字节创始人张一鸣对这一战略给予了直接支持。两周前,他与Seed负责人吴永辉共同召开全员会,安抚团队情绪并明确方向。他坦言,训练大模型本就是高难度任务,短期内落后行业并非不可接受,关键是要以追求智能上限为目标,力争跻身世界第一梯队。针对当前热门的编程(Coding)方向,张一鸣认为应整合火山引擎、飞书和豆包的资源,构建算力和数据优势,但同时提醒团队不要被热点牵制,需关注更广阔的机会。他还特别表扬了Seedance模型的技术独特性,鼓励团队走出自己的路,而非简单追随领先者。
在技术路线上,张一鸣明确反对“模型蒸馏”——即通过压缩大模型生成小模型的方式快速提升性能。他认为,这种方法虽能短期改善表现,但本质是复制他人能力,难以实现真正超越。他希望Seed从更底层的技术维度构建AGI壁垒,而非依赖捷径。这一立场与字节过去半年的技术探索密切相关:尽管内部曾激烈讨论蒸馏的可行性,但高层始终担忧其可能对技术积累造成损害。
Seed的焦虑源于多模态与语言模型发展的失衡。过去半年,其视频生成模型Seedance2.0和图片生成模型Seedream 5.0 Lite表现亮眼,成为火山引擎MaaS业务营收的主力。但同期发布的Seed 2.0语言模型却未能掀起波澜。春节期间,Anthropic凭借Opus系列的Coding能力迅速打开程序员和B端市场,ARR反超OpenAI;国内智谱和月之暗面的模型也在此领域领先。火山引擎作为国内最大的模型API供应商,市场份额虽占一半,但语言模型token消耗占比不高,二季度以来因短剧行业增长放缓和经济环境变化,Seedance的token消耗和收入增速下滑,影响了整体目标达成。
为补足Coding短板,字节采取了一系列激进措施:张一鸣亲自邀请DeepSeek核心研究员郭达雅加入Seed,负责专项训练;整合Coding相关研发资源,统一划归其管理;阿里千问基模团队也同步加大投入。与此同时,字节继续坚持“大力出奇迹”的策略——在AI领域投入最多算力、招聘最多顶尖人才、探索最多业务方向。这种模式在其发展历程中屡试不爽:从2012年同时推出13款应用,到2016年三路齐发短视频产品,再到游戏和教育业务的“广撒网”,字节总能在多个项目中筛选出最终的成功者。
Seedance的成功为这一策略提供了最新注脚。当行业普遍认为传统DiT架构(扩散式Transformer)在视频生成领域的提升空间有限时,Seedance团队反其道而行之,投入更多资金和算力优化预训练。经过近一年努力,其2.0版本成为全球首个完整采用MoE架构的视频模型,参数达2000亿,上线后迅速被公认为性能最强。如今,字节希望在语言模型领域复制这一路径:尽管面临系统工程复杂度激增、数据处理量级跃升等挑战,但公司高层正推动取消内部赛马机制,集中资源攻坚关键方向。
“字节的文化可能不适合创新,但非常擅于解题。”一位前Seed团队成员如此评价。从Seedance突破视频生成瓶颈,到如今押注超大规模语言模型,字节始终在寻找用资源堆砌解决技术难题的路径。这场关于5万亿参数模型的豪赌能否成功,尚需时间验证,但可以确定的是,字节已将所有筹码押在了“大力出奇迹”的牌桌上。