ITBEAR科技资讯
网站首页 科技资讯 财经资讯 分享好友

德国开源大模型Soofi S发布:架构创新数据优化,引领欧洲AI新发展

时间:2026-07-14 12:24:29来源:互联网编辑:快讯

欧洲在主权人工智能领域迈出关键一步,德国人工智能协会牵头的研究联盟近日宣布推出开源大语言模型Soofi S30B-A3B。这款具备316亿参数的模型通过创新架构设计,在保持高性能的同时显著降低计算成本,为开源社区提供了兼具效率与灵活性的新选择。

模型核心突破在于"混合专家"架构的深度优化。研发团队将Mamba-2架构与标准注意力机制相结合,使得每个token处理仅需激活约32亿参数。这种设计使模型在长文本处理场景中展现独特优势:在4万token上下文环境下,其生成吞吐量达到传统稠密模型的8倍,且随着文本长度增加仍能维持稳定性能。实验数据显示,该架构使模型计算效率接近小型模型水平,同时保持了百亿级参数模型的复杂任务处理能力。

针对欧洲语言特性,研究团队在训练数据策略上实施精准调控。通过两阶段训练将德语数据占比从7.2%提升至15.3%,并构建包含报纸、百科全书及专业文献的多元化语料库。这种数据配置使模型在德语技术文档解析、区域知识问答等任务中表现突出,同时在英语场景下仍保持竞争力。基准测试表明,Soofi S在代码生成、专业推理等维度超越OLMo332B和Apertus70B等同类模型。

支撑这项突破的是强大的算力基础设施。整个训练过程依托慕尼黑德国电信工业人工智能云完成,动用512块Nvidia B200GPU集群。作为欧洲IPCEI-CIS项目的重要组成部分,该模型训练全程使用可再生能源,践行了绿色AI的发展理念。研究团队同步开源模型权重、训练评估代码及详细数据清单,为工业界提供完整的技术验证框架。

尽管在超长上下文信息提取和德语数学推理方面仍有提升空间,但Soofi S已展现出显著的应用潜力。目前研发团队正与多家企业开展合作,重点探索技术文档自动化处理、多语言代码生成等场景。这种产学研协同模式不仅加速了模型优化进程,也为欧洲建立自主可控的AI技术生态提供了实践范本。

更多热门内容
曙光8000(登峰)落成:国内首个全国产十万卡AI超集群接入国家超算网
整套集群实现芯片、计算、存储、网络、散热、应用、服务全链路自主可控:底层依托海光国产芯片提供算力支撑;自研scaleFabric类IB原生RDMA高速网络,保障十万卡节点稳定高速互联;ParaStor分布式…

2026-07-14