ITBEAR科技资讯
网站首页 科技资讯 财经资讯 分享好友

字节跳动单设大模型安全部门:给狂奔的智能体套上对齐的缰绳

时间:2026-10-13 16:01:31来源:CHINAZ编辑:快讯

字节跳动正在给自家的大模型系上一根更结实的缰绳。10月13日,其 AI 模型部门 Seed 对内发出通知,决定单独成立一个新部门,专门负责把控大模型的安全风险。这个新部门来头不小——它的一把手不再层层汇报,而是直接越过中间层级,向字节跳动大模型的"一号位"吴永辉本人汇报,足见这件事在公司内部的权重。

新部门被命名为"Seed Model - Alignment & Preparedness",由严林挂帅。严林是字节 Seed 团队的核心高管之一,过去几年一直把守着豆包大模型"对齐"(Alignment)这道关。字节对外解释,设立这个部门的初衷,是要在安全与对齐方向上砸下更重的投入。所谓"对齐",说白了就是让模型的所作所为始终贴着人类的真实意图和安全边界走,别自己跑偏;落到产品层面,你能在豆包这类聊天机器人的回答合规性、问答质量,乃至价值观取向上,直接感受到它的存在。

这根缰绳要勒住的不只是闲聊时的失言。字节把提升 Agent Model(智能体模型)的安全能力写进了部门目标,更明确把防范 CBRN——也就是化学、生物、放射、核这类最危险的前沿能力——列为重点盯防对象。当智能体越来越能自己调用工具、自己完成长链条任务,它潜在的破坏半径也在同步放大,给这样的系统单独配一支"安全卫士"队伍,等于在模型真正学会独立行动之前,先把刹车和方向盘都攥在人手里。

更多热门内容
零跑首款欧洲量产车本周下线,未来海外本地生产占比将超40%
零跑汽车全球化布局迎来关键节点。据财联社报道,依托Stellantis西班牙萨拉戈萨工厂,零跑B10车型将于本周实现本地化下线,这是零跑首款在欧洲量产的车型,也标志着零跑正式从产品出口迈入本地化制造阶段。按照规划,萨拉戈萨工厂2026年预计生产9000辆B10,覆盖西班牙、

2026-10-13

踏板断裂风波后,尊界V800公布第三方检测结果
10月13日,针对制动踏板争议,尊界汽车发布《尊界V800制动踏板检测情况说明》,公布第三方检测结果显示其制动踏板符合行业标准,加严检验后亦未出现裂纹和损坏。根据说明内容,2026年10月11日,国家认可的第三方检测机构对尊界V800制动踏板进行检验。结果显示,车辆符合

2026-10-13