ITBEAR科技资讯
网站首页 科技资讯 财经资讯 分享好友

安全枷锁下的最强AI:Claude Fable 5 为何连基础生物题也答不上?

时间:2026-06-11 15:09:31来源:CHINAZ编辑:快讯

Anthropic 近日正式发布了其最新一代人工智能模型Claude Fable5。作为公司目前面向大众开放的最强 AI,它在生物学、网络安全等领域的潜力备受期待。然而,这款模型在实际使用中却表现出一种“选择性失忆”:即便面对高中水平的基础生物学问题,它也往往拒绝回答,并主动将请求转接给其前代旗舰模型Claude Opus4.8。

这种现象并非源于模型能力的缺失,而是 Anthropic 出于极高安全标准所做的刻意限制。作为Mythos级模型,Claude Fable5具备极强的高阶任务处理能力,同时也伴随着显著的滥用风险。在开发与上线过程中,Anthropic 将生物学领域视为安全红线的重中之重,其防护策略甚至到了“矫枉过正”的地步。

在实际测试中,这种保守策略的副作用显而易见。无论是关于细胞线粒体功能的科普、花粉症成因的探讨,还是哮喘药物原理等无害医学常识,Claude Fable5均予以驳回。甚至连埃博拉病毒这类公共卫生相关话题,也触发了其屏蔽机制。这种“无差别拦截”导致原本具备学术价值和科普意义的交流被迫中断。

Anthropic 对此回应称,此举核心目的是为了防范恶意用户利用先进 AI 从事高风险生物研究,例如开发生物武器。公司发言人帕鲁尔・马赫什瓦里表示,为了让模型能够尽早上线,团队选择了极端保守的防护路线,并承认目前存在较多的识别误判。

对比来看,Claude Fable5在化学与网络安全领域的限制则显得更加灵活。虽然它会拒绝提供炸药制造工艺或炭疽杆菌培养方式等危险信息,但对于氯气用途、密码安全及物理学原理等中性技术问题,模型能够正常作答。只有在涉及剧毒物质等极端场景时,它才会调用上一代模型进行辅助处理。

目前,Anthropic 正致力于优化识别机制以减少误判,并计划在未来针对生物医学领域的专业用户,推出能够解锁这些限制的特定版本,旨在平衡科研效率与社会安全。这一“受限发布”模式,或许正是当前顶尖 AI 模型在追求强大性能与严苛安全之间寻找平衡的一个缩影。

更多热门内容
《“AI+钢铁”白皮书发布:宝信宝钢携手勾勒钢铁行业智能化转型新蓝图》
会上,由中国钢铁工业协会指导、宝信软件携手宝钢股份联合编制的《“AI+钢铁”白皮书——以AI重新定义钢铁(2026)》(以下简称“白皮书”)正式发布。2025年2月,中国宝武全面启动“2526”工程,将“人工…

2026-07-20

2026世界人工智能大会:首发技术闪耀,创新成果引领AI新未来
正在上海举行的2026世界人工智能大会上,多项重要举措和创新成果公布。《中国智·惠世界(2026)》案例集收录了我国在人工智能领域开展国际合作的10个生动故事。此外,《国际人工智能伦理治理行动计划》《智能体…

2026-07-20

2026世界人工智能大会:具身进阶、兴业赋能、善治护航 共绘AI新蓝图
文章称,千余家企业携3000余项前沿成果集中亮相,超300款新品首发落地……2026世界人工智能大会暨人工智能全球治理高级别会议(WAIC2026)立足前沿技术、产业落地与AI治理多重维度,清晰勾勒出具身、…

2026-07-20

海尔智家承建全国首个家居家电领域AI应用中试基地 推动AI走进千家万户
IT之家 7 月 20 日消息,2026 世界人工智能大会暨人工智能全球治理高级别会议(WAIC)于 7 月 17日在上海启幕。在当日下午举行的“人工智能 + 消费”主题论坛上,海尔集团高级副总裁、海尔智家…

2026-07-20

爱芯元智发布元曦系列新品,A系列AI推理卡超强算力助力企业AI高效落地
IT之家 7 月 20 日消息,爱芯元智 (AXERA) 在 WAIC 2026 上揭晓了其全新元曦系列大算力产品线。爱芯元智还带来了其具身智能大脑控制器。该产品拥有 1500TOPS 算力与约 2 倍行业…

2026-07-20

灵巧智能WAIC展实力:全栈自研打通链路,引领具身智能走向产业新篇
在此背景下,灵巧智能携全链路技术体系与多场景落地成果亮相WAIC,系统展示其在类人灵巧操作领域的全栈能力与产业化路径。 未来,灵巧智能将持续完善全栈技术底座,迭代国产化核心能力,并联动制造、能源等重点行业头部…

2026-07-20