ITBEAR科技资讯
网站首页 科技资讯 财经资讯 分享好友

Anthropic Fable安全护栏引争议:专业用户质疑“一刀切”限制过严

时间:2026-06-11 12:15:36来源:互联网编辑:快讯

人工智能公司Anthropic推出的新模型Fable近日在网络安全领域引发广泛讨论。这款被定位为高端安全模型Mythos“公共受限版”的产品,因内置的安全限制机制过于严格,导致专业用户在实际使用中遭遇诸多阻碍。多名研究人员指出,Fable对涉及网络安全内容的识别标准近乎苛刻,甚至将常规技术任务也纳入限制范围。

根据用户反馈,该模型的安全过滤系统会拦截绝大多数与网络安全相关的查询请求。IBM X-Force安全专家Valentina Palmiotti在测试中发现,当用户请求阅读技术博客文章时,系统会直接终止对话并提示“检测到网络安全或生物学相关内容”。这种过度敏感的过滤机制,使得模型在处理软件工程、代码优化等基础任务时也频繁触发安全限制。

Mythos模型自今年春季推出以来,始终采用定向开放策略。通过“Project Glasswing”计划,Anthropic仅向特定企业和机构提供服务,重点支持关键基础设施防护。近期该公司将服务范围扩展至15个国家的数百家机构,试图推动高阶安全模型在能源、金融等领域的落地应用。然而Fable作为面向公众的简化版本,其安全策略却引发专业群体强烈质疑。

网络安全从业者Matt Suiche分析指出,Fable的判断逻辑存在明显缺陷。当用户提出“编写安全代码”这类常规需求时,系统会将其归类为网络安全操作而非软件工程实践,从而自动切换至基础模型 Claude Opus 4.8。这种依赖关键词匹配的过滤方式,导致大量合法请求被错误拦截,严重影响了模型在专业场景中的实用性。

尽管存在诸多争议,部分专家对Anthropic的保守策略表示理解。Suiche认为,在模型发展初期设置严格的安全阈值,有助于降低技术滥用风险。他预测随着与专业安全机构的合作深化,这些限制机制将逐步优化调整。这种“先紧后松”的管控模式,相比初期放任可能带来的风险更具可控性。

社交媒体上的讨论显示,Fable的过滤机制已影响多项核心功能。有研究人员尝试进行代码审查时触发安全警报,另有用户在Reddit社区反馈,安全审计、漏洞分析等关键任务均被系统拒绝。截至目前,Anthropic尚未就这些技术反馈作出公开回应。

为平衡功能开放与风险管控,Anthropic同步推出了“网络安全验证计划”。通过该认证的用户可获得更宽松的使用权限,在特定条件下解除部分限制。这种双轨制策略与OpenAI的“Trusted Access for Cyber”项目形成呼应,反映出AI企业在赋能网络安全领域时,普遍采用技术过滤与人工审核相结合的管控模式。

更多热门内容
全球首款AI智能体手机努比亚NaviX Ultra配置揭晓,大电池多摄或成新亮点
IT之家 7 月 22 日消息,博主 @熊猫很禿然 今日曝光了全球首款 AI 智能体手机努比亚 NaviX Ultra 核心配置。 据称,努比亚NaviX Ultra 将搭载骁龙 8 Elite Gen5 …

2026-07-23

引力一号东海首飞成功!海阳航天港迈向国际一流商业发射母港新征程
7月22日10时54分,由烟台海阳东方航天港总装出厂的引力一号(遥四)运载火箭,搭乘“东方航天港”号发射船,在我国东海海域点火升空,将搭载的9颗卫星送入预定轨道,并同步开展1个载荷试验,发射任务取得圆满成功…

2026-07-23

引力一号遥四发射成功,东方空间商业化提速估值空间有望拓展
此次成功不仅验证了该型火箭持续执行商业任务的能力,也进一步证明海上移动发射模式在民营商业航天领域的应用价值。 此次任务是东方空间和引力一号首次执行远海发射任务,也是我国首次在长三角东海海域开展民营商业火箭海上…

2026-07-23

引力一号遥四一箭九星闪耀东海 上海商业航天“岸上造海上发”启新篇
此次任务不仅是引力一号运载火箭的第3次飞行,更实现了我国民营商业火箭在长三角东海海域海上发射“零的突破”,上海由此打通“岸上造、海上发”全链闭环。 上海商业航天海上发射技术有限公司成立,是上海构建商业航天协…

2026-07-23

引力一号远海首秀一箭九星!我国民营商业火箭拓展海上发射新版图
这是引力一号运载火箭首次执行远海发射任务,也是我国首次在长三角东海海域开展民营商业火箭海上发射任务。据悉,引力二号可重复使用大型液体运载火箭正在加速研制,目前在密集进行各类试验验证,其低轨运载能力将达21.5…

2026-07-23