一位父亲为女儿的生日准备了一个小惊喜,他想借助蔚来车机的灯光涂鸦功能,写下一句“爸爸我爱你”。
让一家人没想到的是,系统没有把这当成祝福,而是直接提示内容违规。女儿先写不行,父亲亲自写也不行。后来妻子提议,把“爸爸”换成“妈妈”再试,结果这次顺利通过。
同样的“我爱你”,前面加上妈妈就能通过,换成爸爸却被拦下,这个反差很快传到网上。有人怀疑系统是不是在区别对待男性,也有人跑到李斌微博下质问。还有人把矛头指向负责该功能的女性产品经理,认为她在故意针对男性用户。
直到11月18日,蔚来副总裁马麟出面回应,事情才出现官方解释。按照他的说法,系统把“爱”字识别成了其他字,误触发了内容限制。蔚来也承认原先的限制策略不合理,目前已经完成修复。
技术原因听起来并不复杂。有汽车媒体采访蔚来内部人士后提到,车机灯光涂鸦功能要先识别用户手写文字,再由云端审核内容。问题可能出在识别环节:系统把“爱”认成了“受”,错误组合又撞上敏感词规则,于是正常祝福被判定违规。
手写识别出现错字并不罕见,车机涂鸦画板的识别精度也未必比专业输入法更可靠。可疑问仍然存在:为什么“爸爸我爱你”连续被拦,“妈妈我爱你”却可以通过?公开回应没有完整展示两次识别和审核过程。
一种可能是两次笔迹不同,系统得到的结果不同;另一种可能是错字与前后文字组合后,恰好触发了某条规则。这些都能在技术上成立。但消费者看不到系统识别出了什么,也不知道自己踩中了哪条规则,只能收到一句冷冰冰的“内容违规”。
换作车主,很难不产生情绪。尤其是“爸爸”不行、“妈妈”可以摆在眼前,怀疑系统是否区别对待男性,并不难理解。所以蔚来这次真正需要面对的问题,不只是一次识别错误,而是机器误判被表达成了对用户的否定。
如果提示写成“文字识别失败,请重新输入”,车主大概率会重写一遍。可系统偏偏说“违规”。前者是机器承认自己没看懂,后者却像是在说用户写的内容有问题。被拦下的还是一句父亲对女儿的祝福,这层含义很容易被放大。
网上随后出现另一种争议。蔚来此前介绍过,该功能的产品经理是一位刚毕业的女性应届生。有人顺着这个信息,认定她故意夹带私货。这个推论并不扎实。一套汽车功能要经过产品开发、技术实现、测试审核等多个环节,仅凭产品经理的性别就下结论,说服力有限。
不过,蔚来也不宜把责任全部推给第三方。有媒体采访蔚来产品体验相关负责人称,敏感词库由第三方内容安全服务商维护,并非某个产品经理能随意决定。但用户买的是蔚来的车,使用的是蔚来的功能,出了问题自然首先找蔚来。敏感词库可以外包,产品责任不能外包。
更关键的是,蔚来表示问题已经修复,却没有说明修复了什么。是提高了文字识别准确率,还是只调整了某条敏感词过滤规则?如果只是让“爸爸我爱你”这一次能够通过,那下次遇到别的正常句子,是否还会再次触发误判?
这场风波绕不开当下互联网的性别议题。过去一些年,男女之间的争论从婚恋、生育、家庭分工,延伸到广告、台词、海报等各种日常场景。只要出现区别对待的迹象,情绪就容易先一步升温。爸爸不行、妈妈可以,恰好踩中了最容易引发争论的位置。
所以,网友最初的愤怒和质疑可以理解。一个父亲想给女儿过生日,表达爱意却被系统告知违规,谁看了都会觉得别扭。但理解质疑,不等于可以直接给蔚来扣上性别歧视的帽子。
有些讨论已经不再关心技术原因,只因为产品经理是女性,就把责任算到她头上,甚至跑到李斌微博下谩骂,这就偏离了问题本身。可以要求蔚来解释清楚,也可以批评产品做得不好,但不能凭一次系统误判,就认定背后一定有人故意挑起男女对立。
反过来看,蔚来也不能简单认为网友太敏感。系统给不出技术解释,用户就会去寻找价值观上的解释。当识别过程不透明,拦截原因不明确,结果又呈现出“爸爸不行、妈妈可以”的反差,性别歧视自然会成为最容易传播的猜测。
如今的智能汽车越来越强调情绪价值。车灯能投影,车机能聊天,AI还能识别情绪,车企希望汽车像伙伴一样懂用户。但当用户真正想表达感情时,系统却连一句“爸爸我爱你”都可能认错,甚至判为违规,情绪价值就可能变成情绪伤害。
技术难免出错,关键是让用户知道错在哪里,怎么纠正。尤其当汽车开始拥有审核和拒绝用户操作的权限时,更不能让用户对着一句“内容违规”无从申诉。目前没有证据表明蔚来故意针对男性,但蔚来确实应为产品误判负责。
网友同样需要想一想,自己是在追问一次产品故障,还是急于给另一种性别定罪。机器认错一个字,可以通过技术修复。若每次涉及男女差异,都被优先解释成某一方的恶意,性别对立只会越吵越凶。
一个爸爸想告诉女儿“我爱你”,原本只是一件再普通不过的小事。这五个字想表达的,也只是父亲对女儿的爱。
