蔚来一句“爸爸我爱你”被判违规!性别对立,真是系统Bug惹的祸?

蔚来一句“爸爸我爱你”被判违规!性别对立,真是系统Bug惹的祸?

最近,蔚来摊上了一件挺离谱的事。

一位蔚来ES9车主,想在女儿十岁生日这天,用车上的灯光秀投影一句“爸爸我爱你”,给孩子制造一点仪式感。

结果,系统直接弹出提示,内容违规!

女儿写不行,爸爸亲自写也不行。最后妻子提议,要不换成“妈妈我爱你”试试?

嘿!这回居然通过了。

同样一句“我爱你”,前面加上妈妈就能通过,换成爸爸就违规。你说,这让当爸爸的怎么想?

事情传到网上,网友们一下炸了锅。有人怀疑蔚来是不是在搞性别歧视,还有人直接跑到李斌微博下面质问,甚至把矛头指向了负责这项功能的女性产品经理。

图片

一场原本挺温馨的生日惊喜,就这么变成了一场围绕性别对立的舆论风波。

直到11月18日,蔚来副总裁马麟出面回应,才给出了官方解释。

原来是系统把“爱”字识别成了其他字,误触发了内容限制。蔚来也承认原来的限制策略不合理,目前已经完成修复。

听到这里,你可能觉得这事儿算是水落石出了。

可我觉得,事情还没这么简单。

一次技术故障,为什么偏偏踩中了性别对立这颗雷?蔚来的解释,又真的把所有疑问都讲清楚了吗?

先说技术原因。

根据某汽车媒体对蔚来内部人士的采访,车机的灯光涂鸦功能需要先识别用户手写的文字,再由云端进行内容审核。

问题恰恰出在第一步。

系统可能把“爱”识别成了“受”,随后错误识别的文字组合又触发了敏感词拦截,于是原本正常的祝福语就被判定违规。

乍一听,这个解释确实说得通。

毕竟手写识别出现错字,并不是什么稀罕事。更何况车机的涂鸦画板,本身也不一定具备专业手写输入法的识别精度。

图片

但问题来了。

为什么“爸爸我爱你”连续被拦截,“妈妈我爱你”却可以通过?

按照蔚来的解释,问题出在文字识别和内容审核。可为什么两句话会得到不同的结果,公开回应并没有把具体识别过程完整展示出来。

一种可能是两次手写笔迹不同,系统识别结果也不同。另一种可能是错字与前后文字组合之后,恰好触发了某条敏感词规则。

这些都有技术上的可能性。

图片

可消费者既看不到系统究竟识别出了什么字,也不知道自己触犯了哪条规则。

车主明明写的是一句再正常不过的祝福,系统却只冷冰冰地告诉他违规。

换你是车主,你会怎么想?

偏偏“爸爸”不行,“妈妈”就行。这时候怀疑系统是不是在区别对待男性,实在不难理解。

所以我觉得蔚来这次最大的问题,恐怕并不是认错了一个字,而是它把机器的错误,变成了对用户的否定。

如果系统提示的是“文字识别失败,请重新输入”,车主可能重新写一遍就过去了。

可它偏偏告诉你“违规”。

这两个字的分量可不一样。

前者是机器承认自己没看懂,后者听起来却像是在说,你写的东西有问题。

图片

更别说这次被拦下的还是一句“爸爸我爱你”。

你让一个爸爸怎么理解?难道当爸爸的连表达父爱都不被允许了?

所以网友提出质,我觉得一点都不奇怪。至于蔚来是不是真的在搞性别歧视,目前并没有证据能够支持这样的结论。

同样,官方给出了技术解释,也不代表所有疑问就自动消失了。

这里还有个问题,究竟是谁决定哪些文字可以通过,哪些文字必须被拦截?

有友媒采访了蔚来产品体验相关负责人,对方透露,蔚来的敏感词库由第三方内容安全服务商维护,并非某个产品经理想屏蔽什么就能屏蔽什么。

这也回应了网上另一个争议。

因为蔚来此前介绍过,这项功能的产品经理是一位刚毕业的女性应届生,有些网友就顺着这个信息,认定是她故意夹带私货,针对男性用户。

说实话,这个推论有点离谱。

一套汽车功能要经过产品开发、技术实现、测试审核等多个环节,仅凭产品经理是女性,就认定她故意针对爸爸们,多少有点欲加之罪的意思。

但另一边,蔚来也别急着把锅甩给第三方。

敏感词库可以是别人提供的,车总归是你蔚来卖的吧?

用户买的是蔚来的汽车,用的是蔚来的功能,出了问题当然应该找蔚来。

图片

如果手写识别不够准确,内容审核经常误伤,用户连申诉和纠错的机会都没有,这些问题难道不应该由蔚来自己解决?

更何况,蔚来现在已经表示问题修复了。

那究竟修复了什么?

是提高了文字识别准确率,还是修改了敏感词过滤规则?以后遇到类似情况,会不会继续把普通文字判成违规?

这些问题,目前的公开解释还没有说透。

如果只是调整了某一条过滤规则,让“爸爸我爱你”能够正常显示,那我们不禁要问,下次换成别的句子,是不是还得再闹上一次热搜?

这才是我觉得蔚来应该好好反思的地方。

当然,整件事还有一个绕不开的背景,就是当下互联网越来越敏感的性别对立情绪。

想想看,如果这次被拦截的是一句普通的生日祝福,估计没多少人会关注。

可偏偏是“爸爸我爱你”不行,“妈妈我爱你”却能通过。

这样的反差,几乎精准踩中了今天互联网上最容易吵起来的话题之一。

这些年,男女之间的争论已经从婚恋、生育、家庭分工,一路蔓延到了各种日常生活场景。

一个广告、一句台词,甚至一张海报,都可能被拿来讨论有没有歧视男性或者女性。

大家对性别差异越来越敏感,很多时候只要出现一点区别对待的迹象,情绪就先上来了。

这次蔚来恰好撞上了这个枪口。

特别是事件中的爸爸,只是想给女儿过生日。

一个父亲表达对孩子的爱,居然被系统告知违规。换谁看了,恐怕都会觉得哪里不对劲。

所以,我完全理解网友最初的愤怒和质疑。

图片

但质疑是一回事,直接给蔚来扣上性别歧视的帽子,又是另一回事。

尤其是一些网友,已经不关心技术原因是什么,只因为产品经理是女性,就把责任算到了她头上,甚至跑去李斌的微博下面谩骂。

这就有点跑偏了。

你可以要求蔚来解释清楚,也可以批评它的产品做得不好,但不能因为一次系统误判,就认定背后一定有人在故意挑起男女对立。

反过来说,蔚来也不能觉得网友太敏感。

系统给不出技术上的解释,网友就开始寻找价值观上的解释。

当用户看不到识别过程,也不知道为什么被拦截,偏偏又遇到了“爸爸不行,妈妈可以”的结果,性别歧视自然就成了最容易传播的猜测。

说到底,这场风波既暴露了智能汽车的产品设计问题,也让我们看到了今天互联网性别议题有多敏感。

现在的智能汽车,越来越喜欢讲情绪价值。

车灯能投影、车机能聊天、AI还能识别用户情绪,车企恨不得把一台汽车变成最懂你的伙伴。

可当用户想用这些功能表达感情时,系统却连一句“爸爸我爱你”都可能识别错误,甚至直接判定违规。

这情绪价值,岂不是成了情绪伤害?

技术难免出错,但至少应该让用户知道错在哪里,怎么纠正。尤其当汽车开始拥有审核和拒绝用户操作的权限时,更不能让用户对着一句“内容违规”干瞪眼。

回头看这场风波,目前并没有证据表明蔚来故意针对男性,但蔚来确实应该为产品误判负责。

网友也该想想,我们究竟是在追问一次产品故障,还是急着给另一种性别定罪?

机器认错一个字,可以通过技术手段修复。可如果大家习惯了把每一次涉及男女差异的问题,都先解释成某一方的恶意,那性别对立恐怕只会越吵越凶。

一个爸爸想告诉女儿“我爱你”,本来是再正常不过的一件小事。

希望下次蔚来的车灯能准确识别这句话,也希望大家别忘了,这五个字原本想表达的是什么。

原创内容,转载需授权