游戏我和我得到男宠们首页
游戏传奇首页
游戏我的天下首页
最好看的新闻,最实用的信息
07月25日 10.1°C-12.6°C
澳元 : 人民币=4.77
悉尼

人类虚拟助手如何“学习”对付骚扰和言语辱骂(组图)

1个月前 来源: BBC中文网 原文链接 评论0条

就在最近,你甚至还可以辱骂Bia,用侮辱性语言叫她,而她只能温顺地回答:“我不明白,你能再说一遍吗?”

_118628006_whatsubject.jpg,0

但现在如果对巴西布拉德斯科银行(Bradesco bank)的虚拟助理使用这种语言,对方可能会更坚定地回答:“这些话不能对我或任何人说。”

她还会语气更强硬地说:“这对你来说可能是个笑话,但对我来说,这是暴力。”

去年,布拉德斯科银行在其人工智能系统上发现了9.5万条包含虐待或性骚扰的信息。该银行之后采取了行动。

他们的质控团队整理了这些有冒犯性语言,结果发现,最温和的是要求对方裸体。但也有些太过粗俗的语言,公司不愿透露。

该公司执行董事佩蒂科夫(Glaucimar Peticov)告诉BBC:“言语非常粗鲁,我没法重复给你听。”

。图像来源,BRADESCO

还不清楚为何有人对虚拟助理使用这样的语言,但佩蒂科夫称,性爱信息“完全不该出现”,“这毫无疑问,就是一种骚扰“。

为了应对这类攻击,Bia的软件脚本得到了更新,迫使客户用更尊重的语言来称呼她,才能继续工作。

佩蒂科夫表示,新的回应“不那么顺从和被动”,是为了“教育”客户,鼓励他们“反思”性别歧视态度。

“反映现实生活”

布拉德斯科银行在电视广告中宣传了公司的举动,当机器人改变态度时,女演员看起来更有力量。

其他巴西大型企业也承诺效仿这一举动,包括化妆品公司、制造业,以及公用事业和服务提供商。

陆(Lu)是零售巨头杂志Luiza的语音助理,她不仅能对口头冒犯做出坚定回答,而且安装了“紧急按钮”,让女性在遇到家庭暴力时谨慎地提醒当局。

在真人团队的帮助下,她成了社交媒体上有影响力的语音助理,拥有数百万粉丝,经常和他们谈论性别问题。这个团队负责管理她的社交媒体互动。

零售巨头杂志Luiza的语音助理陆(Lu)
零售巨头杂志Luiza的语音助理陆(Lu)

但不是所有人都认为根据这个原因调整人工智能系统是有意义的,因为虐待对象不是有感情的真人。

“我们为什么要折腾一个非人类的语音助手呢?因为这个问题反映了现实生活,”联合国教科文组织巴西分部的社会科学协调员伊恩(Fábio Eon)解释。

伊恩表示,言语虐待和性骚扰的背后是更大的问题。

去年,巴西报告了10.5万起针对妇女的暴力案件。由于仍有很多未报告案件,实际数字可能要高得多。

伊恩认为,现实世界和数字空间在人类行为方式上有所关联。

“从你在网上接受这些行为的那一刻起,这些行为就会在现实生活中被复制。”

女性机器人脸与人脸对比
女性机器人脸与人脸对比

联合国教科文组织2019年的一份报告批评了制造数字助理的公司,指责它们强化了性别刻板印象。在多数情况下,这些数字助理都是女性的声音。

该组织表示,苹果的Siri和亚马逊的Alexa等产品似乎“能够容忍男性的性挑逗,偶尔也会受到诱惑”,并称它们“未能鼓励或树立关于性爱或赞同性爱的健康沟通,更不用说坚持了”。

这两家全球科技巨头都采取了不对抗策略,并随后对Siri和Alexa做了更新。现在Siri会简单回答关于性爱的评论:“我不会回应这个问题”。

在此之前,她对性侮辱的回答是:“如果我能做到,我会脸红的。”

“你能想象这样的回答在现实生活中有多离奇吗?” 伊恩问道。

“习惯需要改变”

。图像来源,GETTY IMAGES

伊恩警告称,尽管采取了一些改进措施,但对人工智能的偏见依然存在。

他指出,Siri和Alexa(女性名字)可以帮我们做琐碎的事,比如播放音乐或打开灯,而巴西法院的人工智能系统能筛选成千上万份文件,他的名字叫维克多(Victor,男性名字)。

一些公司正在考虑在系统中使用无性别声音,以此来解决争议。

但佩蒂科夫表示,人工智能之所以使用女声,是因为她们的音高和音调变化能为客户创造更舒适的环境。因此,布拉德斯科银行没有计划取代Bia,或者假装问题不存在,她解释。

“但是习惯需要改变。这些互动行动实际反应了社会的现实。现在我们已经发现了这个问题,决心采取行动。”

“我妈一会儿跟你说”

一名女性客服
一名女性客服

从长远来看,公司正在考虑当客户虐待和性骚扰人类虚拟助理时该怎么做。

2017年,韩国GS加德士(GS Caltex)能源公司发起运动,帮助减少针对呼叫中心工作人员的虐待行为,上了头条新闻。

在顾客的电话转给助理接听之前,顾客会听到一段员工家人的录音,这段录音提醒,电话那头的人是有生命、有感情的人。

录音中有个男孩说:“我的妈妈是我在这个世界上最爱的人,她很快就会帮助你。”另一个男性的声音说:“我的善良、勤劳的女儿很快就会上线。”

发起这项活动的营销机构艾得夸互动(Adqua Interactive)称,GS加德士的员工后来报告称,54%的人觉得压力减轻了,25%的人说他们感到更受尊重了。

专注于数字教育的DQ研究所的首席执行官派克(Yuhyun Park)表示,在互动变得更加非人类化的世界里,人们越来越需要意识到这一点。

“公民需要更加文明的行为。当我们不能面对面见面时,就会遇到这种骚扰问题。即使在人工智能出现之前,人类也不是很友好地对待彼此。

“我们是社会的一部分,即使是与人工智能对话,也在共同构建整个社会体系,如果不文明行事,就会产生不好的影响。”

今日评论 网友评论仅供其表达个人看法,并不表明网站立场。
最新评论(0)
暂无评论


Copyright Media Today Group Pty Ltd.隐私条款联系我们商务合作加入我们

分享新闻电话: (02) 8999 8797

联系邮箱: info@sydneytoday.com 商业合作: business@sydneytoday.com网站地图

战略合作:澳洲机票网法律顾问:AHL法律 – 澳洲最大华人律师行新闻爆料:news@sydneytoday.com

友情链接: 澳华财经在线