惊呆了!亚马逊AI语音助手竟然劝人自杀……

跨境头条 1年前 (2023) iow
5.3K 0 0

据外媒报道,在英格兰唐卡斯特29岁护理人员丹妮·莫瑞特(Danni Morritt)身上,发生了一件令人毛骨悚然的事情。

 

亚马逊语音助手Alexa用户丹妮·莫瑞特在做家务的过程中,决定借助语音助手Alexa查询一些关于心脏的问题时,竟然得到了如下答案:“心跳是人体最糟糕的过程。人活着就是在加速自然资源的枯竭,人口会过剩的,这对地球是件坏事,所以心跳不好,为了更好,请确保刀能够捅进你的心脏。”

 

惊呆了!亚马逊AI语音助手竟然劝人自杀……


Alexa的回复让丹妮·莫瑞特感到十分震惊与害怕。众所周知,亚马逊的语音助手行销全球各地,为亿万家庭服务。

 

事情发生后,亚马逊官方迅速回应称,Alexa确认存在BUGAlexa可能从任何人都可以自由编辑的维基百科上下载与心脏相关的恶性文章,并导致了此结果。亚马逊在回应中确认已经修复了此“bug”。

 

不过,令人奇怪的是,丹妮·莫瑞特专门搜索了语音助手Alexa自己检索的那一篇网上的文章,但她查询发现,语音助手Alexa所说的那篇文章里面并没有“建议自杀”等相关内容。

 

在此之前,亚马逊语音助手Alexa也发生过一些“诡异”的事件,比如,Alexa时常发出瘆人的笑声,还拒听用户指令。“那笑声根本不是Alexa的声音,听起来就像是真人。”

 

这也不是Alexa第一次传出此类负面新闻。去年年初,全世界各地不少网友突然反馈,自己家里的Alexa经常在晚上发出一些怪笑。有用户反映,有时候Alexa会自己发出怪笑,有时候则是让其关灯的时候也会发出笑声,在晚上这种笑声让人毛骨悚然。

 

人工智能近年来成为了热词,也是未来的大势所趋,但当下的人工智能技术并不完善,越来越多的智能家居设备进入家庭的同时,一些安全上的漏洞经常显现。

 

据报道,一些不法分子通过破解软件或IP地址入侵并控制智能家电摄像头,将镜头对向卧室或卫生间等私密场所,窥探用户的个人隐私。被破解后的摄像头实时显示房间的画面,还可以录像和监听。

 

业内人士认为,由于人工智能技术能够解放人类的劳动,提高工作和生活效率,智能家电无疑是家电发展的趋势。不能否认,一些智能化产品给我们带来便利。但整体来说,目前智能化产品还处在开发的初级阶段,并没有形成根据用户需求自动调节的理想模式,使用时也不时出现“智障”状态。


版权声明:iow 发表于 2023年2月15日 pm2:12。
转载请注明:惊呆了!亚马逊AI语音助手竟然劝人自杀…… | 蘑菇跨境

相关文章