侵权投诉
订阅
纠错
加入自媒体

“劝人自杀”!亚马逊bt365体育客户端助手竟然这么做!科技进步究竟是好是坏?

随着AIoT技术的加快,物联网和AI等技术已经发展到能在某些领域超过人类自我的计算和控制,但在与人类交流上仍然存在缺陷。

就在前几天,据外媒曝出,亚马逊生产的Alexa人工bt365体育客户端助手居然会“劝”使用者自杀。

事情的经过是这样的。丹妮·莫瑞特(Danni Morritt)是一位医护人员,她在工作过程中碰到一些病人提出的难题,她无法回答,于是她向人工bt365体育客户端助手Alexa请教跟心脏律动有关的一些问题。

而Alexa的回答却让她毛骨悚然。Alexa认为,心跳对于目前的人类来说是一件很糟糕的事情,现在人口越来越多,人活着只会让自然资源枯竭的进程加快,对地球会造成很大的负担,所以心脏跳动是一件不好的事情,为了让世界更美好,请确保刀可以刺进人的心脏。

听到这样的回答,换做任何人都会感到害怕,更何况丹妮·莫瑞特(Danni Morritt)也只是一个普通人。她随即警示周围的人,告诉他们Alexa出现了很大的安全问题,同时也担心其他人,甚至是孩子,在使用Alexa的过程中受到类似这样不良信息的侵害。

丹妮·莫瑞特(Danni Morritt)觉得Alexa很可怕,它居然让人拿刀刺入自己的心脏,这简直太吓人了。她本来只想向Alexa询问一些跟自己课程有关的内容,等来的结果却是让自己自杀。她简直无法相信。

这件事情发生后,丹妮·莫瑞特(Danni Morritt)就立刻在自己的社交媒体中公开曝出了此次事件。让人意外的是,仍然有人不能理解她的遭遇,反而认为是她自己改动了Alexa的系统。

此事发生不久后,亚马逊官方做出了回应,说这是一个bug,目前已经修复好,是有心怀不轨的人在维基百科里下载了错误的版本,而维基百科里的内容是任何人都能编辑撰写的。

对于亚马逊的这种回应,也有一部分人表示无法接受,他们觉得像亚马逊这样制造bt365体育客户端设备的大企业,在经过研发、生产、测试等严密的过程之后公开售卖出的产品,不应该出现这种低级错误,假如亚马逊连自己产品的安全性都无法控制,那又该如何让顾客放心购买呢?

并且这也不是亚马逊bt365体育客户端设备第一次出问题了,在这次事件之前,亚马逊也发生过许多“bug事件”。

例如,Alexa会偶尔拒绝接受使用者提出的指令,以及发出让人不舒服的笑声;还有一对美国夫妇的对话在无意中被Alexa录音,Alexa还自动把这段录音发送给了别人。对于这次事件,亚马逊的说法是用户的谈话中可能含有一些带有指令功能的关键词,然后Alexa就按照指令识别录音并发出。

然而亚马逊出现语音监听的问题也不是一次两次了。在2019年4月,有关媒体曝出,用户和语音助手的私人聊天内容被亚马逊的员工监听了。这次亚马逊没有推脱,承认确实有员工在监听,却解释说这是为了提高系统对人们说话的理解能力。

经过这些事件,很多人也有些迷茫。现如今科技发展的越来越快,AI和物联网的使用也开始普及大众。未来会不会像电影《终结者》系列里演的那样?人类研发出的高科技产品对人类自身造成反噬。又或者是出现一些真正心怀不轨的人,运用AIoT技术、产品对人类造成不好的影响...

科技进步是正确的,但是在科技进步的同时,人类自身也需要进步,而不能因为科技带来的便利而变懒惰。一旦完全依赖科技,人类必将被科技所控制。


声明: 本网站所刊载信息,不代表OFweek观点。刊用本站稿件,务经书面授权。未经授权禁止转载、摘编、复制、翻译及建立镜像,违者将依法追究法律责任。

发表评论

0条评论,0人参与

请输入评论内容...

请输入评论/评论长度6~500个字

您提交的评论过于频繁,请输入验证码继续

暂无评论

暂无评论

文章纠错
x
*文字标题:
*纠错内容:
联系邮箱:
*验 证 码:

粤公网安备 44030502002758号