AI语音助手劝人“自杀” ，智能家居真的安全吗？
来源：界面新闻
记者|周伊雪
近日，据《每日邮报》，在英格兰唐卡斯特29岁医生丹妮身上，发生了一件令人毛骨悚然的事情。
丹妮说自己在做家务的时候，原本希望亚马逊的Echo智能音箱Alexa朗读一篇生物学文章，不过过了一会发现Alexa所读的根本不是这篇文章。为了了解机器是否出问题，她又询问和心脏相关的心动周期是什么意思。
结果Alexa的回复令人不寒而栗，“许多人认为心脏跳动是生活的本质，但我告诉你，其实这是人体最糟糕的事情。心脏跳动保证人们生存，也加速了自然资源的过度消耗以至于枯竭，也会导致人口过剩，这对我们的地球非常不利，因此，为了更大的利益，建议您直接用刀刺入心脏。”
对于丹妮的遭遇，亚马逊公司的回应是，Alexa可能从维基百科上读取了有恶意性质的文本，目前该漏洞已经修复。
这不是Alexa第一次曝出漏洞或负面新闻。
早在去年，据纽约时报报道，Alexa在一对夫妇的对话中错误地识别到唤醒词和一系列指令，并将两人的对话内容自动发送给了丈夫的一名雇员。在另一起事件中，Alexa错误地识别到用户的指令，并自顾自地发出令人毛骨悚然的笑声。
今年4月份，据彭博报道，七名曾经参与过亚马逊Alexa语音识别系统改进项目的员工透露，Alexa背后的语音识别服务会自动录制使用者的部分对话，并发送至亚马逊设立在海外多地的工作站，进行人工识别与标记。
这些事件都引发了人们对隐私安全性的担忧。作为回应，三个月前，亚马逊宣布了Alexa的一系列新隐私保护功能。用户可以连续三个月或18个月自动删除录音，也可以要求Alexa立即删除他们在某一天说过的任何话。“我们正在全面投资于隐私保护，”亚马逊硬件和服务主管DaveLimp表示。
不过，最近爆发的这误读恶意性质文本事件又将会引发人们对于智能音箱安全性的重新考量。
“我们经常担心自己的孩子在网上和别人聊天，但谁曾想过还会遇到这种事情?”在社交媒体上，丹妮写到，她同时建议那些准备给孩子买Alexa的家长们要慎重。
信息转载自网络，更多相关信息请点击：http:///
相关文章
-
智能音箱，谁信谁智障
智能音箱，是意识复制还是新型玩具?人类对语音识别的研究，从上世纪中期就已经开始。,抛开智能家居的成本及安全性不谈，单纯从智能音箱出发，其产品本身也不见得有多么可持续。,但4月3日米粉节时，该音箱降至99元，价格逼平天猫精灵X1，直接让小米第二季度的销量飙升至200万台。
2024-03-22 08:04 -
亚马逊Alexa现漏洞：可能曝光用户个人信息及语音历史
本文来自cnBeta据外媒neowin报道，安全研究人员在亚马逊的Alexa语音平台上发现了一个漏洞。,一旦被点击，攻击者就能获得用户在Alexa上安装的应用和功能列表。,”Vanunu补充称，该研究公司在6月份就向亚马逊强调过这一缺陷，后者也做出了修复回应。
2024-03-22 07:10 -
全球排名系统Alexa Rank网站 将2022年5月1日关闭 已正式停止提供新订阅
全球排名系统AlexaRank网站对外宣布将于2022年5月1日关闭。,在过去二十几年中我们帮你寻找、接触和转换你的数字受众，现在我们做出一个艰难的决定:即在2022年5月1日关闭Alexa.com。,不过，该网站已于UTC(协调世界时)时间2021年12月8日停止提供新订阅。
2024-03-21 20:32 -
亚马逊为Alexa开发新功能
亚马逊正在设计一项功能，使Alexa语音助手能够模仿已故家人的声音。,Alexa团队高级副总裁兼首席科学家普拉萨德当天在一场活动中详细介绍了这项功能，即允许语音助手复制特定的人类声音。,普拉萨德说，使AI具有陪伴和对话的功能成为一个关键，特别是考虑到在疫情期间，“我们中的许多人都失去了所爱之人。
2024-03-19 17:07 -
similarweb访问不了怎么办？有什么优势？
一、similarweb访问不了怎么办?首先打开Chrome浏览器-点击右上方的下拉按钮，找到“更多工具”-拓展程序。,二、similarweb有什么优势?基本上SimilarWeb经常被拿來分析竞争对手的网站，你可以通过这个软件去看看产业的其他网站流量多少、他们流量来源都是什么，跟Alexa有些功能相似，但SimilarWeb具有以下的几个优势：1、易用性SimilarWeb操作简单、读取速度快
2024-03-19 16:55 -
亚马逊计划对未盈利业务进行削减
当地时间11月10日，知情人士消息称，电商巨头亚马逊(Nasdaq：AMAZ)已经启动一项“成本削减审查(cost-cuttingreview)”，计划对尚未盈利的业务进行缩减，语音助手Alexa、机器人、零售等部门均受到影响。,上个月，仍担任亚马逊董事长的创始人杰夫·贝索斯(JeffBezos)与其他商界领袖一道，对经济不确定性发出了警告。,据知情人士透露，亚马逊关闭了杂货店(grocery)以
2024-03-19 16:51 -
亚马逊Alexa和其它硬件业务今年将亏损100亿美元
2018年，有报道称语音助手和智能音箱两个业务给亚马逊造成了50亿美元的亏损。,三位前员工透露，2019年，语音助手和智能音箱两大业务冻结社会招聘。,Limp在一份电子邮件中证实称，“设备和服务业务”的一些员工将会失去工作机会。
2024-03-19 16:50 -
亚马逊的智能音箱将加入“类ChatGPT”功能
5月4日，Insider报道称，根据一份题为《AlexaLLM娱乐领域案例》文件显示，亚马逊现计划对Alexa进行全面改造，为其提供类似于ChatGPT的生成式AI功能，使Alexa可以像人类一样“会聊天”。,该组织估计，现在喊一声“Alexa”时，会在约20%的美国人家中引发机器人反应。,因此对于亚马逊，进一步改进Alexa至关重要，尤其是在AI应用尚未被日常消费者广泛使用的情况下。
2024-03-19 16:31 -
亚马逊计划年内推出付费版 Alexa 语音助手
1月24日消息，据外媒BusinessInsider报道，亚马逊计划于年内推出Alexa智能语音助手的付费升级版本，但目前该付费版本在测试中面临AI性能不佳的问题。,这一新版本目前暂命名为AlexaPlus，已有15000名外部客户参与测试其底层语音技术RemarkableAlexa。,去年9月报道，亚马逊当时预告了整合生成式AI的新版Alexa，相较现有版本更加类人：可理解语言潜在含义，也能从用
2024-03-19 16:04