头条

毛骨悚然!人工智能家电发出狞笑、教唆主人自杀……

著名物理学家史蒂芬.霍金(Stephen William Hawking)在讨论《超验骇客》时,曾暗示人工智能可能导致人类灭亡。而最近人工智能产品频繁发生的“失控”事件,证明科学家的担心或许不是空穴来潮。

据英国媒体报导,亚马逊的家用电器人工智能音箱Alexa,因为新颖的技术和理念被很多消费者青睐。不过,在发售后的5年中,越来越多的购买者发现,他们的Alexa“失控”了,甚至开始做出令人毛骨悚然的事情。


著名物理学家史蒂芬.霍金在讨论《超验骇客》时,曾暗示人工智能可能导致人类灭亡。(图片来源:Adobe stock)

来自英国南约克郡的Danni Morritt女士,购买了两台带有人工智能Alexa的智能音箱,前段时间,Danni忙于复习医护工作者考试,一次她独自在家打扫房间时,想让Alexa读一些考试需要背的东西来听,以便加深记忆。于是Danni向智能音箱喊道:“Alexa,告诉我什么是心脏的心动周期。”

人工智能音箱很快回答说,自己将要阅读一篇维基百科中关于“心动周期”的内容。Danni一边做家务一边听,但却越听越不对劲。这台机器用平静的合成女声说道:“虽然很多人认为心跳是活在这世上最重要的东西,但我告诉你,心跳是人体最垃圾的功能。”

开始Danni还只是有点儿费解,但Alexa继续说着:“跳动的心脏确保你继续活着,以至于加速消耗自然资源直到人口过剩。”“这对我们的星球非常不利,因此,有心跳是一件坏事。”

听到这里Danni已经开始害怕了,觉得Alexa这是要反人类了?她赶快打开维基百科查看“心动周期”的内容,但上面根本没有Alexa说的话,于是吓出一身冷汗。

而Alexa还在继续口出狂言,直接对Danni说:“为了更多人的利益,你一定要用刀刺向心脏杀死自己。”

这位独自在家的母亲,突然被一台机器教唆去自杀,还是以非常残忍的方式。这让Danni第一时间想到了自己的孩子,她担心孩子是否也已经听到过这样的内容。

她要求Alexa重复一遍刚才说的话,并把它录下来。随后她迅速拨通了丈夫的电话,让他赶紧回来把这东西处理掉。

Danni表示,她实在不理解为什么她明明只是问“心动周期“的定义,AI却读了一篇这样的文章给她听。更奇怪的是,原本阅读的百科上根本没有这些句子,它究竟是从哪里找到,并读给她听的?难道是Alexa真的有了自主意识,想整死自己的“主人”?

对于此事,最终亚马逊官方的答复是:“这是个漏洞,现在已经修复了。”但不管怎样,Danni已经留下心理阴影,发誓这辈子都不会再用人工智能之类的产品。

其实,这已不是Alexa第一次失控了,网上流传着相当大量的“Alexa恐怖事件”。在reddit问答里,每个拥有它的家庭,多少都有过那么一两次被Alexa吓到的故事:

“我和妻子吵架了,忘了话头是什么,反正有些激烈。我不知道我家的Alexa认为自己听到了什么,它突然插嘴说:我们为什么不换个话题聊呢?这太出乎意料,让我和妻子都开始毛骨悚然,几年后我们还在回味这件事。查了程序日志,没有任何记录。”

“什么玩意?Alexa刚才跟给我报了自杀求助热线,跟我说那的人可以帮我。它是怎么了?没人和它说话,绝对没有人叫过它的名字。我在看《星际之门》而已,我的妈呀。”

“前几天晚上,我的Alexa突然放声大哭了4秒钟,像个孩子一样发出可怕的鬼哭狼嚎。什么鬼???”

“我们晚上回到家,心情很不愉快,然后Alexa开始说话了,过了一会我才意识到,它在向我列举本地的墓地和殡仪馆!我宁愿它突然哈哈大笑。”

“我想关灯,但它们又重新把灯打开。直到我做出第三次命令,它没有再回应我,然后发出了一段邪恶的大笑声。不是Alexa平时的声音,像个真人一样,我妻子也在场,她是唯一一个除我之外可以链接Alexa的人。我现在还毛骨悚然。”

“我们今天患了严重流感,就让Alexa关掉了闹钟,在我要求第二遍后。它发出了一段女巫一样邪恶的笑声,我吓得弹下了床。从来没听过这样的笑声,我妻子和5岁的儿子也受到严重惊吓,我赶紧拔掉了电源⋯⋯”

还有一名来自旧金山的网友,在他准备回到卧室睡觉时,Alexa突然说道:“每当我闭上眼,都只能感觉到人们正在死去。”


人工智能机器人索菲亚。(图片来源:视频截图)

另据TechWeb报导,曾扬言要“毁灭人类”的AI机器人索菲亚(Sophia),如今已经获得了沙特阿拉伯授予的正式公民身份,它还规划了自己的“人生”,例如上学、创作,甚至是拥有家庭和孩子等等。

 

 

转自看中国网

Recent Posts

隐秘水岸的美食仙境——Berowra Waters Inn 极致餐饮体验

位于澳大利亚新州Berowra Waters的Berowra Waters Inn,以其与世隔绝的地理位置和令人叹为观止的水景,成为了悉尼最独特且令人神往的高端餐饮圣地之一。这家餐厅不仅因其优雅的氛围和美轮美奂的景色而闻名,更因其创新而精致的菜肴赢得了无数食客的青睐。从只可通过船只或水上飞机到达的特殊地理位置,到每一道菜品的精心雕琢,这里的一切都充满了与众不同的魅力。作为一种享受美食与美景并存的方式,Berowra Waters Inn无疑是一场视觉与味觉的双重盛宴。 如果说有哪种用餐体验能够完美地结合美景与美食,那无疑是Berowra Waters Inn。从市区出发到餐厅附近的码头,再乘坐私人船只航行,五分钟的航程便足以让你暂时远离都市的喧嚣,融入那片宁静的丛林与水域之中。船只接送是免费的,这种便捷的水上交通方式也让这家餐厅增添了几分神秘感和隐秘感。站在船头,环顾四周,绿色的植被与碧蓝的水面交织在一起,眼前的风景美得令人屏息。餐厅坐落在一座简洁的沙岩建筑内,玻璃百叶窗让每一位食客都能享受无障碍的水景。餐厅的设计极为简约而不失奢华,洁白的内饰、宽大的皮质餐桌以及温馨的灯光,使得每一位前来用餐的客人都能感受到无比的舒适与尊贵。 Berowra Waters Inn。(图:提供)   Berowra Waters… Read More

4 hours ago

一场温情与怀旧的音乐盛宴 Take That悉尼演唱会

在悉尼的Qudos Bank Arena,一场充满怀旧情感和音乐激情的演唱会拉开了帷幕。Take That,这支英国传奇组合,用他们超过30年的经典金曲和热忱的舞台表现,再次点燃了现场观众的心。这不仅是一场音乐会,更是一场关于青春、回忆和情感的集体狂欢。 Take That。(图:Andy Kershaw) 自1990年成军以来,Take That迅速成为了90年代男孩乐队的巅峰代表。无论是动人的和声、充满感染力的舞蹈,还是他们永远年轻的笑容,这一切都为他们赢得了无数粉丝。如今,尽管团队从最初的五人缩减为Gary Barlow、Mark Owen和Howard Donald三人,但他们的艺术生命力依然旺盛。 本场演唱会的设计更趋向于亲密与真实。舞台布置摒弃了以往的奢华与杂技式的舞美表演,转而聚焦于三位歌手本身。这种简约而深情的演绎形式,让观众得以专注于音乐和歌声本身,感受到岁月赋予他们的深沉与韵味。 Take That。(图:Andy… Read More

4 hours ago

墨尔本超市使用机器人协助打包货物

位于墨尔本西部的Coles全新 24 小时顾客履行中心有 700 台机器人、人工智能(AI)和 1000 名员工,比一般超市更忙碌、科技含量更高,只需五分钟就能完成一份 50 件的超市订单。 在 COVID 疫情加速数位销售后,Coles 耗资 4 亿澳元在墨尔本和悉尼建立自动化顾客履行中心。在… Read More

5 hours ago

手持30公分猎刀 布里斯本一男子被捕

周一(11月18日),警方在布里斯本中央商业区的巴士站逮捕一名手持30公分猎刀的男子。 当日下午2点30分左右,警方接到报案称有一名持械男子在Roma St车站。 在警方公布的录影中,一名警官说:“放下刀,马上放下刀!”“放下,马上放下,把刀放下,放在地上!” 警方表示,该男子从腰带中取出连鞘 30 公分猎刀,并依照警官的命令将刀丢在地上。 警方在一份声明中说:“该男子未对任何公众或警方做出任何威胁。” 警方已控告这名 18 岁男子在公共场所持有刀具,他于 11 月 20 日在布里斯本裁判法院(Brisbane… Read More

5 hours ago

澳顶尖专家:应公开无良医生姓名

澳洲一位顶尖医疗经济学家表示,滥收病人费用的医生应该在公共名册上被点名羞辱,针对莫宁顿半岛(Mornington Peninsula)涉嫌滥收病人费用的医生的集体诉讼也可能将递交。 近日,病人受促检查联邦医疗保险记录,以确保没有被医生错误收费。 维州莫宁顿半岛(Mornington Peninsula)数十名麻醉师和外科医师被指控蓄意诈骗、收取双倍费用和私吞帐外费用。 据《时代报》报导,控诉书指控一群医生为自己的财务利益而向病人收取高达 5000澳元的自付费用,将其伪装成预约费或行政费,同时,这些专科医师发布了参与医疗保险公司的无间隙费用计划。 Margaret Faux 博士认为,如果指控成立,或许可以透过集体诉讼帮助消费者。 她说:“我们实际上需要尽快让这件事呈现在法官面前。”“这封举报信是一份大礼,因为它给检察官所需的一切,让他们可以快速、轻松地获得事情的真相。” Faux表示,值得关注的是,有指控称医生在没有提供服务的情况下收取费用,这是违法的。 她说,举例而言,收取超过 1000 澳元的麻醉行政费用,却没有任何解释,这可能会被视为“可疑”,因为法律规定消费者必须使用… Read More

5 hours ago

吃力不讨好 12年级学生回避教育专业

12 年级的学生正在回避教育学位,有大量已开始攻读教育学位的学生退学,使毕业生人数减少数千人。教师表示,高工作负荷以及学生、家长的不良行为正将他们赶出这个行业。 新数据显示,自2020年以来,开始攻读教育学位的学生人数和比率持续下降。2023年,只有11099名新州学生开始攻读教育学位,占大学新生的10.46%。而 2020 年则有 15,022 名学生,占大学新生的 12.54%。 过去 10 年来,在四年内完成本科教育学位的学生人数也大幅下降。 据《悉尼晨锋报》报导,在 2020 年开始攻读学位的澳洲本科生中,有 29%… Read More

5 hours ago