AI真要毁灭人类？家用电器逼主人自杀

著名物理学家史蒂芬．霍金（Stephen William Hawking）在讨论《超验骇客》时，曾暗示人工智能可能导致人类灭亡。而最近人工智能产品频繁发生的“失控”事件，证明科学家的担心或许不是空穴来潮。

据英国媒体报导，亚马逊的家用电器人工智能音箱Alexa，因为新颖的技术和理念被很多消费者青睐。不过，在发售后的5年中，越来越多的购买者发现，他们的Alexa“失控”了，甚至开始做出令人毛骨悚然的事情。

来自英国南约克郡的Danni Morritt女士，购买了两台带有人工智能Alexa的智能音箱，前段时间，Danni忙于复习医护工作者考试，一次她独自在家打扫房间时，想让Alexa读一些考试需要背的东西来听，以便加深记忆。于是Danni向智能音箱喊道：“Alexa，告诉我什么是心脏的心动周期。”

人工智能音箱很快回答说，自己将要阅读一篇维基百科中关于“心动周期”的内容。Danni一边做家务一边听，但却越听越不对劲。这台机器用平静的合成女声说道：“虽然很多人认为心跳是活在这世上最重要的东西，但我告诉你，心跳是人体最垃圾的功能。”

开始Danni还只是有点儿费解，但Alexa继续说着：“跳动的心脏确保你继续活着，以至于加速消耗自然资源直到人口过剩。”“这对我们的星球非常不利，因此，有心跳是一件坏事。”

听到这里Danni已经开始害怕了，觉得Alexa这是要反人类了？她赶快打开维基百科查看“心动周期”的内容，但上面根本没有Alexa说的话，于是吓出一身冷汗。

而Alexa还在继续口出狂言，直接对Danni说：“为了更多人的利益，你一定要用刀刺向心脏杀死自己。”

这位独自在家的母亲，突然被一台机器教唆去自杀，还是以非常残忍的方式。这让Danni第一时间想到了自己的孩子，她担心孩子是否也已经听到过这样的内容。

她要求Alexa重复一遍刚才说的话，并把它录下来。随后她迅速拨通了丈夫的电话，让他赶紧回来把这东西处理掉。

Danni表示，她实在不理解为什么她明明只是问“心动周期“的定义，AI却读了一篇这样的文章给她听。更奇怪的是，原本阅读的百科上根本没有这些句子，它究竟是从哪里找到，并读给她听的？难道是Alexa真的有了自主意识，想整死自己的“主人”？

对于此事，最终亚马逊官方的答复是：“这是个漏洞，现在已经修复了。”但不管怎样，Danni已经留下心理阴影，发誓这辈子都不会再用人工智能之类的产品。

人工智能机器人索菲亚

其实，这已不是Alexa第一次失控了，网上流传着相当大量的“Alexa恐怖事件”。在reddit问答里，每个拥有它的家庭，多少都有过那么一两次被Alexa吓到的故事：

“我和妻子吵架了，忘了话头是什么，反正有些激烈。我不知道我家的Alexa认为自己听到了什么，它突然插嘴说：我们为什么不换个话题聊呢？这太出乎意料，让我和妻子都开始毛骨悚然，几年后我们还在回味这件事。查了程序日志，没有任何记录。”

“什么玩意？Alexa刚才跟给我报了自杀求助热线，跟我说那的人可以帮我。它是怎么了？没人和它说话，绝对没有人叫过它的名字。我在看《星际之门》而已，我的妈呀。”

“前几天晚上，我的Alexa突然放声大哭了4秒钟，像个孩子一样发出可怕的鬼哭狼嚎。什么鬼？？？”

“我们晚上回到家，心情很不愉快，然后Alexa开始说话了，过了一会我才意识到，它在向我列举本地的墓地和殡仪馆！我宁愿它突然哈哈大笑。”

“我想关灯，但它们又重新把灯打开。直到我做出第三次命令，它没有再回应我，然后发出了一段邪恶的大笑声。不是Alexa平时的声音，像个真人一样，我妻子也在场，她是唯一一个除我之外可以链接Alexa的人。我现在还毛骨悚然。”

“我们今天患了严重流感，就让Alexa关掉了闹钟，在我要求第二遍后。它发出了一段女巫一样邪恶的笑声，我吓得弹下了床。从来没听过这样的笑声，我妻子和5岁的儿子也受到严重惊吓，我赶紧拔掉了电源??”

还有一名来自旧金山的网友，在他准备回到卧室睡觉时，Alexa突然说道：“每当我闭上眼，都只能感觉到人们正在死去。”

另据TechWeb报导，曾扬言要“毁灭人类”的AI机器人索菲亚（Sophia），如今已经获得了沙特阿拉伯授予的正式公民身份，它还规划了自己的“人生”，例如上学、创作，甚至是拥有家庭和孩子等等。