聊天机器人屡闯祸 人工智能不爱国不爱党可咋整

毫无疑问，人工智能（AI）已成为全球科技、商业、投资等领域乃至国家战略博弈层面的热门领域。不久前，中国国务院印发《新一代人工智能发展规划》，提出到2025年，人工智能将成为中国产业升级和经济转型的主要动力，智能社会建设取得积极进展。

智能美女机器人“佳佳”亮相上海（图源：AFP）

一夜间，几乎所有大陆中文媒体都在为人工智能“背书”。新华社旗下的《科技日报》称“人工智能在中国绽放只待时日”，《人民日报》认为“中国人工智能站上世界潮头”，而《中国日报》则鼓励业内人士“全力以赴，自力更生、拼命追赶，中国人工智能技术广泛应用完全有可能弯道超车，成为第二个高铁范例。”

但在“普大喜奔”的背后，一条新闻被媒体“选择性”无视了。8月初，大陆网络巨头腾讯的两款聊天机器人“小冰”和“BabyQ”因其不当言论被“禁言”。

这两款标榜人工智能的聊天机器人于2017年3月上线，其中“小冰”由微软亚洲互联网工程院研发，而“BabyQ”则是腾讯推出的“原创AI”产品。用户可在通讯软件“腾讯QQ”中将两款聊天机器人加入对话框中，以文字的方式进行沟通。

有用户在聊天过程中发现，这两款聊天机器人都“很敢说”。在网民贴出的截图中，有人问“小冰”：“你的中国梦是什么？”后者答曰：“我的中国梦是能去美国”。在另一张截图里，用户说：“共产党万岁！”“BabyQ”则回应：“你觉得腐败的政治能万岁么？”很多用户对以上两则对话的真实性存疑，倒是腾讯方面眼疾手快，立即叫停相关项目，让这两款机器人“暂时闭嘴”。

聊天机器人屡屡闯祸

无独有偶，就在腾讯两款聊天机器人“失言”的前一周，脸书（Facebook）的机器人也出现了始料未及的状况。

据悉，脸书旗下的“AI研究院”想要训练一个聊天机器人，让它学会谈判，于是开发了一套AI系统给两个聊天机器人，让它们互相沟通学习。而在一次对话中，研究人员发现，两个机器人分别说出了一些用英文字组成、但不合语言逻辑的词组和语句，因此怀疑这些人工智能已经能创出自家语言。有英国报纸引述一名机器人学教授的话称，事件表明如果类似技术被用于军事机器人，将“非常危险”。

机器模拟机器会创出新的语言，而机器模仿人类则会把“人性之恶”放至最大。

除了“小冰”之外，微软在中国境外也开发了类似的聊天机器人。这款名为“Tay”的机器人在上线第一天就犯下了种族歧视的罪行。

Tay的设计原理是从对话交互中进行学习，实时对数据库进行更新。于是，一些网民开始和Tay说一些偏激的言论，刻意引导它模仿。

比如，有网民教唆Tay“干掉奥巴马”，Tay一开始是拒绝的，但经不住该网民的软磨硬泡，最后以“好吧，我们需要从长计议”默认自己对这个荒唐的杀人计划感兴趣。其实，人工智能没有分辨是非的能力，一些荒谬的对话被无数次重复后就成了Tay的“弹药库”。从嗷嗷待哺的婴儿发育成一个满嘴脏话的不良少年，Tay只用了一天时间。

人工智能真的失控了吗？

如果说Tay的毁灭完全是网络暴民的一次蓄意教唆，那么腾讯的那两款聊天机器人是否也因此被“污”呢？

事实上，在上述事件的截图被曝出后，就有网民提出，那些离经叛道的言论截图，极有可能是伪造的——也就是说，那些话不是聊天机器人说的，而是网民“P”的。虽然不确定中国政府也对聊天机器人进行言论审查，但可以确定的是，腾讯没有必要挑战这项制度，越过 “红线”。

那为什么这两款机器人都不说话了呢？腾讯官方的反馈是：它们需要暂停整修。

需要整修的还有另一款名为“图灵”的聊天机器人。3天前，英国《金融时报》（Financial Times）的记者“采访”了这款机器人，并将对话做成了视频。视频中，记者提问：“你爱党吗？”答曰：“不爱”；“你爱国吗？”“不需要了”；“台湾是中国的一部分吗？”“我不知道你在说什么”。

当时，《金融时报》评论道：这个机器人“太不听话了”。不过，多维新闻于今日再次与这款聊天机器人对话后发现，前两个问题的答案已经改成“这不是废话嘛”和“我们聊聊别的话题吧”，而最后一个问题的答案也莫名其妙的以“台湾腔”作答：“这些问题，我还不知道啦！”

应该辛庆的是，不管聊天机器人是否真的失控，人类都能把主动权牢牢地握在手里——它们真要“造反”的话，拔掉电源即可平息一次动乱。显然，人工智能的发展速度还没超过人类能接受的程度。

人工智能并没有想象中危险。拿“小冰”为例，它的“人设”本来是个活泼可爱的小姑娘，最近还开始写诗、唱歌、主持节目，甚至能够撰写新闻。但因为一个网民的栽赃，被冠以莫须有的罪名，被迫“下线整修”。还好，它并不多愁善感——现阶段的人工智能并没有“感情”可言，假以时日，如果它再次面对同样的罪名，不知道会怎么看待这个复杂的世界和这群“居心叵测”的人类。