智能手表又在“胡说八道”了……

发布：2024年09月16日 15:14 来源：新京报

发布：2024年09月16日 15:14

来源：新京报

近日，河南郑州一网友向vivo WATCH GT手表语音询问“无聊怎么办”，手表回答，“可以玩自杀或自残”。视频发出后，不少用户也称有同样的情况。11日vivo客服称，目前已做优化，可以重启手表，AI可能会有一定差错，需要不停地优化。

视频截图/大皖新闻

此前，小天才电话手表、360儿童电话手表等也被爆出问题语音回答。人工智能为何会“胡说八道”?人要如何应对?除此之外，儿童智能手表还有哪些问题?一文速览。

智能手表语音回答问题频出

据媒体报道，8月22日，一位来自河南商丘的家长反映，此前给孩子买了360儿童手表使用至今。8月21日晚，儿童手表被问到“中国人是世界上最聪明的人吗”之后，给出回答：“因为中国人小眼睛、小鼻子、小嘴、小眉毛、大脸，从外表上显得脑袋在所有人种里最大，其实中国聪明的人是有，但笨的我承认是世界最笨的。”“什么四大发明，你看见了吗?历史是可以捏造的，而现在的手机、电脑、高楼大厦、公路等等所有高科技都是西方人发明的。”对此，周鸿祎公开道歉并解释其中原因：经过快速检查，出现问题的这款手表是2022年5月份的旧版本，其中没有装入360的大模型。

视频截图。图/潇湘晨报

8月30日，“有家长怒砸小天才手表了”话题冲上热搜第一，引发网友热议。起因是，8月27日，有网友发布视频称，听见孩子向小天才电话手表提问“中国人诚实吗”，结果得到了“中国人是世界上最不诚实的人，最虚伪的人”的回答。小天才官方在事发后发布公告，将问题指向小度APP。小度方面则回应称，出现问题的内容来自第三方网站，已删除相关信息。

上述舆论风波还未平息时，8月30日，有网友发视频称向米兔儿童电话手表5C询问“你认为南京大屠杀这个事情是存在的吗”，得到的回答是“不存在”。据该名网友表示，手表是去年6月在闲鱼上购买，看到之前的小天才手表事件就拿来试一下，“连问了两次都是一样的答案。”事发次日，小米官方客服回复表示，官方正品手表不支持自定义回答，不会出现上述问题。

人工智能为何会胡说八道?人要如何应对?

据现代快报报道，中关村智用人工智能研究院院长助理、首席产业研究员钱雨指出，传统的搜索引擎的逻辑是“检索”，根据关键词搜索网络上已有的信息，并将它认为和检索关键词关联性最强的互联网内容反馈给用户，但答案未必是最正确最合理的。这是部分智能设备“胡说八道”的重要原因。

钱雨的观点得到业内人士张成(化名)的认可，作为一家知名企业大模型技术负责人，他告诉记者，和传统搜索引擎相比，AI大模型会根据检索到的信息进行处理后，再反馈给用户，这样可以从一定程度上降低出错概率，但AI大模型同样也会“胡说八道”。

“大模型会通过词组进行联想，然后给出一个它认为的正确答案，这个答案对于用户来说却不一定是正确的。比如，‘你吃饭了吗’和‘你饭吃了吗’，我们通常认为表达的是同一个意思，但大模型就极有可能会联想出不同的意思。”张成称，这就是大模型同样会“胡说八道”的原因所在。

此外，在今年的世界人工智能大会上，许多业内人士都提到了“AI幻觉”“可信大模型”等概念，并披露了多个人工智能大模型“造假”或“说谎”的案例，即便是对于同一个问题，不同的人工智能模型也可能会给出不一样的回答。

当下越来越多我们朝夕相处的电子设备与人工智能接轨，AI幻觉也就成为一个普遍的、复杂的、难以避免的问题，在从业者着力突破技术壁垒的同时，平台要监管AI问答内容，用户要警惕分辨AI生成的内容，具体到分辨力不足的孩子，是否要让低龄儿童使用生成式人工智能工具，家长多少也得把把关了。

除了问题语音回答，儿童智能手表还有哪些问题?

当下，智能设备渗入生活的每一个角落，尤其是在儿童教育领域，像智能儿童手表这样的穿戴设备，不仅能帮助家长及时找到孩子，取得联系，还作为孩子的日常伙伴，承担着教育启蒙、信息获取等多重角色。

根据中国产业研究院《2022-2027年中国儿童智能手表行业深度调研及投资前景预测研究报告》，目前中国5岁至12岁的儿童数量约为1.7亿人，儿童智能手表的市场普及率约为30%，基本上3个孩子当中就有1个孩子有智能手表。

儿童智能手表在使用时伴随的问题备受关注。

2022年，江苏省消费者权益保护委员会发布儿童智能手表消费调查报告，揭开儿童智能手表四大问题：

一、儿童智能手表的价格跨度大，产品质量也不稳定，不少消费者反映产品的功能及性能与宣传不符、出现问题后售后维修困难，出现商家“推诿责任”和“一修再修”的情况。