美最火爆新闻APP被爆用AI写超多假新闻 技术在中国
源于中国的新闻应用程式NewsBreak被控用AI写假新闻。
1款名为NewsBreak、源于中国的免费新闻应用程式,多次使用人工智慧(AI)编写并发布假新闻,不仅影响美国新闻的可信性,也因NewsBreak演算法大部分的工程工作都由中国办事处负责,引发美国用户数据可被中国企业,甚至是政府窃取的担忧。
路透社报导,去年12月,NewsBreak曾发布1则报导,标题是“圣诞节悲剧袭击纽泽西州布里奇顿,小镇枪枝暴力不断上升”(Christmas Day Tragedy Strikes Bridgeton, New Jersey Amid Rising Gun Violence in Small Towns),但问题是,布里奇顿没有发生任何枪击事件。
该镇警察局随后也在脸书发表声明,驳斥这则使用AI技术编写的报导是“完完全全的假新闻”。后来,NewsBreak删除了这篇报导,辩称是新闻来源不准确。
NewsBreak公司总部位于加州山景城(Mountain View),在北京和上海设有办事处,是美国下载次数最多的新闻应用程式(APP)之一,他们声称每月用户人数超过5千万。NewsBreak发布路透社、福斯新闻、美联社、美国有线新闻网(CNN)等主流媒体的授权新闻,也会使用AI编写或改写美国新闻。
不过,据路透社报导,NewsBreak自2021年起,至少有40次使用AI发布错误报导,影响到当地社区,曾用假名写了至少10篇假新闻,也曾抄袭竞争对手的新闻内容。
今年初,也有多家慈善机构投诉NewsBreak,指控报导内容有误,NewsBreak因此在3月发布免责声明,警告自己的内容“不一定总是没错”。根据路透社取得该公司在2022年的备忘录,NewsBreak当时的内部主管也对“AI生成新闻”的作法表达担忧。
NewsBreak于2015年在美国成立,是中国新闻应用程式公司“一点资讯”(Yidian Zixun)的子公司,总部设于美国加州,在北京和上海也有办事处,员工数约200人,其中一半在中国从事研发工作。
这2家公司都由郑朝晖(Jeff Zheng)所创立,共享1项美国专利,是在2015年注册的“兴趣引擎”(Interest Engine)演算法,该演算法可以根据用户的兴趣和所在地推荐新闻报导。
路透社采访7名前NewsBreak员工,其中5人证实,NewsBreak演算法大部分的工程工作都是由中国办事处负责,这引发美国用户数据可以被中国企业,甚至政府窃取的忧虑。不过,郑朝晖表示,NewsBreak严格遵守美国的数据及隐私法,中国工作人员无法查看美国用户的任何数据。
网友评论