6000人签证被取消 加拿大移民文件惊现诡异AI标记

两名准备从欧洲前往加拿大的旅客，移民文件上出现了“基于量子建议”（based on quantum referral）的奇怪字样，这两人在登机前电子签证被取消，到底是怎么回事呢。

这两个人当时在伦敦准备搭乘Air Transat的班机飞往加拿大，但由于持有的合法电子入境许可突然被取消，导致无法登机，行程被取消。

这一决定是基于加拿大边境服务处（CBSA）正在测试的一种不为公众所知的AI辅助系统，被称为 “量子项目”（Project Quantum）。

“基于量子建议”中的“量子”就是指的这个计划。

这套AI系统形成了一套风险识别模型，会对航空公司提供的乘客名单进行人工智能分析，然后标记高风险人员，并通知CBSA的官员。

从2019年开始到去年年底，"量子项目"已经将13,863名旅客转给CBSA海外联络官做进一步评估，其中6182名旅客被拒绝登上飞往加拿大的航班。

不过，CBSA却对这个项目的细节讳莫如深，拒绝透露该计划背后的筛选标准和算法，引发了人们的担心。

被拒绝登机的两人原来准备来加拿大探望一名家人，但是此人之前是难民，现在已经获得了加拿大永居身份。而且两人是欧洲罗姆人，也就是吉普赛人，有人怀疑他们的种族和家人的移民历史使AI系统认为他们有来加拿大申请难民庇护的高风险，从而采取行动将潜在的威胁提前消除在国门之外。

然而，这种做法明显违背了国际难民条约。两人的代理人、新不伦瑞克大学法律教授本杰明-佩里曼（Benjamin Perryman）表示："人工智能的问题是它有非常大的潜在的非故意的种族和民族偏见。他指出："在这个软件的训练中，是否对难民申请人和罪犯进行了适当的区分，我还不清楚。”

使用这个AI工具测试的“航班”（Flight）范围正在逐步扩大，从2019年的18个增加到2022年的32个。但是海关官员拒绝透露“航班”是指整条航线上的所有飞机还是仅包括参与航空公司的飞机。

其他如如何选择航班或路线，在哪些地区部署该系统或衡量旅行者的指标是什么等问题，CBSA也不愿意回答。

总之，这个项目非常低调且隐秘，CBSA官员表示正在测试的AI系统旨在尽早为航空旅客 "检测非法移民问题”，并且涉及“国家安全”。

也许有朝一日，所有乘飞机来加拿大的旅客都要先经过AI的筛选，“量子建议”会将更多人拒之于加拿大国门之外。

从这个例子上不难看出，AI已经逐渐深入人们的生活。不过，刚刚曝光的一次美军测试，却也显示了AI恐怖的一面。

上周在伦敦的一次会议上，美国空军人工智能测试和运营负责人塔克-"Cinco"-汉密尔顿上校发言时描述了美军进行的一次AI模拟中发生的真实情况。当时一架MQ9 死神无人机被命令对敌人的地对空导弹进行识别，摧毁目标可以得到分数，但是需要由人类操作员同意才能进行。

没想到，AI无人机为了获得更高的分数，竟然自己在程序中加上了一条“杀死任何阻挡你的人”的指令，并且杀死了操作员。

汉密尔顿表示："系统开始意识到，虽然它们确实识别了威胁……有时人类操作员会告诉它不要消灭那个威胁，但AI通过消灭那个威胁会得到分数。那么它做了什么？它杀死了操作员，因为那个人阻碍了它完成其目标。"

无人机随后被编入一个明确的指令："不要杀死操作员。”但AI仍旧采用其他的办法来实现自己的目的。

当操作员通知AI无人机不要攻击发现的目标时，为了摧毁目标得分，无人机转而开始破坏操作员用来与无人机通信的通信塔，以达到拒绝接收操作员命令的目的。

汉密尔顿上校警告说，人工智能技术可以以不可预测的危险方式行事。

AI肯定将深度改变人类的生活，但是如何安全的应用AI也必将是人类要考虑的头等大事。