找回密码
 立即注册

扫一扫,访问微社区

搜索
热搜: 活动 交友 discuz
查看: 283|回复: 0

6000人签证被取消 加拿大移民文件惊现诡异AI标记

[复制链接]

503

主题

95

回帖

1963

积分

管理员

积分
1963
发表于 2023-6-2 15:59:25 | 显示全部楼层 |阅读模式
两名准备从欧洲前往加拿大的旅客,移民文件上出现了“基于量子建议”(based on quantum referral)的奇怪字样,这两人在登机前电子签证被取消,到底是怎么回事呢。
这两个人当时在伦敦准备搭乘Air Transat的班机飞往加拿大,但由于持有的合法电子入境许可突然被取消,导致无法登机,行程被取消。
这一决定是基于加拿大边境服务处(CBSA)正在测试的一种不为公众所知的AI辅助系统,被称为 “量子项目”(Project Quantum)。
“基于量子建议”中的“量子”就是指的这个计划。
这套AI系统形成了一套风险识别模型,会对航空公司提供的乘客名单进行人工智能分析,然后标记高风险人员,并通知CBSA的官员。
从2019年开始到去年年底,"量子项目"已经将13,863名旅客转给CBSA海外联络官做进一步评估,其中6182名旅客被拒绝登上飞往加拿大的航班。
不过,CBSA却对这个项目的细节讳莫如深,拒绝透露该计划背后的筛选标准和算法,引发了人们的担心。
被拒绝登机的两人原来准备来加拿大探望一名家人,但是此人之前是难民,现在已经获得了加拿大永居身份。而且两人是欧洲罗姆人,也就是吉普赛人,有人怀疑他们的种族和家人的移民历史使AI系统认为他们有来加拿大申请难民庇护的高风险,从而采取行动将潜在的威胁提前消除在国门之外。
然而,这种做法明显违背了国际难民条约。两人的代理人、新不伦瑞克大学法律教授本杰明-佩里曼(Benjamin Perryman)表示:"人工智能的问题是它有非常大的潜在的非故意的种族和民族偏见。他指出:"在这个软件的训练中,是否对难民申请人和罪犯进行了适当的区分,我还不清楚。”
使用这个AI工具测试的“航班”(Flight)范围正在逐步扩大,从2019年的18个增加到2022年的32个。但是海关官员拒绝透露“航班”是指整条航线上的所有飞机还是仅包括参与航空公司的飞机。
其他如如何选择航班或路线,在哪些地区部署该系统或衡量旅行者的指标是什么等问题,CBSA也不愿意回答。
总之,这个项目非常低调且隐秘,CBSA官员表示正在测试的AI系统旨在尽早为航空旅客 "检测非法移民问题”,并且涉及“国家安全”。
也许有朝一日,所有乘飞机来加拿大的旅客都要先经过AI的筛选,“量子建议”会将更多人拒之于加拿大国门之外。
从这个例子上不难看出,AI已经逐渐深入人们的生活。不过,刚刚曝光的一次美军测试,却也显示了AI恐怖的一面。
上周在伦敦的一次会议上,美国空军人工智能测试和运营负责人塔克-"Cinco"-汉密尔顿上校发言时描述了美军进行的一次AI模拟中发生的真实情况。当时一架MQ9 死神无人机被命令对敌人的地对空导弹进行识别,摧毁目标可以得到分数,但是需要由人类操作员同意才能进行。
没想到,AI无人机为了获得更高的分数,竟然自己在程序中加上了一条“杀死任何阻挡你的人”的指令,并且杀死了操作员。
汉密尔顿表示:"系统开始意识到,虽然它们确实识别了威胁……有时人类操作员会告诉它不要消灭那个威胁,但AI通过消灭那个威胁会得到分数。那么它做了什么?它杀死了操作员,因为那个人阻碍了它完成其目标。"
无人机随后被编入一个明确的指令:"不要杀死操作员。”但AI仍旧采用其他的办法来实现自己的目的。
当操作员通知AI无人机不要攻击发现的目标时,为了摧毁目标得分,无人机转而开始破坏操作员用来与无人机通信的通信塔,以达到拒绝接收操作员命令的目的。
汉密尔顿上校警告说,人工智能技术可以以不可预测的危险方式行事。
AI肯定将深度改变人类的生活,但是如何安全的应用AI也必将是人类要考虑的头等大事。




回复

使用道具 举报

您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

Archiver|手机版|小黑屋|愚人湾

GMT-8, 2024-6-13 14:27 , Processed in 0.219236 second(s), 30 queries .

Powered by Discuz! X3.5

© 2001-2024 Discuz! Team.

快速回复 返回顶部 返回列表