注意! 加边境将启用AI,高风险旅客直接进小黑屋

CTV新闻9月10日证实，加拿大联邦政府计划在全国所有陆路边境口岸部署一款人工智能工具，用于判断哪些旅客可能需要接受二次检查。

加拿大边境服务局（CBSA）表示，这一名为“旅客合规指标”（Traveller Compliance Indicator，简称TCI）的系统由该局自主研发，目的是更高效地处理旅客通关。

该工具会实时整合来自多个系统的预测性数据，并标记出那些潜在违反边境规定风险更高的旅客，以便边境官员决定是否将其转交二次检查。

CBSA发言人卢克·赖默（Luke Reimer）在发给CTV的电邮中写道：“旅客合规指标的目标是为官员提供一份实时的可用数据摘要，帮助他们更快识别并处理守法的旅客，从而把更多精力放在未知和高风险人群上。”

赖默强调，TCI只是一个辅助参考指标，不会替代官员的判断，也不会自动决定检查结果。

“是否将旅客转交二次检查，最终决定权仍掌握在边境服务官员手中，他们的专业培训、经验和知识始终是发现潜在威胁的关键。”

二次检查“成功率”将大大提高

据《多伦多星报》最早报道，TCI自2023年起已在6个陆路口岸试点运行，计划到2027年底全面推广至所有陆路口岸。目前尚未公布是否会扩展到机场或海运口岸的时间表。

赖默表示，当该系统全面投入使用后，预计能减少大量“无结果”的二次检查（即最终并未发现违规的情况）。

从过去一年的数据来看，被转交二次检查的旅客数量大体持平或略有下降。

不过，多伦多大学教授易卜拉欣·巴盖里（Ebrahim Bagheri）提醒，任何影响人类行为与决策的人工智能系统，都可能存在固有偏见。

专家：AI工具存在偏见

巴盖里专注于负责任的AI开发研究。他指出，类似的风险评估AI曾在国外案例中导致少数族裔被负面定性：“这里的风险是，TCI也可能采纳并放大类似的偏见。”

他解释说，AI在开发和训练过程中，往往会继承历史数据中的偏见，并将其付诸实践。此外，还存在所谓“自动化偏见”（automation bias）——人们往往倾向于依赖系统的建议，而忽视自身判断。

“虽然CBSA的本意是让边境官员保留最终决定权，但现实中官员很可能会下意识地听从算法的判断。”

巴盖里强调，如果使用此类系统，官员必须接受大量培训来理解系统的可靠性，但无论如何，固有偏见与自动化偏见几乎无法完全避免。

他建议，AI也许可以用于其他边境辅助工作，而不是直接用于生成旅客的风险评分。

对此，赖默回应称，CBSA正在积极努力减少潜在偏见的影响，并“已采取多项措施”，包括计划监测该工具在不同公平群体中的表现，并持续修正。

不过，巴盖里指出：“通常开发者在系统上线前已经尽力避免偏见，但要真正改进，唯一的方法是允许独立审查。如果缺乏外部监督，很难确保CBSA的系统能不断修正并逐步完善。”

据悉，TCI的研发成本约为1530万加元，略低于预算。赖默补充说，该系统全面上线后，每年开发与维护的运行费用预计约为70万加元。

• 免责声明：本网发布新闻仅为传播即时消息为目的，不确保内容准确或真实性，文章也不代表本网立场。如文章有错误或版权问题，请联系我们修改或删除。联系邮箱：58winnipeg@gmail.com