活動人士表示,內政部推出的人工智能工具可在針對成人和兒童的移民執法行動方面提供建議,但這種做法可能會讓官員們輕率做出決策。
《衛報》報道,批評人士將該系統稱為「機械人案件工作者」,由於某種演算法參與了決策的制定,如將移民遣送回國,他們擔心此舉可能將不公正編碼植入移民系統。然而政府堅持認為,該系統可通過區分優先順序來提高工作效率,並且每個決定都由一名工作人員負責。該系統是在面臨遣返行動的尋求庇護者人數不斷增長之際投入使用的,目前這一人數約有4.1萬。
該系統是當局正在部署的若干人工智能項目之一,官員們希望提高辦公速度和效率。不過,一些人呼籲提高政府在健康、福利等領域使用人工智能工具的透明度。科學事務大臣彼得.凱爾表示,人工智能在改善公共服務方面具有巨大潛力。
內政部文件顯示,識別和優先處理移民案件系統(IPIC)被輸入了一系列關於可能採取執法行動的尋求庇護者的個人資訊,包括生物特徵、種族和健康以及犯罪記錄。文件稱其目的是為移民執法部門創造一種更簡捷、更有效的方式,以識別、優先處理和協調管理案件量所需的服務或干預措施。但「隱私國際」律師孟德爾松表示,內政部的人工智能工具可能會影響數十萬人的生活。「如果不做出改變確保演算法的透明度和問責制,內政部到2025年實現『默認數字化』的承諾將進一步將不公正編入移民體系。」
移民權利網絡首席執行官菲茲.庫雷希呼籲撤回該工具,並對人工智能可能導致的種族偏見表示擔憂。「IPIC輸入了大量數據,意味著可與其他政府部門共用數據以收集健康資訊,這表明該工具也將監視移民,進一步侵犯他們的隱私。」