根據人權觀察組織（Human Rights Watch）日前公布的一項調查，世界銀行資助的一種用于確定哪些家庭應該在約旦獲得經濟援助的算法，可能將符合條件的人排除在外。

這個名為 Takaful 的算法系統使用一種保密的計算方法，對 57 個社會經濟指標進行加權，將申請援助的家庭按照貧困程度排名。然而，申請人表示，這種計算方法并不能反映現實情況，而且過于簡單化了人們的經濟狀況，有時是不準確或不公平的。Takaful 已經花費了 10 多億美元，世界銀行正在為中東和非洲的其他八個國家的類似項目提供資金。

(資料圖片僅供參考)

（來源：HUMAN RIGHTS WATCH）

人權觀察發現了算法系統的幾個根本問題，這些問題導致了偏見和不準確。例如，申請人被問及他們消耗了多少水和電，這是進入排名系統的兩個指標。

該報告的作者得出結論，這些不一定是可靠的貧困指標。一些接受采訪的家庭認為，他們擁有一輛車的情況影響了他們的排名，即使這輛車很舊、是上班交通所必需的。

報告寫道，“這種統計客觀性的外表掩蓋了一個更復雜的現實：人們所承受的經濟壓力和他們所處的困境往往是算法看不到的。”

報告援引阿卜杜勒哈馬德（Abdelhamad）的話說：“所問的問題并沒有反映出我們所處的現實。”他是兩個孩子的父親，每月收入僅有 250 第納爾（353 美元），生活入不敷出。

Takaful 還用帶有性別歧視的法律法規強化了已有的性別歧視狀況。現金援助只提供給約旦公民，同時算法考慮的一個指標是家庭規模，而與非公民結婚的約旦男子可以將公民身份傳給配偶，但反過來約旦女性不能。對于這些女性來說，這導致可報告的家庭規模較小，使她們不太可能獲得援助。

該報告基于人權觀察在過去兩年中進行的 70 次采訪，而不是定量評估，因為世界銀行和約旦政府沒有公開披露 57 項指標的清單、指標的加權明細，也沒有公開有關算法決策的全面數據。

人權觀察的人工智能和人權研究員、該報告的作者阿莫斯·托（）表示，這些發現表明對于使用算法決策的政府項目來說，有必要提高它的透明度。許多受訪家庭對排名方法表示不信任和困惑。他說：“約旦政府有責任讓其更加透明。”

人工智能倫理和公平的研究人員呼吁對福利系統中越來越多的算法進行更多的審查。美國紐約大學教授梅雷迪思·布魯薩德（）說：“當你開始為這個特定的目的構建算法，以決定誰有權獲得時，總是會發生需要幫助的人被排除在外的情況。”

她說：“這似乎是又一個糟糕設計的例子，它最終限制了最需要援助的人獲得援助。”

世界銀行資助了該項目，該項目由約旦國家援助基金管理，該基金是政府的一個社會保護機構。針對該報告，世界銀行表示，計劃于 2023 年 7 月發布有關 Takaful 計劃的更多信息，并重申其“致力于推進普遍社會保障的實施，并努力確保所有人都能獲得社會保障。”

該組織鼓勵在 Takaful 等涉及資金的項目中使用數據技術，稱其提高了成本效益，提高了分配的公平性。

支持：Ren

排版：朵克斯

關鍵詞：