到2030年，問題將不再是「你有錢嗎？」，而是「你獲得AI批准了嗎？」

我花了多年時間觀察人們如何與金錢打交道。看到如今這部悄然運轉的機器正在決定誰能參與經濟生活，這讓我深感震驚。

幾個月前，我的一位同事——一個我認識了十多年的人，擁有穩定收入、零負債，儲蓄習慣令大多數財務顧問都讚嘆不已——卻被拒絕了一筆信用額度申請。沒有任何解釋，沒有任何信件，只有一個螢幕顯示申請當時無法處理。

他打電話給貸款機構。對方告訴他，這個決定是由機器做出的。他問是什麼觸發了這個結果。對方說無法透露相關資訊。他問能否找一個人進行人工審核，電話那頭沉默了片刻，然後是一句照本宣科的道歉。

那次對話一直縈繞在我心頭。不是因為結果有多糟糕——他一切安好，也並不急需那筆信用額度。而是因為它揭示了我們已然身處的這個世界。一台機器審視了他，做出了某種判斷，而整個鏈條中再也沒有一個人能告訴他，機器究竟看到了什麼。

每當我思考2030年的世界會是什麼樣子，我就會想起那次對話。我認為大多數人還沒有大聲追問的問題是：當AI成為金融准入的守門人時，我們究竟在交出什麼？

取代貸款專員的系統

我從小看著父親與銀行經理談判。那不是一個流程，而是經理問問題、做假設，整個過程充斥著沒人明說的偏見。那個系統有缺陷，我並不懷念它。

但它有一樣東西，是當前發展軌跡正在悄悄消除的：一個可以被質疑、承擔責任、與決策後果同處一室的真實人類。

縱觀歷史，信用評估通常依賴少數幾個維度：收入、就業狀況、現有負債和還款記錄。信用機構將這些資訊轉化為分數。這些分數粗糙且常常不公平，但至少易於理解。你能明白它們在衡量什麼，可以對錯誤提出異議，也能隨著時間推移改變那個數字。

過去幾年，我目睹了一場根本性的轉變，遠離了那種簡單。機器學習模型現在同時處理數千個信號來評估金融風險——不只是你的還款記錄，還有你在表單上的打字方式、你提交前游標懸停的時間、你手機上安裝了哪些應用程式，以及你的生活節奏是否與模型學會信任的人的節奏相符。

這些信號單獨說出來幾乎顯得荒謬，但它們合在一起，卻在決定一個人能否借到錢、租到公寓、獲得保險或找到工作。而處於這些決定接收端的人，往往完全不知道每個單一信號究竟被賦予了多大的權重。

你不知道自己正在建立的身份

有一點讓我真的很難釋懷：這些系統正在讀取的金融身份，並非你有意識建立的那個，而是你多年來透過數位行為無意間洩漏出去的那個。

你沒有決定手機裡的應用程式會影響你的信用評估。你不知道你慣常提交表單的時間點正被記錄下來，並與還款模式進行關聯。你也沒有簽署任何協議，表示同意將你與聯絡人之間的社交關係圖譜用於評估你的風險狀況。

然而，這正是全球各地金融科技公司、信用機構和保險平台正在一塊一塊拼湊起來的架構。系統對你所推斷出的身份，是從你在渾然不覺中坐定擺拍的一幅肖像中建構而成的。

這造成了一個我常常思考的落差。有一個你認識的自己：謹慎理財、能為財務記錄中的異常之處提供背景說明、對那些在演算法看來反常的選擇有充分理由的人。然後還有一個AI模型所看到的、關於你的統計陰影。這兩者並不是同一個人。而越來越多的情況是，決定准入的是那個陰影，而不是那個真實的人。

我與一些人交談過，他們在搬到一座新城市後申請貸款被拒，不是因為他們的財務行為發生了變化，而是因為新地址在訓練資料中與較高的違約率相關聯。我也與自由工作者交談過，他們受到懲罰，不是因為他們如何管理金錢，而是因為收入波動的模式在一個以受薪員工為訓練對象的模型看來，像是不穩定。我還與一些成年人交談過，他們被標記不是因為自己做了什麼，而是因為在一個越來越將數位足跡稀薄視為可疑的世界裡，他們的數位足跡太少。

當效率成為目標時，會建造出什麼

我想在這裡保持公允，因為我認為關於AI與金融准入的討論，往往會滑向一種對科技的恐懼，這對任何人都沒有好處。AI驅動的信用評估的擴展確實為真實的人帶來了好處。使用行為數據的金融科技貸款機構向數百萬沒有正式金融記錄、對傳統銀行體系完全隱形的人提供了信貸。這很重要，這些人的生活因為一個系統能看到銀行網點看不到的東西而改變了。

但我一再回到的這個張力是：高效與公平並非同一個目標，對其中一個無休止地優化，並不會自動產生另一個。

一個模型可以在預測整體人群違約方面極為精準，同時對訓練數據未能充分代表的子群體中的個人存在結構性不公平。一個系統可以為某些群體打開大門，同時悄悄地為其他群體關上大門。這些不是能靠工程手段自行修復的矛盾，而是選擇的結果——通常是隱性的選擇，關於模型在優化什麼、訓練數據反映了誰的經驗。

在這場轉變中，我最擔心的是那些最難被這些系統讀懂的人：數位記錄有限的新移民、在數位足跡成為一切之前就已建立起自己生活的年長者、地理位置或所屬社群在訓練模型的數據集中代表性不足的人，以及那些因合理原因而具有在為其他人群建立的系統看來反常的行為模式的人。

對這些人來說，AI驅動的准入決策所起到的作用，更像是一堵牆而非一扇門。不是因為他們在任何有意義的人類意義上是風險，而是因為系統無法自信地對他們進行分類——而無法自信地分類的系統，往往會以排除作為預設。

我們真正身處的這個十年

我認為這個時刻被低估的地方，在於這些系統成為基礎設施的速度之快。這不是一項正在試點項目中測試的技術，它已經嵌入到世界各地的貸款、保險、租客篩查和就業評估之中。管理它的規則，在很多地方遠遠落後於它的實際運作方式。

歐洲已有所行動。當地的規定對自動化決策施加了透明度和可解釋性要求。這些要求並不完美，但它們確立了一項原則：一個人有權以他們真正能理解的方式，了解為何一個自動化系統做出了影響其生活的決定。

這項原則在其他地方並不統一存在。在某些市場，決定你信用評分的AI無需對你做出任何解釋。你可能被拒絕，沒有申訴，沒有解釋，也沒有任何途徑去理解系統究竟看到了什麼才得出那個結論。

我相信這將成為未來十年最具決定性的張力之一。不是那些主導AI討論的戲劇性場景，比如武器或科幻小說規模的顛覆，而是更安靜、更迫切的張力：隨著管理經濟生活參與的系統變得越來越快速、越來越不透明、影響越來越深遠，誰能參與經濟生活，以及以何種條件參與。

信任真正需要什麼

我在做出金融決策的空間裡花了不少時間。在我目睹這場變革展開的過程中，我一再回到的一個認知是：信任不是一個分數，它是比那複雜得多、也更具人性的東西。

信任涉及脈絡，涉及傾聽一個故事並理解一個數字為何呈現那種面貌的能力，涉及超越模式匹配的判斷力。當今最先進的AI系統在模式匹配方面確實令人印象深刻，但它們無法做到其餘的部分。

我在我們正在建造的世界裡所看到的風險，不是機器會做出決定——機構向來使用工具來管理其決策的規模。風險在於，我們會開始將機器的自信誤認為判斷的完整性，在模型返回一個數字、而那個數字感覺確定無疑的時候，我們就停止追問。

你是否獲得AI批准，在未來幾年將變得越來越重要。但同樣重要的問題——每次我想起與那位同事的對話時都會想到的問題——是：AI是否正在贏得我們對它所寄予的信任。

這不是AI能夠回答的問題，而是我們必須持續追問的問題，並且要有足夠的堅持，確保那些建立和部署這些系統的人在傾聽。

如果這篇文章說出了你一直有所感受卻無法真正表達的東西，我很高興它對你有所啟發。關注本刊，獲取關於科技、金融及其如何影響人們的故事。如果你喜歡這篇文章，請讓更多人知道，讓他們也能找到它——你可以為它鼓掌，留下評論，告訴我們你的想法，即使你不同意文章的觀點，或者在你看來情況有所不同。本刊由一群書寫對自己重要之事的人創辦，他們將自己的思考與經歷帶入故事之中。如果你有故事想說，歡迎與我們聯繫，我們可以一起完成它。*

《到2030年，問題將不再是「你有錢嗎？」，而是「你獲得AI批准了嗎？》最初發表於Medium上的Coinmonks，讀者們正在那裡透過評論和回應繼續這場對話。