English

以資料為土壤,守護主權

2026 年 4 月 28 日

唐鳳

唐鳳談決策主權、有界在地守護者與聯邦式安全:在碎裂世界中,將關懷六力應用於企業 AI。

本文原刊於 The Kyndryl Institute,2026 年 4 月 28 日。

在全球局勢深度不確定的時刻,當地緣政治斷層移動、供應鏈承壓、監管邊界日益收緊,跨國企業的直覺反應往往是集中整合。

這個目標會變成我所謂的「企業版單一主宰」:所有遍布全球的專屬資料都得匯入單一雲端 AI 層,彷彿只要取得上帝視角,就能預測並管理混亂。然而,過度中心化不是韌性,而是單點故障。

多年來,科技業反覆把「資料是新石油」這句口號掛在嘴邊,彷彿資料是一種惰性資源,等待被開採、抽送到中央煉油廠,再加以變現。我們必須放下這個比喻。資料不是石油。資料是土壤。它是帶有養分的活土,讓決策在其中生根。不同的土壤孕育不同的作物,因為它們由不同的氣候、微生物、歷史與照料方式塑造而成。資料也同樣是關係性的:它繫於生成之地的文化、限制與現實。把資料從原有生態系中抽離,意義也會大幅流失。

但土壤還不是完整的故事。組織可以把資料妥善地留在本地,卻仍交出最關鍵的東西:判斷。它可以通過所有資料駐留檢查,卻把資料如何被詮釋、如何排列優先順序、如何轉化為行動,外包給一套並非為該組織設計、也不受該組織治理的 AI 系統——在別處訓練、在別處治理,並依他人的風險偏好最佳化。在這裡,AI 架構是否能維持資料主權,就成了決定因素。架構決定在地資料是由在地可問責、並在在地規則內運作的模型來詮釋,還是由遠端通用模型來詮釋——它的假設可以跨越管轄邊界,問責卻不會同行。資料主權的第一波問的是:「資料住在哪裡?」下一波必須問:「決策住在哪裡?」這就是我所謂的決策主權:不只是控制資料如何儲存,也要控制 AI 可以如何詮釋資料、可以觸發哪些行動、誰可以挑戰這些行動,以及條件改變時,如何把權限收回組織內部。

這樣一來,AI 不是主權本身的主體,而是主權被行使或被交出的機制。

挑戰大型主機心態

許多企業正帶著大型主機心態導入 AI:雲端裡有一個巨大的企業副駕駛,一個模型連上所有文件、工作流程與應用程式,所有人都成了對同一個智慧輸入指令的終端機。

這看起來很有效率,正如當年的大型主機。但它也製造出單一栽培的風險、中央蜜罐、隱藏的管轄依賴,以及組織能力的萎縮。在地細節被縮減成提示工程;在地權威被縮成一張權限表。風平浪靜時,這顯得方便;危機來臨時,它就成了瓶頸。上一季在既有模式上表現亮眼的全球模型,一旦新的關稅、衝突或法規在一夜之間改寫在地規則,就會立刻成為負債。

把能力與風險同時集中到單一控制點,並不是答案。碎裂化也不是。答案是「有界委託」。

從地神到守護者:決策主權的模型

在日本神道傳統裡,Kami(神)是與特定地方相繫的守護者:一片樹林、一條河、一棵老樹。祂的角色不是普世號令,而是照料一個生態系。地神近似於某種企業治理形式。為了讓實務意義更清楚,我把企業中的對應角色稱為「守護者」(steward):一種在地可問責的角色,可以由一個人、一個團隊或一個有界系統承擔,任務是在明確授權下、為明確社群運作一個 AI 智慧體。河流的守護者無意治理森林;同樣地,醫院分流系統的守護者,也不應同時成為薪資、人事或採購的守護者。

在牛津 AI 倫理研究所,我與同事 Caroline Green 共同建立了一套仁工智慧治理框架,稱為「關懷六力」(6-Pack of Care)。其核心概念是「有界性」:不同任務需要不同範圍的權限、責任與審查。

管理關鍵任務基礎設施的組織,往往已經在實踐這種守護;它們只是還沒有這樣命名。

村井純(Jun Murai)近期在 The Kyndryl Institute 的文章中主張,連結就是韌性,而有效治理至關重要。我同意。但關鍵問題不只在於治理是否有效,也在於由誰治理。這個角色應屬於依章程運作的在地守護者,而不是中心的無界模型。

想想大型企業 IT 服務商已經在做的事。它服務一個有界社群:醫院網絡的病患、區域銀行的存戶、交通系統的通勤者。它依明確的服務水準協議運作,維護稽核軌跡與事件回應流程;它實踐漸進式上線,先小規模測試,再安全地平行運行,並保留快速回滾的能力;合約結束時,它會交接系統。這些都是「有界守護」的作業習慣。

這些組織所欠缺的,往往不是營運紀律,而是一個能讓 AI 權限變得明確、在地、可挑戰的治理層。

過度中心化不是韌性,而是單點故障。

主權堆疊

對於把 AI 部署在核心決策中的組織而言,決策主權意味著不僅能決定資料駐留何處,還能決定資料如何被詮釋、哪些行動可以隨之發生、決策如何被審查,以及系統如何被暫停或替換。一個有用的思考方式,是把它視為五層堆疊:

  1. 駐留——資料住在哪裡。
  2. 存取——誰可以看見或使用它。
  3. 推論——哪些 AI 模型或分析系統可以基於它得出結論。
  4. 致動——哪些營運系統可以因這些結論而行動,例如發送訊息、核准付款、分派案件,或關閉一台機器。
  5. 退場——組織如何在不喪失連續性、紀錄與問責的前提下,暫停、遷移或退役該系統。

令人驚訝的是,當前許多 AI 計畫只走到前兩層為止。如今最大的企業風險,落在第三與第四層。資料即使留在本地,別處的通用模型仍可能決定如何分流病患、編排供應鏈、調查員工,或關閉一台機器。位置本身並不能保護判斷。而少了第五層「退場」,一個已將推論與致動委託給供應商的組織,在失敗、法規變動或危機之中——也就是系統已不宜繼續運作的時刻——便沒有可信的方式收回這些權限。

想像一家跨國保險公司,在日本、巴西與德國都營運理賠處理系統。按照傳統做法,三地全都把資料餵入位於美國資料中心的單一大型基礎模型——一個經廣泛訓練、再適配企業任務的通用 AI 模型。這個模型很強大,但也很通用。它不理解日本保戶期待的理賠往來語氣與節奏,和巴西保戶有所不同;它也很難遵循德國更嚴格的資料處理要求,除非先經過層層轉換與驗證,模型才得以處理那些資料。當它出錯——誤判一項理賠,或拒絕在地法規要求承保的項目——申訴流程會被導向一個與受影響社群毫無關係的全球團隊。

有界的替代方案則不同。每個管轄區都運作一個較小、領域專用的模型,以在地理賠資料、法規語言與互動模式進行微調。這些模型共享一套共通的評估框架,讓全球風險團隊得以比較績效、分享經驗;但詮釋、執行與申訴都留在在地。每個模型都可以獨立稽核、再訓練、暫停或退役。

安全要聯邦化,不要中心化

有界的守護者仍然必須合作,但不能重新製造出我們原本想擺脫的中心化脆弱性。答案是聯邦式架構:不是單一的全球安全權威,而是許多在地守護者依共同協定分享威脅情報與評估方法,同時把執行留在在地。

這已經在發生。ROOST(Robust Open Online Safety Tools,穩健開放線上安全工具)倡議於 2025 年 2 月在巴黎 AI 行動峰會啟動,示範的正是這個模式。Bluesky、Roblox、Discord 等夥伴各自訓練在地 AI 模型,在自己的脈絡中偵測傷害;威脅訊號則透過聯邦式學習分享。安全依在地規範調校,而不是被單一企業政策主宰。

檢驗這樣的聯邦是否運作良好,其實很簡單:一次衝擊之後,在地團隊與夥伴對系統的信任,是上升還是下降?在動盪的世界裡,危機之後信任的升降,是一項核心的業務連續性指標。

退場的勇氣

企業基礎設施常受我所謂的「帝國蔓延」所困:系統超出授權範圍而擴張,因為它們從一開始就以永遠存在為前提打造。這裡的「守護」,應該意味著在明確界定的目的之內運作系統。當那個目的從未說清楚、從未被審查,也從未被帶向終點,守護就會變成帝國。原本只用來排程維修的助理,悄悄變成採購代理;防詐模型悄悄變成員工監控系統;服務台助理悄悄變成行為評分引擎。沒有人授權這些擴張;它們之所以發生,是因為沒有人界定邊界,也沒有人設計終點。

一個有界的企業守護者,設計時就帶有落日條款:嚴格的資源上限、明確的授權,以及到期日或審查日。當臨時合資案結束、併購後整合完成,或特定危機平息,守護者就從容退場。它歸檔機構記憶,將決策軌跡與評估結果交給繼任者,然後關機。這就是組織在不無限期承擔不必要敏感脈絡的前提下,保存問責的方式。一個無法在不弄垮企業的情況下關閉的 AI 智慧體,不是工具,而是負債。能從容交接的組織,才是客戶會信任其進行下一次部署的組織。

因此,我會鼓勵領導者做到以下五點:

  1. 為每個 AI 系統制定章程。 沒有具名的擁有者、公開的範圍、暫停觸發條件與交接計畫,任何部署都不該上線。少了這些,無論模型多麼精巧,都只是未受治理的基礎設施。
  2. 將資料駐留重新定位為設計資產。 投資於在地微調。一個以日本保險理賠、巴西薪資法規或德國能源遙測之特定模式訓練出來的模型,往往會比通用模型表現更好,同時滿足駐留要求。
  3. 先寫章程,再發 RFP。 召集將受影響的人。透過結構化審議來界定範圍、紅線、嚴重等級與補救措施,並以此作為採購規格的基礎。任何範圍擴張,都應重新取得授權。
  4. 加入聯邦式安全網路。 將資安資訊分享擴及 AI 特有事件。分享證明、模型卡與評估結果,而不是原始資料。目標是共享防禦,而非共享依賴。
  5. 先設計退場,再擴大規模。 每一次部署都需要落日條款與繼任計畫。如果無法在不喪失連續性的前提下切換模型、雲端或供應商,擁有的就不是主權,而是被管理的依賴。

企業的多元性

「單一全球智慧層就是答案」這個假設需要被重新檢視,在脆弱或高度受監管的環境中尤其如此。能蓬勃發展的組織,不會是那些把牆築得最厚、把中央資料庫做得最大的組織,而是那些把資料視為有生命的土壤、任命在地守護者來照料它,並以「信任、協調與問責是否在壓力下變得更強」來衡量成功的組織——而不是看一個模型能否回答來自每一個大洲的每一個問題。

有韌性的企業,會少一點像單一大腦,多一點像受信任守護者組成的聯邦:一個個在地可問責的治理角色,各自照料自己的土壤、分享學到的事,也知道何時該放手,讓下一個季節開始。

首頁 下一章