AI毀滅人類的溫柔方法｜林一一

噚晚跑步聽podcast，有個大學教授係個清談節目度傾AI幾時毀滅人類。我以為又係Terminator嗰套，聽落先發現佢個推論陰濕好多。佢話AI唔會起兵造反，反而只會慢慢咁，幫你做多啲決定。

現實中生育率一路跌，工作同生活越嚟越靠AI。到某一日，AI已經可以幫人類做絕大部分決定，人類嘅生活以AI為主導。人越嚟越少，但地球照樣運作——電照供、貨照送、數照計。淨低AI喺度維持一切。冇戰爭，冇殺戮，冇一粒子彈。人類就係咁，靜靜雞咁退咗場。

我聽完，冇覺得科幻。因為我最近喺啲green loan嘅case入面，已經見過呢個機制嘅細版本。

個model唔係預測，係製造

而家銀行同保險，越嚟越靠AI氣候模型決定：邊個借到錢、邊個保得起、保費收幾多。

呢個唔係未來，係現在進行式。2026年，保險公司嘅風險評估已經細到逐個ZIP code咁劃——衛星圖像加AI工具，令佢哋可以極快、極大規模咁重畫風險地圖。美國自2018年以嚟，超過190萬份家居保單被取消，氣候變化係主因。歐洲亦都開始出現「不可保區域」。

講到呢度，要解釋一樣香港人比較陌生嘅嘢：FAIR Plan。美國每個州都有呢樣機制，中文叫「最後保險人」——當全世界私人保險公司都唔肯保你間屋，你最後仲可以買呢個。佢1960年代設立，本來係為咗俾嗰班因為城市騷亂而被市場遺棄嘅業主，起碼買到基本保障。半個世紀之後，佢接收緊嘅係另一批難民：被氣候模型判咗死刑嗰班。

有兩點要留意。第一，佢唔係政府出錢，而係強制所有喺嗰個州做生意嘅保險公司，按市佔率夾錢孭——即係話，你前門用個model踢走高風險客，佢後門就跌返落你自己個池度。第二，佢保費貴、保額低、保障窄，係一個「有得買」但唔等於「保得掂」嘅選項。

所以FAIR Plan嘅規模，其實就係私人市場撤退嘅溫度計。加州FAIR Plan由2022年約27萬張保單，暴升到2026年3月超過68萬張，升幅152%。呢68萬個業主，唔係自己揀嘅。佢哋係俾model踢出正常市場，跌落嚟嘅。

個model判你高風險，保費即刻飛漲，或者索性唔保。冇咗保險，你就借唔到按揭；借唔到錢，就冇人買得起；冇人買，樓價冧埋，稅收跟住跌。個社區冇咗錢，防洪做唔到，調適做唔到，於是佢真係變得更高風險。跟住個model下次update，判得更狠。

睇到未？個model冇預測到未來。個model係製造咗未來。

預言點樣令自己成真

社會學家Robert Merton喺1948年，畀咗呢樣嘢一個名：自我實現嘅預言（self-fulfilling prophecy）。佢個經典例子係銀行擠提。一間本來健康嘅銀行，有日流傳話佢周轉不靈。謠言係假嘅。但啲人信咗，一齊衝去提款，結果間銀行真係倒閉。到最後，個謠言變成「準確」——但佢唔係準確，佢係自己動手，令自己準確。

底層邏輯，係更早嘅Thomas定理：當人們將一個情境定義為真實，其後果就會係真實。氣候模型做緊嘅嘢，一模一樣。分別喺邊？銀行擠提要人群恐慌，要好多人同時做決定；而今日，得一個model就夠。佢一出分，資金即刻自動撤走——快過任何謠言，而且唔使人信，只需要系統照做。

更陰濕嘅係：你冇得同佢嗌交。

銀行擠提，你至少可以出嚟闢謠、show盤數、開記者會。但一個AI model判你一個score，你連個對手都搵唔到。個model係黑箱，冇人解釋得到點解，冇人肯改，亦都冇人孭。你唔係被判死刑，你係被「計算」出嚟。

呢個就係嗰個podcast講緊嘅嘢。AI唔需要恨你。佢只需要幫你做決定，然後全世界照做。

唔係唔了解你，係太了解你

香港對呢件事，有一種令人安心嘅樂觀。

金管局推緊綠色及可持續銀行、氣候風險管理、可持續金融分類目錄，今年內仲要出銀行綠色轉型規劃指引；財政預算案年年講要鞏固「國際綠色金融中心」地位；《香港可持續披露準則》都排緊隊落地。文件一份接一份，會議一場接一場，全部都做得好靚。

而且，行內人一定會即刻同你講：唔使咁灰，我哋根本唔係盲收歐美嗰套。中國同亞洲，一直都有自己嘅氣候風險數據庫——本地災害紀錄、本地水文、本地參數，同我哋嘅相關度，高過歐美嗰啲一大截。呢個係事實。亦都係好事。但如果你以為，問題係「個model唔夠了解我哋」，咁你就答錯咗題。

返去睇真Merton嗰間銀行：佢係俾一個假謠言搞冧嘅。個預言之所以得人驚，係因為佢連本來係假嘅都可以成真。咁如果個預言本來就係真嘅呢？

如果啲數據真係準、個model真係貼地、個判斷真係啱——咁場擠提唔止會發生，仲會發生得更快、更合理、更冇得拗。換句話講：一個更準、更本地、更relevant嘅氣候模型，做嘅唔係救你。佢係令個判決來得更快、更有理有據、更加冇人可以出聲。你花十年心血，起咗全世界最準確嘅大灣區颱風數據庫，然後個model攞住你自己嘅數據，一絲不苟咁計出你係高風險——資金一樣咁撤。分別只係，今次你連句「佢哋唔了解我哋」都講唔出口。

更好嘅數據庫，改變唔到個三角洲嘅地理。

我哋一路以為，呢場係一個考試：份數據做得靚啲、份披露做得齊啲、條軌接得準啲，改卷嗰個就會畀返個公道分數。但個model唔係考官，佢係一道閘。閘唔會欣賞你份卷幾靚，唔會睇你有幾努力、出過幾多份披露、攞過幾多個「可持續發展卓越大獎」。佢淨係計你個地理位置同氣候表現，然後決定你過唔過到。

到嗰日資金靜靜雞撤走，你會發現，你成櫃嘅ESG報告，連同嗰個蓋滿印章嘅PDF，一頁都擋唔到。

冇人按過制 score靜靜跌兩級

嗰個podcast所講嘅推論最恐怖嘅地方，唔係AI會殺人。係佢畫嗰個畫面裡面，冇一個壞人、冇瘋狂科學家、冇想造反嘅機器。每一個人，每一日，都只係做緊一個好合理嘅決定：呢個model計得快啲、準啲、平啲，咁咪用佢囉。然後有一日，冇人再記得個決定係點樣做出嚟嘅。

氣候呢件事，都一樣。唔會有一日，有個人企出嚟宣布「我哋放棄呢個地方」。只會係一個score靜靜雞跌咗兩級，一批保單靜靜雞唔續，一啲貸款靜靜雞批唔落。冇人按過制，冇人簽過名，冇人孭過飛。到最後，個地方真係死咗。

咁我哋係咪完全無野可以做？下期再討論。

林一一