AI毁灭人类的温柔方法｜林一一

㖊晚跑步听podcast，有个大学教授系个清谈节目度倾AI几时毁灭人类。我以为又系Terminator𠮶套，听落先发现佢个推论阴湿好多。佢话AI唔会起兵造反，反而只会慢慢咁，帮你做多啲决定。

现实中生育率一路跌，工作同生活越嚟越靠AI。到某一日，AI已经可以帮人类做绝大部分决定，人类嘅生活以AI为主导。人越嚟越少，但地球照样运作——电照供、货照送、数照计。净低AI喺度维持一切。冇战争，冇杀戮，冇一粒子弹。人类就系咁，静静鸡咁退咗场。

我听完，冇觉得科幻。因为我最近喺啲green loan嘅case入面，已经见过呢个机制嘅细版本。

个model唔系预测，系制造

而家银行同保险，越嚟越靠AI气候模型决定：边个借到钱、边个保得起、保费收几多。

呢个唔系未来，系现在进行式。2026年，保险公司嘅风险评估已经细到逐个ZIP code咁划——卫星图像加AI工具，令佢哋可以极快、极大规模咁重画风险地图。美国自2018年以嚟，超过190万份家居保单被取消，气候变化系主因。欧洲亦都开始出现「不可保区域」。

讲到呢度，要解释一样香港人比较陌生嘅嘢：FAIR Plan。美国每个州都有呢样机制，中文叫「最后保险人」——当全世界私人保险公司都唔肯保你间屋，你最后仲可以买呢个。佢1960年代设立，本来系为咗俾𠮶班因为城市骚乱而被市场遗弃嘅业主，起码买到基本保障。半个世纪之后，佢接收紧嘅系另一批难民：被气候模型判咗死刑𠮶班。

有两点要留意。第一，佢唔系政府出钱，而系强制所有喺𠮶个州做生意嘅保险公司，按市占率夹钱孭——即系话，你前门用个model踢走高风险客，佢后门就跌返落你自己个池度。第二，佢保费贵、保额低、保障窄，系一个「有得买」但唔等于「保得掂」嘅选项。

所以FAIR Plan嘅规模，其实就系私人市场撤退嘅温度计。加州FAIR Plan由2022年约27万张保单，暴升到2026年3月超过68万张，升幅152%。呢68万个业主，唔系自己拣嘅。佢哋系俾model踢出正常市场，跌落嚟嘅。

个model判你高风险，保费即刻飞涨，或者索性唔保。冇咗保险，你就借唔到按揭；借唔到钱，就冇人买得起；冇人买，楼价冧埋，税收跟住跌。个社区冇咗钱，防洪做唔到，调适做唔到，于是佢真系变得更高风险。跟住个model下次update，判得更狠。

睇到未？个model冇预测到未来。个model系制造咗未来。

预言点样令自己成真

社会学家Robert Merton喺1948年，畀咗呢样嘢一个名：自我实现嘅预言（self-fulfilling prophecy）。佢个经典例子系银行挤提。一间本来健康嘅银行，有日流传话佢周转不灵。谣言系假嘅。但啲人信咗，一齐冲去提款，结果间银行真系倒闭。到最后，个谣言变成「准确」——但佢唔系准确，佢系自己动手，令自己准确。

底层逻辑，系更早嘅Thomas定理：当人们将一个情境定义为真实，其后果就会系真实。气候模型做紧嘅嘢，一模一样。分别喺边？银行挤提要人群恐慌，要好多人同时做决定；而今日，得一个model就够。佢一出分，资金即刻自动撤走——快过任何谣言，而且唔使人信，只需要系统照做。

更阴湿嘅系：你冇得同佢嗌交。

银行挤提，你至少可以出嚟辟谣、show盘数、开记者会。但一个AI model判你一个score，你连个对手都揾唔到。个model系黑箱，冇人解释得到点解，冇人肯改，亦都冇人孭。你唔系被判死刑，你系被「计算」出嚟。

呢个就系𠮶个podcast讲紧嘅嘢。AI唔需要恨你。佢只需要帮你做决定，然后全世界照做。

唔系唔了解你，系太了解你

香港对呢件事，有一种令人安心嘅乐观。

金管局推紧绿色及可持续银行、气候风险管理、可持续金融分类目录，今年内仲要出银行绿色转型规划指引；财政预算案年年讲要巩固「国际绿色金融中心」地位；《香港可持续披露准则》都排紧队落地。文件一份接一份，会议一场接一场，全部都做得好靓。

而且，行内人一定会即刻同你讲：唔使咁灰，我哋根本唔系盲收欧美𠮶套。中国同亚洲，一直都有自己嘅气候风险数据库——本地灾害纪录、本地水文、本地参数，同我哋嘅相关度，高过欧美𠮶啲一大截。呢个系事实。亦都系好事。但如果你以为，问题系「个model唔够了解我哋」，咁你就答错咗题。

返去睇真Merton𠮶间银行：佢系俾一个假谣言搞冧嘅。个预言之所以得人惊，系因为佢连本来系假嘅都可以成真。咁如果个预言本来就系真嘅呢？

如果啲数据真系准、个model真系贴地、个判断真系啱——咁场挤提唔止会发生，仲会发生得更快、更合理、更冇得拗。换句话讲：一个更准、更本地、更relevant嘅气候模型，做嘅唔系救你。佢系令个判决来得更快、更有理有据、更加冇人可以出声。你花十年心血，起咗全世界最准确嘅大湾区台风数据库，然后个model攞住你自己嘅数据，一丝不苟咁计出你系高风险——资金一样咁撤。分别只系，今次你连句「佢哋唔了解我哋」都讲唔出口。

更好嘅数据库，改变唔到个三角洲嘅地理。

我哋一路以为，呢场系一个考试：份数据做得靓啲、份披露做得齐啲、条轨接得准啲，改卷𠮶个就会畀返个公道分数。但个model唔系考官，佢系一道闸。闸唔会欣赏你份卷几靓，唔会睇你有几努力、出过几多份披露、攞过几多个「可持续发展卓越大奖」。佢净系计你个地理位置同气候表现，然后决定你过唔过到。

到𠮶日资金静静鸡撤走，你会发现，你成柜嘅ESG报告，连同𠮶个盖满印章嘅PDF，一页都挡唔到。

冇人按过制 score静静跌两级

𠮶个podcast所讲嘅推论最恐怖嘅地方，唔系AI会杀人。系佢画𠮶个画面里面，冇一个坏人、冇疯狂科学家、冇想造反嘅机器。每一个人，每一日，都只系做紧一个好合理嘅决定：呢个model计得快啲、准啲、平啲，咁咪用佢囉。然后有一日，冇人再记得个决定系点样做出嚟嘅。

气候呢件事，都一样。唔会有一日，有个人企出嚟宣布「我哋放弃呢个地方」。只会系一个score静静鸡跌咗两级，一批保单静静鸡唔续，一啲贷款静静鸡批唔落。冇人按过制，冇人签过名，冇人孭过飞。到最后，个地方真系死咗。

咁我哋系咪完全无野可以做？下期再讨论。

林一一