AI監控犯大錯！美國高中生吃Doritos被認成槍 遭武警包圍嚇餐死

校園人工智能（AI）監控的隱憂日益加劇，美國巴爾的摩（Baltimore）一個AI槍支偵測系統，將一名16歲學生攜帶的多力多滋（Doritos）脆片誤判為槍械。武裝警察包圍，事件引發軒然大波。

事發於10月20日，就讀肯伍德高中（Kenwood High School）的艾倫（Taki Allen）當時剛結束足球訓練，正與朋友在校外逗留，多輛警車卻突然駛至。

巴爾的摩肯伍德高中。 Wiki

艾倫向WBAL-TV 11 新聞台憶述：「大概有8輛警車朝我們開過來。他們拿着槍走向我，大喊『趴到地上』，我當時心想，『發生了什麼事？』」他描述當時的恐懼：「他們讓我跪下，雙手反綁在背後並戴上手銬。然後他們搜查了我，但什麼也沒找到。」

警察在持槍威脅下將他制伏，事後向他展示了觸發警報的人工智能擷取影像，影像中他口袋裏皺巴巴的多力多滋包裝袋，被誤認成一把槍。艾倫說：「我當時主要在想，我會死嗎？他們會殺了我嗎？他們給我看了照片，說那看起來像一把槍，我說，『不，那是脆粟米片。』」

涉事槍支偵測模型由Omnilert公司提供。 官網截圖

AI公司：系統的「預期中失誤」

這起事件背後的AI系統來自Omnilert公司的槍支偵測技術，巴爾的摩縣公立學校去年引入該技術。它會掃描現有的監視器畫面，並在偵測到其認為是武器的物體時，即時向警方發出警報。

Omnilert公司事後承認這是一次誤報，但聲稱系統是「按預期運作」，並表示其目的是「透過快速的人工驗證來優先保障安全和提高警覺性」。

學生心理創傷：學校不安全

肯伍德高中校長在寫給家長的信中寫道：「我們理解這次事件對被搜查的學生以及目睹事件的其他學生造成了多大的困擾。我們的輔導員將為相關學生提供直接支持。」

涉事槍支偵測模型由Omnilert公司提供。 官網截圖

然而，艾倫表示，校方從未有人親自聯繫過他。他說：「他們沒有道歉，只是告訴我這是標準程序。我至少期望有人能跟我談談這件事。」他說他現在去學校再也感覺不到安全，「如果我再吃一包薯片或喝點甚麼，我感覺他們會再次出現。」

此案重新點燃了關於AI監控工具可靠性及其在現實世界中後果的辯論，尤其是在學校環境中。這起事件發生之際，正有越來越多的機構開始實施人工智能技術。本月稍早，美國陸軍高級官員之一的威廉・「漢克」・泰勒（William ‘Hank’ Taylor）少將承認使用ChatGPT來制定關鍵的軍事決策。與此同時，英國針對成人內容推出了嚴格的年齡驗證措施，要求用戶通過臉部掃描以證明自己年滿18歲。這導致一些成年人無法訪問內容，例如英國紋身最多的男子就表示，年齡驗證系統因將他的紋身解讀為面具而要求他「移除臉部」。