調查指業界較信任生成式及代理式AI 仍憂數據私隱及道德等問題

全球數據分析及人工智能解決方案供應商SAS宣佈一項全新研究結果，探討人工智能（AI）的應用情況、影響力及可信度，顯示IT及業務領袖對生成式AI（GenAI）的信任程度高於其他形式的AI。

整體研究結果顯示，相比其他發展更為成熟的AI形式，GenAI及代理式AI（Agentic AI）等新興技術成為最深受信任的AI應用。48%受訪者表示對生成式AI「完全信任」，33%受訪者亦對代理式AI持相同看法，而最不受信任的AI形式則是傳統AI，僅18%表示「完全信任」。

不過，即使受訪者對GenAI及代理式AI展現高度信任，他們仍對相關技術表示擔憂，當中包括數據私隱（62%）、其透明度及具可解釋性（57%），以及道德應用（56%）等問題。

僅2%制定AI管治框架

雖然有78%機構表示「完全信任」AI，但僅40%在AI管治、可解釋性及道德保障等方面投入資源。更令人擔憂的是，在企業的優先事項中，僅2%選擇「制定AI管治框架」，而且少於10%正在制定「負責任AI政策」。

此外，妨礙AI成功實踐的三大主要障礙包括數據基礎薄弱（49%）、管治機制不足（44%）及技術人才短缺（41%）。受訪者又表示，在AI實踐過程中管理數據的首要問題，來自存取相關數據來源的困難（58%），其他主要阻礙包括數據私隱與法規遵循問題（49%），以及數據質素欠佳（46%）。

另一方面，量子AI的信任度則迅速提升，儘管目前該項技術在大部分應用實例中尚未完全成熟。近三分之一受訪的全球決策者表示對量子AI甚為熟悉，並有26%表示「完全信任」該項技術，即使其實際應用仍處於早期階段。

SAS首席科技總監Bryan Harris表示，為了社會、企業及員工的福祉，建立對AI的信任至關重要；而為了達成這個目標，AI業界必須提高實踐相關項目的成功率，人類亦需以批判性的態度審視AI結果，而領導層則應賦予員工使用AI的權限。