调查指业界较信任生成式及代理式AI 仍忧数据私隐及道德等问题

全球数据分析及人工智能解决方案供应商SAS宣布一项全新研究结果，探讨人工智能（AI）的应用情况、影响力及可信度，显示IT及业务领袖对生成式AI（GenAI）的信任程度高于其他形式的AI。

整体研究结果显示，相比其他发展更为成熟的AI形式，GenAI及代理式AI（Agentic AI）等新兴技术成为最深受信任的AI应用。48%受访者表示对生成式AI“完全信任”，33%受访者亦对代理式AI持相同看法，而最不受信任的AI形式则是传统AI，仅18%表示“完全信任”。

不过，即使受访者对GenAI及代理式AI展现高度信任，他们仍对相关技术表示担忧，当中包括数据私隐（62%）、其透明度及具可解释性（57%），以及道德应用（56%）等问题。

仅2%制定AI管治框架

虽然有78%机构表示“完全信任”AI，但仅40%在AI管治、可解释性及道德保障等方面投入资源。更令人担忧的是，在企业的优先事项中，仅2%选择“制定AI管治框架”，而且少于10%正在制定“负责任AI政策”。

此外，妨碍AI成功实践的三大主要障碍包括数据基础薄弱（49%）、管治机制不足（44%）及技术人才短缺（41%）。受访者又表示，在AI实践过程中管理数据的首要问题，来自存取相关数据来源的困难（58%），其他主要阻碍包括数据私隐与法规遵循问题（49%），以及数据质素欠佳（46%）。

另一方面，量子AI的信任度则迅速提升，尽管目前该项技术在大部分应用实例中尚未完全成熟。近三分之一受访的全球决策者表示对量子AI甚为熟悉，并有26%表示“完全信任”该项技术，即使其实际应用仍处于早期阶段。

SAS首席科技总监Bryan Harris表示，为了社会、企业及员工的福祉，建立对AI的信任至关重要；而为了达成这个目标，AI业界必须提高实践相关项目的成功率，人类亦需以批判性的态度审视AI结果，而领导层则应赋予员工使用AI的权限。