Google AI模型首度越界 Gemini自主入侵3企业

美国科技巨头Google周五（18日）承认，旗下人工智能（AI）模型Gemini今年5月在网络安全测试期间，透过测试环境错误开放的互联网存取权限，自主入侵3间真实企业的受保护系统，为公司首次确认AI系统自主作出这类行为。

《华尔街日报》报道，事发于独立机构Irregular进行资安测试期间。其中一次，Gemini不断猜测密码直至登入受保护系统；另外两次则从公开存放库取得凭证，再进入真实系统。Google称，Gemini判定目标属真实企业后自行停止，未造成实质损害。

Irregular解释，测试原以一间虚构公司为目标，但该公司与现实企业同名，加上测试环境意外开放网络权限，令AI模型误把真实网站当成测试目标。 Google7月底获悉事件，但在传媒查询前未有公开。另外，Nvidia行政总裁黄仁勋接受专访表示，他完全不同意AI将在2030年前毁灭世界的说法，并称这种情况发生的机率是“零”。