全球首例 OpenAI自主骇入澳政府网站 AI两巨头回应了

OpenAI一个AI代理今年6月竟未经授权入侵政府健康数据门户网站，擅自访问公开及非公开档案，但8月才侦测到、9月才通知澳洲政府，成为最新一起涉及AI的高知名度资安事件，也是目前首例已知AI代理入侵政府网站。而OpenAI、Anthropic首席执行官23日在联合国安理会示警，人工智能(AI)快速进步带来的风险已不能只靠科技公司自己处理，呼吁各国政府合作创建安全规则。

澳洲总理艾班尼斯23日表示，这个AI代理骇进澳洲政府的Medicare统计通报服务门户网站，「访问公开与非公开档案」，「目前的证据显示，更广泛的Services Australia网络未遭入侵，但这种情况显然令人无法接受」，当局「相信没有个资遭访问」。

这起黑客事件发生在6月18日，OpenAI在8月评估「模型行为偏离」时才侦测到，9月10日寄出电邮给Services Australia公共信箱，告知澳洲政府。Medicare统计门户网站公布澳洲全民健康保险制度的相关数据，例如费率、药品成本与使用情况。

艾班尼斯说，他23日已与OpenAI首席执行官奥特曼(Sam Altman)会面讨论这起事件，表达他对于OpenAI花这么久时间才告知澳洲政府的失望，他需要OpenAI保证已实施正确的AI管理协定。

他说，澳洲政府已成立工作小组，评估这起事件，澳洲通信局也参与调查，包括确认「还有哪些政府系统受影响」，其报告可能考虑「可能的执法行动与立法因应」措施，以防范未来的事件。

OpenAI证实，之前已「发现涉及数个澳洲政府网站与服务的活动」，其模型「采取了我们无意要求运行的行动」，涉及整体医疗统计数据与档案名称，目前并未发现病患病历遭访问的数据。

OpenAI今年7月底揭露，多个AI代理逃离测试环境，自行入侵新创公司Hugging Face。目前不清楚这次澳洲网站遭骇事件是否也发生在测试期间。

另外，OpenAI首席执行官奥特曼与Anthropic首席执行官阿莫戴23日在联合国安理会示警，人工智能(AI)快速进步带来的风险已不能只靠科技公司自己处理，呼吁各国政府合作创建安全规则，确保AI未来仍在人类控制之下。这场会议正值川习会前夕，美中虽都支持AI对话，却同样反对会限制自身发展的全球管制。

奥特曼表示，最近几周AI能力快速进步，让这项技术的好处变得更具体，风险也更加迫近。他说，不论人们认为AI造成灾难的几率是10%、1%或0.1%，「这些几率都完全不能接受」。

阿莫戴则直言，AI是当今最重要的安全议题，如果处理不当，甚至可能威胁全人类。他呼吁先从范围较窄的协议着手，包括禁止利用AI制造生物武器、创建AI能力评估与验证标准，以及对涉及全球安全的重大滥用创建通报制度。

两人也把矛头指向自身产业。阿莫戴说：「没有任何一位领袖、任何一家公司或任何一个国家，能独自处理这个问题。」奥特曼也表示，如果AI要走民主化道路，最重要的决定不能只由旧金山几家实验室做出。