国际货币基金(IMF)警告,最新人工智能(AI)模型可能引发一连串系统失灵风险,给金融体系带来「系统性」震撼,并敦促世界各国当局为「无可避免」的系统遇骇未雨绸缪。
美国科技公司开发的新AI模型,如Anthropic的Claude Mythos,能找出放款机构的网络资安弱点,让监管当局提高警觉。IMF警告,这些新AI模型的功能「使网络风险升级至总经金融震撼」,将威胁全球银行体系。
IMF近期发文说:「先进AI模型可能大幅降低找出并利用弱点所需的时间与成本,升高同时发现并攻击常用系统弱点的可能性。因此,网络风险日益涉及关联失灵,以及系统层面的信心。」文中指出,最近Mythos限量发布「凸显风险迅速升高」。
美国AI新创公司Anthropic上月表示,Mythos已找出「数千个」严重弱点,「其中某些弱点见于每一种主要操作系统和网页浏览器。对经济、公共安全和国家安全可能构成严重影响」。
Mythos初期只对大多位于美国的40个机构发布,包括亚马逊、微软、摩根大通等大银行,并提供他们修补程序,以堵住Mythos抓出的漏洞。
这让美国以外的机构担心,若无法取得新AI模型,举凡医院、银行、电厂,都可能暴露于网攻风险。
IMF呼吁,各国决策官员务必加强国内公、私部门合作以及跨国合作,因为「网络风险不分国界」,并敦促采取措施保护金融体系,包括网络压力测试、情境分析、监控网络风险提高到董事会层级。
IMF警告,由于金融体系抵御新AI技术驱动的大规模网攻能力备受质疑,「若多家机构同时受影响,可能引发信心效应、支付中断、流动性紧缩,然后是资产贱价抛售」。
彭博资讯报导,川普政府正草拟行政命令,准备把AI公司纳入现有的网络安全资讯分享计划,让政府与AI公司合作找出并修补联邦、州和地方政府网络的安全漏洞,防止AI驱动的网络攻击。
