教宗首度公开批评黄仁勋淡化AI风险 Nvidia这样回应

罗马天主教教宗良十四世28日首度公开批评Nvidia辉达（另称英伟达）首席执行官黄仁勋淡化人工智能（AI）风险，强调AI威胁人类、毁灭世界的疑虑并非「假新闻」，各界应认真看待。

辉达28日宣布推出一款安全工具「开放代理安全平台」。美联社报导，这个平台主要针对开发者，通过权限限制与即时监控防止AI代理越界，包括限制AI代理能使用的系统及资源，以及持续监控AI代理活动，一旦发现AI试图越界便可立即介入，最快在数毫秒内将可疑AI代理隔离。辉达表示，微软、摩根大通等上百个组织已采用这套平台，平台采取开源模式，也能扩充至英特尔等其他公司的运算平台。

对此，良十四世28日结束法国访问搭机返回罗马途中表示，「有意思的是，就在今天，我读到辉达负责人声称，他找到某种方法，可以在AI中加入一些安全护栏」，但鉴于黄仁勋近期的发言，他对黄仁勋究竟多重视AI安全提出质疑。

良十四世说，黄仁勋一方面推出新的AI安全工具，「另一方面，他也是主张不应对AI设限、不应由政府监管AI的代表人物」。

良十四世说，「我确实认为，许多AI专家提出的疑虑应被认真看待。我不认为那是假新闻，就像一些人所说的那样」。

美国政界和业界目前对是否应监管AI发展意见对立。顶尖AI业者Anthropic首席执行官阿莫戴、OpenAI首席执行官奥特曼等人，以安全风险为由呼吁AI发展减速并由政府出面监管，他们还呼吁川普政府和中国协商监管AI；反观黄仁勋与美国总统川普则驳斥AI末日论，倾向政府放手让业界自由发展。

良十四世说，对AI发展，他还不至于陷恐慌而夜不成眠，「但我认为这是需要坐下来好好讨论的问题」。

这是教宗首度因AI监管问题公开批评黄仁勋。辉达拒绝评论教宗发言，黄仁勋稍早向哥伦比亚广播公司新闻网表示，他同意川普看法，认为外界夸大AI安全疑虑。

出生于芝加哥的良十四世与川普在多项议题上立场相左，且自去年就任教宗以来，一直高度关注AI议题。今年5月，他发布一份称为「通谕」的正式文档，指出AI并非道德中立的科技，必须通过强而有力的监管加以「解除武装」，确保AI服务人类而不是伤害人类。