联合国警告监管跟不上AI发展 吁制定全球规范保护儿少

联合国秘书长古特瑞斯（Antonio Guterres）今天警告，人工智能（AI）发展已超出所有人能跟上的速度，呼吁制定全球性规范，以降低潜在风险，特别是对儿少带来的危害。

路透报导，联合国在日内瓦举行首届政府级全球AI对话会议，古特瑞斯告诉与会代表：「这项科技能重塑经济、改变工作型态、左右选举并打破安全平衡，其发展速度之快，包括开发人员在内的所有人都难以跟上。」

他说：「创新需要护栏（规范）…如果AI要展现强大力量，就必须受到治理。」

联合国首度举办全球AI治理对话，并非为了缔结条约，而是希望在这项为期2天的会议上，讨论如何制定规范来降低AI的潜在危害，并善用其带来的机遇。

与会代表将审议一份由联合国（UN）支持、由40位专家组成的独立科学小组所提出的报告，他们将在会中发表首度针对AI所做的全球独立科学评估结果。

至于更全面的报告预计将于明年推出，届时也将在纽约举行第2场全球性会议。

● 全球性AI规范

古特瑞斯强调，在发生未成年人被引导走向自残，以及被伪装成朋友的AI欺骗等案例后，全球性AI规范必须将儿童安全置于首位。

他指出：「在药物被证明安全之前，我们不会让儿童服用。我们测试每一样玩具。然而，在没有人探究会对儿童带来什么影响之前，AI就已经接触到我们的孩子，涉入他们的学习、他们的友谊，以及他们最私密的问题。」

古特瑞斯呼吁签署一项「AI儿童安全承诺」（ AI Child Safety Pledge），要求开发这些系统的公司必须先证明其安全性，才能让儿童接触使用。

此外，系统也不应被允许生成儿童色情图像；当儿童表现出痛苦迹象时，系统应该停止运作，并将他们转介给真人寻求协助。

古特瑞斯指出，虽然AI带来重大机遇，例如在医疗保健领域，但世界各国的体制尚未对由机器做出决策做好准备，且AI惊人的发展速度，意味着机器在做出选择时，愈来愈缺乏人类或政府的监督。

古特瑞斯告诉与会代表：「互联网花了15年才触及10亿人口，而AI只花了2年就办到了。」

他也警告，最先进的AI系统正集中在少数企业与国家手中，意味着开发中国家在AI的发展上几乎没有发言权，并面临被抛在后头的风险。

科学专家的独立报告发现，AI的发展甚至更加集中。在全球前500台AI超级电脑中，美国占了75%的算力，中国则占15%。

报告还提到，尽管全球目前每周有超过10亿人使用对话式AI，但开发中国家运用的进度依然落后。

● 弥合AI鸿沟

古特瑞斯表示，如果运用得当，AI可以将数十年的发展缩短为几年，进而可能成为「21世纪伟大的平等器」。

利比亚总统委员会主席曼菲（Mohamed al-Menfi）敦促缩小非洲的AI落差；非洲人口占全球10%，但拥有的全球数据中心却不到2%。

他说：「如果非洲国家无法使用AI，AI就不能算是一项正当的资源。」他呼吁非洲国家应更广泛地参与AI规范的制定。

乔治亚总统卡韦拉什维利（Mikheil Kavelashvili）则告诉与会代表，全球领袖也肩负共同责任，必须制定强而有力的国际法，以防止AI的力量成为「极权控制与新数字暴政的工具」。