联合国高级专员警告：AI 对人类构成“生存性”风险，呼吁设不可逾越的红线

落叶无尘

联合国人权事务高级专员沃尔克·蒂尔克（Volker Turk）周一警告称，人工智能可能对人类构成威胁，并承诺敦促人工智能企业降低风险。在开启史无前例的第二个任期前夕发表的讲话中，蒂尔克呼吁拿出“铁一般的保障措施”，保障人工智能安全。
“先进 AI 可能带来生存性风险”

蒂尔克在日内瓦向该机构表示：“我和业内人士同样担忧，先进人工智能可能会给人类带来生存性风险。”
“今天，我在此呼吁各方全力以赴，赶在为时已晚之前，为人工智能的安全保障确立牢不可破的硬性保障机制。”
蒂尔克并未详细阐述风险的具体性质，但其办公室的一名发言人表示，高性能人工智能系统一旦出现故障，可能会破坏关键基础设施。该发言人提及 7 月发生的所谓“Hugging Face 事件”中出现的“危险智能体训练行为”——大量 OpenAI 智能体对一个开源平台实施攻击。她称，该事件表明前沿人工智能技术的发展速度已经超过了安全防护能力。
少数人掌握“几乎不受约束的控制权”

蒂尔克同时警告，少数几个人手握“几乎不受约束的人工智能控制权”，但并未点名具体对象。
他说：“至少，我们需要人工智能研发所在国以及供应链相关国家共同商定一套不可逾越的红线。”