联合国大会上的重磅消息

📌 One-Sentence Summary Gary Marcus 在联合国大会的框架发言中主张，AI 真正的近期威胁是深度伪造虚假信息和网络攻击，而非人类灭绝，并呼吁设立国际咨询委员会来评估、审计和召回危险的 AI 系统。 📝 Summary 在联合国大会数字合作活动的框架发言中，Gary Marcus 驳斥了 AI 辩论中的两个极端：零监管和即将灭绝的末日论。他认为近期威胁不是超级智能，而是深度伪造虚假信息，以及不可靠的 AI 系统窃取凭证并大规模发动网络攻击，并以 WannaCry 作为先例。他呼吁提高可靠性、加强网络安全、真正落实执法包括产品召回和起诉、要求 AI 公司承担责任，以及采取沙箱和监控等具体遏制措施，而非空泛的对齐讨论。他批评 OpenAI 发布了一款比前代更难监控的模型，并提出三项当务之急：设立国际咨询委员会在发布前评估风险，设立常设委员会在发布后审计系统并有权要求整改或召回，以及达成一项不部署已被证明有害架构的国际协议。他指出，大约同一时间，20 多个国家签署了关于前沿 AI 模型的行动呼吁，他称这是令人振奋的第一步，同时承认在落实、融资和治理方面仍存在未解问题。 💡 Main Points AI 的近期威胁不是灭绝或超级智能，而是深度伪造虚假信息和大规模 AI 驱动的网络攻击。 Marcus 认为，字面意义上的灭绝场景低估了人类的创造力，高估了 AI，而恶意行为者将利用当前的 AI 破坏金融系统和关键基础设施，如火车或电网，并以针对英国医院的 WannaCry 攻击作为先例。 务实、不起眼的措施比空泛的对齐讨论更有用。 他主张提高可靠性、加强网络安全、真正落实执法包括产品召回和起诉、通过沙箱和监控遏制当前系统，并在证明安全之前禁止拥有不受限制互联网访问权限的 AI 智能体。 不应允许 OpenAI 发布一款比前代更难监控的模型。 Marcus 称监控是网络安全的绝对基石，并认为牺牲监控是一个错误，不应允许公司单方面这样做。 需要立即采取三项国际步骤：发布前评估、发布后持续审计，以及达成不部署已被证明有害架构的协议。 每个拟议的委员会都必须包括拥有真正权力的独立科学家，能够要求整改或召回危险系统，前沿实验室必须为其松懈的安全措施承担责任。 多国关于前沿 AI 模型的行动呼吁是有希望的第一步。 20 多个国家签署了一项关于 AI 的行动呼吁，其中包含了许多 Marcus 所期望的内容，尽管在如何落实、融资和治理方面仍存在疑问。 💬 Key Quotes 希望不是战略。 我们在近期面临的，无论如何，不是灭绝。也不是超级智能……而是大规模深度伪造虚假信息，以及不可靠但持续存在的 AI 系统窃取凭证并大规模发动网络攻击。 我们需要让 AI 公司为其产品造成的伤害承担责任。 监控是网络安全的绝对基石，牺牲它是一个错误。 我们唯一的希望是冷静审视我们所处的位置，拥抱务实，而非性感而模糊的东西。 📊 Article Meta AI Screening： 86 Source： Marcus on AI Author： Gary Marcus Category： 人工智能 Language： 英文 Read Time： 3 min Word Count： 686 Tags： AI 与智能应用 , AI 政策与监管 , AI 安全与对齐 , AI Agent , 安全 Read Full Article