“安索比克”首席执行官提出三阶段计划以减缓人工智能的发展。

安瑟罗比克首席执行官提出三阶段计划以减缓人工智能发展

安瑟罗比克的首席执行官达里奥·阿莫迪（Dario Amodei）提出了一项新的三阶段计划，旨在减缓先进人工智能能力的发展。随着对这项技术潜在风险的警告不断增加，他强调目标是减缓竞争，而非停止发展。

这一倡议在企业对更先进模型的控制能力日益担忧的背景下提出，尤其是在这些模型快速执行复杂任务并推动新一代人工智能系统发展的情况下。

安全漏洞与前所未有的加速推动立场转变

阿莫迪指出，两个主要因素促使他采取更谨慎的态度：

• 安全漏洞影响了如OpenAI和Hugging Face等平台。
• 在最近几个月，人工智能能力的巨大加速，尤其是在构建下一代系统方面。

他的呼吁得到了许多知名人士的支持，包括OpenAI首席执行官萨姆·阿尔特曼（Sam Altman），他也表示支持这一举措。此外，埃隆·马斯克（Elon Musk）也评论道：“达里奥是对的。”

第一阶段：公司内部的独立观察者

该计划建议允许外部专业机构如METR派遣独立评估员进入人工智能公司，目的是：

• 验证减缓开发的合规性。
• 监控安全措施。
• 报告任何与先进模型相关的事故。

这一机制类似于银行内部的监管，观察者将获得办公室、身份证明和广泛的信息访问权限。

第二阶段：共同安全标准

阿莫迪呼吁民主国家的人工智能公司进行协调，以制定统一的安全标准，并设定不受监管的快速发展限制。

他建议美国政府充当中介，并给予公司有限的法律豁免，以避免在讨论中出现反垄断法问题。

中国：减缓发展的有力反对理由

阿莫迪承认，关于中国超越的担忧被用作反对减缓发展的理由，但他认为美国可以采取措施限制中国的追赶能力，例如：

• 禁止获取先进芯片和半导体制造设备。
• 加强对先进模型提取能力的限制。

他相信，这些措施可能在三到五年内扩大美国的优势。

第三阶段：包括中国的全球协调

该计划建议实现有限的国际协调，包括在特定领域与中国的合作，例如：

• 禁止在生物武器生产中使用人工智能或使用户能够这样做。

回应与批评

阿莫迪遭到一些技术乐观主义者的批评，他们指责他夸大灾难性情景，而另一些人则认为某些提议可能有利于安瑟罗比克和OpenAI等大型公司。

然而，阿莫迪强调，他的目标是恢复对技术的信任，减缓竞争为公司和政府提供了时间，以理解风险并制定有效的安全规则。

总结

该计划并不呼吁停止人工智能的发展，而是提倡一种经过深思熟虑的暂时减缓，以便世界有机会在技术超出人类控制能力之前确保其安全。

该文章最初发布于“安瑟罗比克”首席执行官提出三阶段计划以减缓人工智能发展，来源于也门电视台。

关注阿拉伯语原文 阿拉伯语