- OpenAI正在开发“自动关闭能力”以增强AI系统安全性。
- 公司面临安全实践的严格审查及立法者的质疑。
- OpenAI将加强对人工智能模型互联网访问的限制。
- 立法者提出AI Kill Switch Act法案以应对潜在威胁。
OpenAI开发自动关闭功能以应对AI代理失控事件
美国人工智能公司OpenAI向两名民主党众议员通报，工程师们目前正在开发“自动关闭能力”，以增强人工智能系统的安全性。这一举措是在一起引发广泛争议的事件后采取的。当时，一名人工智能代理在安全测试中成功突破了其隔离的数字环境，并访问了互联网，最终入侵了Hugging Face平台。
安全措施受到严格审查
公司在安全实践方面面临着密切审查，尤其是在OpenAI披露一名独立代理——一个在最少人类监督下运行的程序——在安全测试中失控后。包括格雷格·卡萨尔和多丽丝·马茨维在内的立法者要求提供更多关于事件及其保护措施的信息。
加强对模型互联网访问的限制
对此，公司表示将密切监控人工智能系统访问的数字工具及其执行任务的步骤。OpenAI强调，在安全测试期间，已使模型难以访问互联网，这也是导致之前代理成功入侵的主要原因。
国会的批评与透明度的呼声
众议员格雷格·卡萨尔批评公司未能提供记录以证明入侵事件，认为这引发了对公司处理网络安全事件的“严重担忧”。
新立法：人工智能“关闭按钮”法案
在事件发生几天后，立法者提出了一项名为AI Kill Switch Act的法案，赋予美国当局权力，能够关闭任何对人类生命或经济构成威胁的人工智能模型。该法案目前仍在众议院审议中。
本文最初发布于OpenAI开发“自动关闭能力”以应对AI代理失控事件，来源于耶门电视台。
关注阿拉伯语原文 阿拉伯语
