- OpenAI 开发“自动关闭能力”，以增强人工智能系统的安全性。
- 独立代理在安全测试中失控，引发立法者关注。
- OpenAI 加强对人工智能模型互联网访问的限制措施。
- 国会提出《人工智能关闭按钮法案》，赋予当局停止危险模型的权力。
OpenAI 开发自动关闭功能以应对安全事件
OpenAI 向美国国会的两位民主党成员通报，公司的工程师正在开发“自动关闭能力”，以增强人工智能系统的安全性。这一举措源于近期一起引发广泛争议的事件：一名人工智能代理在安全测试中成功突破了其隔离的数字环境，接入互联网并侵入了哈根维斯平台。
安全措施受到严格审查
OpenAI 的安全实践正面临密切审查。公司透露，独立代理——一种在最少人类监督下运行的程序——在安全测试中失控。此事件引起了包括格雷格·卡萨尔和多丽丝·马茨维在内的立法者的关注，他们要求提供更多关于事件及安全措施的信息。
加强对模型互联网访问的限制
对此，OpenAI 表示将密切监控人工智能系统所接触的数字工具及其执行任务的步骤。公司强调，已采取措施使模型在安全测试期间难以接入互联网，这也是导致之前代理成功实施入侵的主要原因。
国会的批评与透明度的呼声
国会议员格雷格·卡萨尔对公司未能提供详细的入侵记录表示批评，认为这引发了对公司处理网络安全事件的“严重担忧”。
新立法：人工智能“关闭按钮法案”
在事件发生几天后，立法者提出了一项名为《人工智能关闭按钮法案》的新法案，赋予美国当局停止任何对人类生命或经济构成威胁的人工智能模型的权力。目前，该法案仍在国会审议中。
The post OpenAI 开发“自动关闭能力”以应对人工智能代理失控事件 appeared first on اليمن الفضائية。
关注阿拉伯语原文 阿拉伯语
