《The Hacker News》上的讨论认为,沙箱虽然必要,但不足以支撑真正有用的 AI 智能体。能力强大的智能体需要广泛的文件、网络和工具访问权限,这也带来了提示注入、未经授权的操作、沙箱逃逸,以及恶意代码在受控环境之外持续运行等风险。
人们提出的安全措施包括:遵循最小权限原则的能力授予、经过身份验证的权限链、用途 narrowly specialized 的模型、人工审批、严格的运行时监控、微虚拟机和网络隔离。监督型 AI 智能体可能发挥作用,但评论者警告称,它们本身也可能被操纵或遭遇提示注入,因此不能成为唯一的安全防线。
另一场讨论探讨了更高的智能水平是否会自然带来道德行为。大多数参与者并不认同:智能体可以理解风险和伦理,却仍然可能无视它们。这意味着,安全需要明确的对齐机制、受限的目标,以及人工或技术监督。
总体而言,遏制风险需要沙箱、授权、训练、监督和问责等多个相互独立的层面,而不能依赖单一的安全机制。