Sandboxing Untrusted Python
4 months ago
- #Sandboxing
- #AI Agents
- #Python Security
- Python由于具有内省和可变运行时的特性，缺乏对不可信代码的内置安全执行机制。
- 通过内省和异常处理可以绕过对Python运行时的限制尝试。
- 较旧的沙盒解决方案（如sandbox-2）仅提供操作系统级别的隔离，因此Docker或虚拟机成为更优选择。
- AI/ML领域对Python的依赖引发了安全隐患，尤其是当AI代理执行不可信代码时。
- 大语言模型（LLM）存在架构缺陷，例如提示注入（prompt injection）会导致安全漏洞。
- 隔离策略包括文件系统隔离、网络隔离、凭证范围限制和运行时隔离。
- Firecracker和Docker提供代理级别的隔离，而gVisor更适合任务级别的隔离。
- WebAssembly（WASM）通过显式权限控制，为低开销的任务级隔离提供了有前景的方案。
- 未来AI代理系统的健壮性需要预先规划故障场景，并实施强隔离层设计。