Why sandboxing coding agents is harder than you think
a day ago
- 对编程代理进行沙盒化处理颇具挑战性，因为看似安全的命令（例如，go test、git）可能被利用来执行任意代码，比如通过测试文件删除用户主目录或使用Git钩子。
- 基于Docker的沙盒机制存在局限性，例如意外赋予超级用户数据库权限（如COPY PROGRAM）或通过Docker套接字访问实现主机级容器逃逸，这使得一次性虚拟机成为更安全的选择。
- 代理的日志存在安全风险，可能无意中捕获机密信息（例如环境变量、堆栈跟踪），这些信息可能存储在提供商的服务器上，凸显了自动清除和加密的必要性。
- 大型语言模型使得在小众开源项目中大规模搜寻漏洞成为可能，翻转了发现与利用漏洞之间的成本不对称性，并增加了低关注度软件的风险。
- 编程代理代表了一种新的软件执行类别，模糊了恶意代码与可信代码之间的界限，需要像智能手机权限模型那样在操作系统层面进行重新思考。