Building Agents That Don't Break Themselves
7 days ago
- #agent-safety
- #sandboxing
- #fly-platform
- 构建智能体很有趣，但重建具有自毁性的智能体就没那么好玩了。许多Fly用户创建智能体时，通过在Sprites中执行高风险操作来避免自毁。
- 智能体应将它们的生活环境（运行循环调用API的地方）与执行环境（运行可能危险代码的地方）分开。
- SpriteDoc展示了一个多用户智能体架构，其中每个会话都在一个隔离的Sprite中运行，确保用户命令被沙盒化，并且凭据仅临时注入。
- Hermes智能体使用Sprite后端在沙盒中运行shell命令，允许执行危险命令而无需批准提示，因为沙盒提供了安全保障。
- 即使智能体在沙盒中运行，其命令也应在单独、可丢弃的沙盒中执行，以防止自损并保持隔离。
- 使用Sprites可以实现廉价、快速且可丢弃的沙盒，这些沙盒在未使用时处于闲置状态，从而降低成本并便于轻松恢复会话。
- Sprites中的检查点功能支持撤销操作，使智能体在犯错（如意外删除文件）后能在几秒钟内回滚更改。
- 这种模式通过让智能体在隔离环境中自由操作来节省时间并增强安全性，因为最坏情况只需简单恢复而非全面补救。