My fireside chat about agentic engineering at the Pragmatic Summit
2 months ago
- #Agentic Engineering
- #AI Programming
- #Software Development
- AI在编程中的采用阶段：从使用ChatGPT到编码代理编写比开发者更多的代码。
- 信任AI输出：将AI与专业团队比较，在熟悉任务中对Opus 4.5等AI建立信心。
- 代理驱动的测试开发：强调测试的重要性，以及代理如何高效处理测试驱动开发。
- 手动测试与Showboat工具：使用工具记录手动测试，确保自动化测试之外的功能性。
- 一致性驱动开发：利用AI基于多实现构建测试套件以实现标准化。
- 代码质量：情境依赖的重要性，若引导得当，代理可产出高质量代码。
- 代码库模式与模板：保持代码库一致性和质量以有效指导AI代理。
- 提示注入与致命三重风险：将决策外包给易受骗的语言模型（含敏感数据访问）的危害。
- 沙盒隔离：在安全环境中运行编码代理以限制恶意指令的潜在损害。
- 用户数据的安全测试：避免测试中使用敏感数据，通过模拟处理边缘案例。
- AI模型的演进：GPT-4和Claude Code等关键转折点催生可靠AI编码代理。
- 探索模型边界：持续测试新模型以发现其能力与局限性。
- 精神耗竭与职业建议：用AI代理管理多项目并积极拓展技能边界。
- 对开源的影响：AI辅助编程时代下开源项目面临的挑战与机遇。