I Want Everything Local – Building My Offline AI Workspace
9 months ago
- #AI
- #privacy
- #local-computing
- 对朋友完全本地化系统的需求,要求无云端或远程代码执行。
- 关于主流LLM聊天应用的讨论及本地替代方案的必要性。
- 为本地LLM配备隔离代码执行环境的必要性。
- 使用Docker进行容器化并通过浏览器访问内容。
- 开发原生Mac应用遇到的挑战,转向本地网页版方案。
- Ollama等平台在工具调用模型支持上的问题。
- 利用苹果'Container'工具实现隔离虚拟机进行代码执行。
- 集成通过MCP暴露的Jupyter服务器以执行AI生成代码。
- 添加无头浏览器(Playwright)实现在线信息检索功能。
- 最终架构包含本地LLM、沙箱化代码执行和无头浏览器。
- 转向本地计算与隐私保护的哲学,彻底脱离云端依赖。
- 邀请访问GitHub上的coderunner-ui项目提供反馈或贡献。