Guardian Angels: LLM Personalization for Productivity and Security
10 hours ago
- #Productivity Enhancement
- #Cybersecurity
- #AI Personalization
- 提出守护天使（GAs）概念，即高度个性化的LLM，能模拟用户的个性、价值观和偏好，以提升生产力并增强对AI威胁的防护。
- 指出当前固定式聊天机器人LLM的局限性，包括模式崩溃、惰性、脆弱性、提示易受攻击以及无法永久学习，这些因素阻碍了生产力的实质提升。
- 建议结合动态评估（在线学习）、主动学习、偏好引导和内省搜索/数据增强等技术，以创建有效的守护天使。
- 强调守护天使的核心原则：增强而非替代、精神主权（与主体保持一致）以及自我实现（帮助主体发展）。
- 讨论了实际实施的各个方面，包括安全要求（如防篡改云服务器）、成本考量（目标月费＞1,000美元）和组织结构（倾向于初创公司模式）。
- 提出初步步骤，例如使用大型个人语料库原型'Gwern Branwen Transformer'以探索守护天使的可行性，并旨在实现创意写作生产力100倍的增长。