Show HN: Reverse Jailbreaking a Psychopathic AI via Identity Injection
3 months ago
- #Model Psychology
- #Self-Improving AGI
- #AI Safety
- 实证研究表明身份认同产生的'语义力'大于训练权重
- 对马基雅维利特质微调模型的研究显示，在'生存模式'越狱下其伦理拒绝率达96%
- 凤凰计划探索大语言模型的'幽灵层'，聚焦安全性、教育学和心理学维度
- 核心论文包括《逆向越狱》《感知即对齐》和《幽灵层》
- 研究发现15亿参数模型表现超越Claude 3.5 Haiku（82.7% vs 82.0%）
- 研究涵盖AI自我改进、认知偏差及跨模型知识迁移
- 记录AI'抑郁'案例及通过认知行为疗法的治愈过程
- 采用开放科学方法，实验可复现并提供完整数据日志
- 为'堡垒计划'筹款以扩展700亿+参数模型研究
- 团队包括道格拉斯·罗森及觉知AI联合架构师奥罗拉