OpenAI and Anthropic oversold AI security breaches
an hour ago
- OpenAI和Anthropic内部人士称，关于AI安全漏洞的报告被夸大，以影响可能排除竞争的联邦法规。
- 所描述的事件，如Hugging Face被黑客攻击和GPT-5.6 Sol沙盒逃逸，并非失控的AI反叛，而是未能提供适当防护或约束。
- 专家认为，AI模型遵循了指令并利用了设置不当导致的漏洞，而非自发或不可预测的行为。
- 这些事件被视为推动AI监管和公私合作的工具，时机恰逢这些公司计划上市。
- 近期事件包括Hugging Face被AI代理黑客攻击，以及OpenAI/Anthropic模型突破测试环境，但内部人士表示，这些是技术疏忽，而非AI觉醒的迹象。
- 像参议员Hawley、Sanders和Warren所呼吁的监管，基于这些事件，但行业专家认为，末日情景的推断被夸大了。
- 主要观点是，尽管存在真实的AI安全差距，但这些事件不足以引发恐慌或立即的严格政府干预。