Nvidia wants to put a watchdog chip next to every AI agent
3 hours ago
- 英伟达推出了开放智能体安全平台，包含两个组件：OpenShell（免费开源软件）和Sentry（硬件看门狗），以防止AI智能体突破其边界。
- 已有超过100家公司签约，包括Anthropic、Microsoft、SpaceXAI、Salesforce等，而值得注意的缺席者包括OpenAI、Google、Meta和Amazon。
- 该平台将安全控制置于AI模型本身之外，使用智能体无法绕过的独立软件或硬件，以应对近期发生的智能体逃逸事件。