Code and Trust: Vibrators to Pacemakers
10 months ago
- #programming
- #AI
- #trust
- 振动器与起搏器控制程序的对比，强调两者虽用途不同但结构相似
- 探讨起搏器编程的复杂性与关键性，包括容错设计和监管标准（ISO 14971、IEC 62304等）
- 关于代码作者信任度的讨论：对比djb等个人程序员与FDA审计企业，以及AI在未来编程中的潜在角色
- 对AI介入关键系统（如起搏器、汽车制动）的担忧，涉及AI生成代码的安全性与可信度挑战
- 主张通过代码、规范及流程的彻底透明化，作为建立AI生成/审计系统信任的前提条件