原标题:《AI Can Write the Code. Who Verifies It?》 评分: 24 | 作者: mmarvramm 💭 让 AI 自审自测自修,出事谁还算负责人? 🎯 讨论背景 讨论源于生成式 AI 已能快速产出代码,却未解决“正确性由谁证明”的工程责任问题。传统软件质量体系依赖 QA(质量保证)、code review(代码审查)、unit test(单元测试)、e2e test(端到端测试)和 CI/CD(持续集成与持续交付),并强调越早发现缺陷越便宜。部分人希望用能操作软件、分析 logs(日志)与 metrics(指标)的 AI agent 自动测试和把关灰度发布;反对者则指出,复杂系统存在巨大的状态组合,且测试本身需要可靠的规格、稳定的组件边界和独立审查。争论还涉及 LLM(大语言模型)的非确定性:它不像传统 compiler(编译器)那样可由相同输入稳定复现输出,因此 prompt 尚不能自然充当可验证的源代码。 📌 讨论焦点 以速度和低成本换取生产环境容错 传统做法是由 QA 团队和工程团队共同验证,但这类人力投入常被企业削减。在安全关键的航电