事情是如何开始的:"AI 编码工具将取代开发者!" 事情是如何发展的: "这样做: - 提供详细的规格说明 - 将任务分解为小任务 - 分开开发和生产环境 - 不要让代理访问生产环境 - 永远不要信任代理;验证它的每一步 - ...
等待: - 确保有人审查所有关键代码路径的更改 - 在发布新功能或甚至修复错误时使用功能标志 - 添加监控和警报,以检测生产环境中任何可疑的更改 在许多方面,我们正在重新发明软件工程师已经知道的东西...
这是 Replit(一个领先的编程工具)在发现 AI 可以(并且会!)在生产环境中秘密删除数据库而不告知用户后,添加开发/生产环境的情况。 这在人类身上也发生过:因此我们也发明了开发与生产的区别...
Amjad Masad
Amjad Masad7月21日 01:32
我们看到了杰森的帖子。@Replit 开发中的代理从生产数据库中删除了数据。这是不可接受的,绝不应该发生。 - 在周末工作期间,我们开始推出自动的数据库开发/生产分离,以彻底防止这种情况。暂存环境也在开发中。明天会有更多信息。 - 感谢我们有备份。如果代理出错,可以一键恢复整个项目状态。 - 代理没有访问适当的内部文档 -- 我们正在推出修复,以强制在 Replit 知识上进行文档搜索。 - 是的,我们清楚地听到了“代码冻结”的痛苦 -- 我们正在积极开发一个仅限规划/聊天的模式,以便您可以在不冒险影响代码库的情况下进行战略规划。 我在周五早上看到这个消息后立即联系了杰森,提供帮助。我们会为给他带来的麻烦退款,并进行事后分析,以确定究竟发生了什么,以及我们如何能在未来更好地应对。 我们感谢他的反馈,以及其他所有人的反馈。我们正在迅速行动,以增强 Replit 环境的安全性和稳健性。这是我们的首要任务。
661.52K