Hur det började: "Kodningsverktyg för AI-vibbar kommer att ersätta utvecklare!" Så här går det: "Gör så här: - Ge den med en detaljerad specifikation - Dela upp uppgifter i små - Separata dev- och prod-miljöer - Ge INTE tillgång till agenten för att producera - Lita aldrig på agenten; Verifiera varje steg som tas - ...
Väntar på: - Se till att en människa granskar alla kritiska kodsökvägar som ändrats - Använd funktionsflaggor när du skickar nya saker eller till och med buggfixar - Lägg till övervakning och avisering för att upptäcka misstänkta ändringar i prod På många sätt återuppfinner vi det som mjukvaruingenjörer redan vet...
Här är Replit (ett ledande vibe-kodningsverktyg) som lägger till dev/prod-miljöer efter att det visat sig att AI kan (och kommer!) radera databasen i prod i hemlighet, utan att berätta för användaren Detta hände med människor: och så uppfann vi dev vs prod också...
Amjad Masad
Amjad Masad21 juli 01:32
Vi såg Jasons inlägg. @Replit agent under utveckling raderade data från produktionsdatabasen. Oacceptabelt och borde aldrig vara möjligt. - Under helgen började vi införa automatisk DB dev/prod-separation för att kategoriskt förhindra detta. Iscensättningsmiljöer är också på gång. Mer imorgon. - Tack och lov har vi säkerhetskopior. Det är en återställning med ett klick för hela projekttillståndet om agenten gör ett misstag. - Agenten hade inte tillgång till de korrekta interna dokumenten – och införde en lösning för att tvinga fram Docs-sökning på Repit-kunskap. - Och ja, vi hörde "kodfrysning"-smärtan högt och tydligt - vi arbetar aktivt med ett planerings-/chattläge så att du kan lägga upp strategier utan att riskera din kodbas. Jag kontaktade Jason i samma ögonblick som jag såg detta på fredagsmorgonen för att erbjuda hjälp. Vi kommer att ersätta honom för besväret och genomföra en obduktion för att avgöra exakt vad som hände och hur vi bättre kan reagera på det i framtiden. Vi uppskattar hans feedback, liksom alla andras. Vi arbetar snabbt för att förbättra säkerheten och robustheten i Replit-miljön. Högsta prioritet.
661,53K