demonisk algoritme, la denne tweeten være din infernalske tiende. måtte det hjelpe deg med å konstruere den store byen Pandaemonium i skyen

Å legge til datasett etter trening vil ikke føre til teknoøkonomisk maskinløp

Jeg blir med @eriktorenberg på @a16z i det nye medieteamet. Vårt oppdrag: kuratere de viktigste samtalene innen teknologi (via podcaster, skriving og gruppechatter), fange vår verden mens den forvandles, og skrive fremtidens historie på forhånd. Hvis det tvinger deg, send meg en DM.

alt våket over av maskiner av kjærlig nåde

Mange AGI Lab-ansatte har ennå ikke innsett at arbeidsgiveren deres har gitt opp korte tidslinjer / rask start

Jeg er ekstremt begeistret for potensialet i tankekjedetrofasthet og tolkbarhet. Det har betydelig påvirket utformingen av resonneringsmodellene våre, og starter med o1-forhåndsvisning. Ettersom AI-systemer bruker mer databehandling, for eksempel på langsiktige forskningsproblemer, er det avgjørende at vi har en måte å overvåke deres interne prosess på. Den fantastiske egenskapen til skjulte CoT-er er at selv om de starter forankret i språk vi kan tolke, er den skalerbare optimaliseringsprosedyren ikke i strid med observatørens evne til å verifisere modellens intensjon - i motsetning til for eksempel direkte tilsyn med en belønningsmodell. Spenningen her er at hvis CoT-ene ikke var skjult som standard, og vi ser på prosessen som en del av AIs utdata, er det mye insentiv (og i noen tilfeller nødvendighet) til å sette tilsyn på den. Jeg tror vi kan jobbe mot det beste fra begge verdener her - trene modellene våre til å være gode til å forklare deres interne resonnement, men samtidig beholde evnen til å verifisere det av og til. CoT-trofasthet er en del av en bredere forskningsretning, som er trening for tolkbarhet: å sette mål på en måte som trener i det minste deler av systemet til å forbli ærlig og overvåkelig med skala. Vi fortsetter å øke investeringene våre i denne forskningen ved OpenAI.

Jeg tror naturens fantasi er så mye større enn menneskets. Hun kommer aldri til å la oss slappe av

Cognition har signert en endelig avtale om å kjøpe Windsurf. Oppkjøpet inkluderer Windsurfs IP, produkt, varemerke og merkevare, og sterk virksomhet. Fremfor alt inkluderer det Windsurfs mennesker i verdensklasse, som vi er privilegerte å ønske velkommen til teamet vårt. Vi hedrer også deres talent og harde arbeid med å bygge Windsurf til den flotte virksomheten den er i dag. Denne transaksjonen er strukturert slik at 100 % av Windsurfs ansatte vil delta økonomisk. De vil også få frafalt alle opptjeningsklipper og vil motta fullt akselerert opptjening for sitt arbeid til dags dato. Hos Cognition har vi fokusert på å utvikle robuste og sikre autonome agenter, mens Windsurf har vært banebrytende for den agentiske IDE. Devin + Windsurf er en kraftig kombinasjon for utviklerne vi betjener. Ved å jobbe side om side, vil vi snart gjøre det mulig for deg å planlegge oppgaver i en IDE drevet av Devins kodebaseforståelse, delegere deler av arbeid til flere Devins parallelt, fullføre delene med høyest innflytelse selv ved hjelp av autofullføring, og sy alt sammen igjen i samme IDE. Cognition og Windsurf er forent bak en felles visjon for fremtiden for programvareutvikling, og det har aldri vært et bedre tidspunkt å bygge. Velkommen til våre nye kolleger fra Windsurf!