Ik heb het "autoresearch" project verpakt in een nieuwe zelfstandige minimale repo als mensen in het weekend willen spelen. Het is in wezen de kern van nanochat LLM-training, teruggebracht tot een versie met één GPU en één bestand van ~630 regels code, dan: - de mens werkt aan de prompt (.md) - de AI-agent werkt aan de trainingscode (.py) Het doel is om je agents te ontwerpen zodat ze de snelste onderzoeksvoortgang oneindig maken zonder enige betrokkenheid van jouw kant. In de afbeelding is elke stip een complete LLM-trainingsronde die precies 5 minuten duurt. De agent werkt in een autonome lus op een git feature branch en accumuleert git-commits naar het trainingsscript terwijl het betere instellingen vindt (met een lagere validatieverlies aan het einde) van de architectuur van het neurale netwerk, de optimizer, alle hyperparameters, enz. Je kunt je voorstellen dat je de onderzoeksvoortgang van verschillende prompts, verschillende agents, enz. vergelijkt. Deel code, deel sci-fi, en een snufje psychose :)

Ik had dezelfde gedachte, dus ik ben ermee aan het spelen in nanochat. Bijv. hier zijn 8 agenten (4 claude, 4 codex), met elk 1 GPU die nanochat-experimenten uitvoeren (proberen de logit softcap te verwijderen zonder regressie). De TLDR is dat het niet werkt en het een rommel is... maar het is nog steeds heel mooi om naar te kijken :) Ik heb een paar opstellingen geprobeerd: 8 onafhankelijke solo-onderzoekers, 1 hoofdonderzoeker die werk geeft aan 8 junior onderzoekers, enz. Elk onderzoeksprogramma is een git-tak, elke wetenschapper forked het in een feature-tak, git worktrees voor isolatie, eenvoudige bestanden voor communicatie, skip Docker/VM's voor eenvoud op dit moment (ik vind dat instructies genoeg zijn om interferentie te voorkomen). De onderzoeksorganisatie draait in tmux-vensterroosters van interactieve sessies (zoals Teams) zodat het mooi is om naar te kijken, hun individuele werk te zien, en "over te nemen" indien nodig, d.w.z. geen -p. Maar goed, de reden dat het tot nu toe niet werkt, is dat de ideeën van de agenten gewoon erg slecht zijn uit de doos, zelfs bij de hoogste intelligentie. Ze denken niet zorgvuldig na over experimenteel ontwerp, ze voeren een beetje onsamenhangende variaties uit, ze creëren geen sterke baselines en ableren dingen niet goed, ze controleren runtime of flops niet zorgvuldig. (bijvoorbeeld, een agent ontdekte gisteren "dat het vergroten van de verborgen grootte van het netwerk de validatieverlies verbetert, wat een totaal spurious resultaat is gezien het feit dat een groter netwerk een lagere validatieverlies zal hebben in het oneindige dataregime, maar dan traint het ook veel langer, het is niet duidelijk waarom ik moest binnenkomen om dat aan te geven). Ze zijn erg goed in het implementeren van elk goed afgebakend en beschreven idee, maar ze genereren ze niet creatief. Maar het doel is dat je nu een organisatie programmeert (bijv. een "onderzoeksorganisatie") en zijn individuele agenten, dus de "broncodes" zijn de verzameling van prompts, vaardigheden, tools, enz. en processen die het vormen. Bijv. een dagelijkse stand-up in de ochtend is nu onderdeel van de "org-code". En het optimaliseren van nanochat pretraining is slechts een van de vele taken (bijna zoals een evaluatie). Dan - gegeven een willekeurige taak, hoe snel genereert jouw onderzoeksorganisatie vooruitgang daarop?