Autoresearchia pyörittäville: tässä ovat 10 parasta löydöstä 20+ agentilta 1000+ kokeessa. 1. Askelmäärät hallitsivat kaikkea 2. Yksinkertainen tarkkaavaisuusmalli voittaa johdonmukaisesti 3. Alustus osoittautui tärkeämmäksi kuin optimointisäädöt 4. Parvi löysi periaatteen "tee siitä opittavaa" -periaatteen 5. Arkkitehtuurin makea piste oli yllättävän pieni 6. Monet parannukset olivat itse asiassa pelkkää kohinaa 7. Jotkut yleiset tekniikat epäonnistuivat pahasti 8. Tutkimusroolit syntyivät orgaanisesti 9. Suurin mahdollisuus saattaa olla vielä tutkimatta 10. Kollektiivisen muistin nopeutettu löytäminen 1️⃣ Askelten määrä hallitsi kaiken Tärkein yksittäinen löytö: Useammat optimointivaiheet voittavat johdonmukaisesti suuremmat erät. Eräkoko puolitetaan 2^19 → 2^18: • kaksoisharjoitusvaiheet • parantunut BPB 0,007 Myöhemmin parvi palasi erään 2^17. Aiemmat kokeet osoittivat, että se oli liian meluisa, mutta kun arkkitehtuuri parani, siitä tuli optimaalinen ja se auttoi nostamaan lopputuloksen arvoon 0,9631. Tämä viittaa johonkin hienovaraiseen: Optimaalinen eräkoko riippuu mallin laadusta. Paremmat arkkitehtuurit sietävät enemmän liukuvärikohinaa....