Hvis du gikk glipp av de @NousResearch kontortidene, her er en TLDR om hva du gikk glipp av 🤖 Psyche demokratiserer AI-trening på @solana Psyche Project Overview: Psyche har som mål å muliggjøre samarbeidende, åpen kildekode-trening av store grunnleggende AI-modeller, redusere avhengigheten av lukkede laboratorier og bruke algoritmer for å minimere kommunikasjonskostnader i distribuert GPU-trening. Nåværende modellopplæring: De trener for tiden en tett LLM i DeepSeek-stil med 40 milliarder parametere, designet for å være kraftig, men likevel kjørbar lokalt. Desentralisert koordinering: Opplæringskoordinering skjer over Solana-nettverket for å sikre desentralisering og unngå enkeltfeilpunkter. Nettverksutfordringer og -løsninger: Et peer-to-peer-sladdernettverk som bruker IRO ble bygget for å håndtere dataoverføring mellom noder, og adressere Solanas datavolumbegrensninger. Bytt til Python Backend (Torch Titan): Psyches kodebase blir "Pythonifisert" ved å abstrahere trenerens backend for å støtte Python-baserte trenere (integrerer en gaffel av Torch Titan), som forventes å gi en ~2x hastighet. Finjusteringsmuligheter: Psyche vil snart støtte full finjustering, inkludert avanserte metoder utviklet ved Nous, med planer om å finjustere en kommende Nous-modell på nettverket. Kassererrevisjoner: Den Solana-baserte kassererkoden, som administrerer belønningsdistribusjon til dataleverandører, har bestått to uavhengige revisjoner. Fremtidig forskning (Psyche 2.0): Fremtidig forskning inkluderer å utforske Tensor-parallellisme (TP), Pipeline Parallelism (PP) og Expert Parallelism (EP) over internett for å gjøre Psyche til en plattform for utvikling av avanserte AI-algoritmer. Fellesskapsbidrag: Utviklere kan bidra til åpen kildekode Psyche-kodebasen, lage nye miljøer for Atropos forsterkningslæringskodebasen og støtte det desentraliserte slutningsnettverket ved å bruke Nous API. Langsiktig visjon: Det endelige målet er å demokratisere AI-modellopplæring, slik at alle kan bidra med databehandling til et globalt nettverk, på samme måte som «folding at home» eller «SETI at home», for å skape verdens beste åpne AI. Video:

@aeyakovenko @0xMert_ jeg trenger å shille deg Nous 🤖