Om du missade de @NousResearch kontorstiderna, här är en TLDR om vad du missade 🤖 Psyche demokratiserar AI-träning på @solana Psyche Project Overview: Psyche syftar till att möjliggöra samarbete med öppen källkod för träning av stora grundläggande AI-modeller, minska beroendet av slutna laboratorier och använda algoritmer för att minimera kommunikationskostnader i distribuerad GPU-träning. Nuvarande modellträning: De tränar för närvarande en tät LLM i DeepSeek-stil med 40 miljarder parametrar, designad för att vara kraftfull men ändå körbar lokalt. Decentraliserad samordning: Utbildningssamordning sker över Solana-nätverket för att säkerställa decentralisering och undvika enskilda felpunkter. Nätverksutmaningar och lösningar: Ett peer-to-peer-skvallernätverk som använder IRO byggdes för att hantera dataöverföring mellan noder, vilket tar itu med Solanas datavolymbegränsningar. Skifta till Python-backend (Torch Titan): Psyches kodbas blir "Pythonifierad" genom att abstrahera tränarens backend för att stödja Python-baserade tränare (integrera en gaffel av Torch Titan), vilket förväntas ge en ~2x hastighetsökning. Finjusteringsfunktioner: Psyche kommer snart att stödja fullständig finjustering, inklusive avancerade metoder som utvecklats vid Nous, med planer på att finjustera en kommande Nous-modell på nätverket. Treasurer Audits: Den Solana-baserade kassörskoden, som hanterar belöningsfördelning till beräkningsleverantörer, har framgångsrikt klarat två oberoende revisioner. Framtida forskning (Psyche 2.0): Framtida forskning inkluderar att utforska Tensor Parallelism (TP), Pipeline Parallelism (PP) och Expert Parallelism (EP) över internet för att göra Psyche till en plattform för att utveckla avancerade AI-algoritmer. Bidrag från communityn: Utvecklare kan bidra till Psyche-kodbasen med öppen källkod, skapa nya miljöer för Atropos kodbas för förstärkt inlärning och stödja det decentraliserade inferensnätverket med hjälp av Nous API. Långsiktig vision: Det slutliga målet är att demokratisera AI-modellträning, vilket gör det möjligt för vem som helst att bidra med beräkning till ett globalt nätverk, liknande "vikning hemma" eller "SETI hemma", för att skapa världens bästa öppna AI. Video:
Nous Research
Nous Research25 juli 2025
Psyche-kontorets öppettider börjar om 20 minuter i vår Discord - Vi ses där!
@aeyakovenko @0xMert_ jag måste shilla dig Nous 🤖
949