Si te perdiste las horas de oficina de @NousResearch, aquí tienes un resumen de lo que te perdiste 🤖 Psyche está democratizando el entrenamiento de IA en @solana Descripción del Proyecto Psyche: Psyche tiene como objetivo permitir el entrenamiento colaborativo y de código abierto de grandes modelos de IA, reduciendo la dependencia de laboratorios cerrados y utilizando algoritmos para minimizar la sobrecarga de comunicación en el entrenamiento distribuido con GPU. Entrenamiento del Modelo Actual: Actualmente están entrenando un LLM denso estilo DeepSeek de 40 mil millones de parámetros, diseñado para ser potente pero ejecutable localmente. Coordinación Descentralizada: La coordinación del entrenamiento se lleva a cabo a través de la red Solana para garantizar la descentralización y evitar puntos únicos de fallo. Desafíos de Redes y Soluciones: Se construyó una red de gossip peer-to-peer utilizando IRO para manejar la transmisión de datos entre nodos, abordando las limitaciones de volumen de datos de Solana. Cambio a Backend en Python (Torch Titan): La base de código de Psyche está siendo "Pythonificada" al abstraer el backend del entrenador para soportar entrenadores basados en Python (integrando un fork de Torch Titan), se espera que proporcione una aceleración de ~2x. Capacidades de Ajuste Fino: Psyche pronto soportará ajuste fino completo, incluyendo métodos avanzados desarrollados en Nous, con planes de ajustar un próximo modelo de Nous en la red. Auditorías del Tesorero: El código del tesorero basado en Solana, que gestiona la distribución de recompensas a los proveedores de computación, ha pasado con éxito dos auditorías independientes. Investigación Futura (Psyche 2.0): La investigación futura incluye explorar el Paralelismo Tensorial (TP), el Paralelismo de Pipeline (PP) y el Paralelismo de Expertos (EP) a través de internet para hacer de Psyche una plataforma para desarrollar algoritmos avanzados de IA. Contribuciones de la Comunidad: Los desarrolladores pueden contribuir a la base de código de Psyche de código abierto, crear nuevos entornos para la base de código de aprendizaje por refuerzo Atropos y apoyar la red de inferencia descentralizada utilizando la API de Nous. Visión a Largo Plazo: El objetivo final es democratizar el entrenamiento de modelos de IA, permitiendo que cualquiera contribuya con computación a una red global, similar a "folding at home" o "SETI at home," para crear la mejor IA abierta del mundo. Video:
Nous Research
Nous Research25 jul 2025
Las horas de oficina de Psyche comienzan en 20 minutos en nuestro Discord - ¡Nos vemos allí!
@aeyakovenko @0xMert_ Necesito promocionarles Nous 🤖
942