"Kollektiv zeigen diese Ergebnisse, dass das Skalieren von 600M auf 7B Parameter die durchschnittliche Genauigkeit pro Nukleotid von 25% auf 83% erhöht." Die Skalierungsgesetze, die auf biologische Grundmodelle angewendet werden, sind das Beste, was ich heute gehört habe. Dieses Team scheint genial zu sein, und das Papier ist auf jeden Fall lesenswert.
Prima Mente
Prima Mente17. Juli, 03:13
1/ Heute kündigen wir Pleiades an, eine Reihe von epigenetischen Grundmodellen (90M→7B Parameter), die auf 1,9T Token menschlicher Methylierungs- und Genomdaten trainiert wurden. Pleiades modelliert Epigenetik genau für die Vorhersage von genomischen Tracks, die Generierung und die Erkennung neurodegenerativer Erkrankungen aus cfDNA und übertrifft frühere reine DNA-Baselines.
10,73K