Kann ein KI-Modell perfekt vorhersagen und trotzdem ein schreckliches Weltmodell haben? Was würde das überhaupt bedeuten? Unser neuer ICML-Artikel formalisiert diese Fragen. Ein Ergebnis erzählt die Geschichte: Ein Transformer, der auf 10 Millionen Sonnensystemen trainiert wurde, trifft die planetarischen Orbits perfekt. Aber er vermasselt die Gravitationsgesetze 🧵

Unser Papier zielt darauf ab, zwei Fragen zu beantworten: 1. Was ist der Unterschied zwischen Vorhersage- und Weltmodellen? 2. Gibt es einfache Metriken, die diese Unterscheidung testen können? Unser Papier handelt von KI. Aber es ist hilfreich, 400 Jahre zurückzugehen, um diese Fragen zu beantworten.

Vielleicht begann das einflussreichste Weltmodell als ein prädiktives Modell. Bevor wir Newtons Gesetze der Schwerkraft hatten, hatten wir Keplers Vorhersagen über die Planetenbahnen. Keplers Vorhersagen führten zu Newtons Gesetzen. Was hat Newton also hinzugefügt?