Может ли модель ИИ предсказать идеально и при этом иметь ужасную модель мира? Что бы это вообще значило? Наша новая статья для ICML формализует эти вопросы. Одно из результатов рассказывает историю: трансформер, обученный на 10 миллионах солнечных систем, точно определяет орбиты планет. Но он портит законы гравитации 🧵

Наша работа направлена на ответ на два вопроса: 1. В чем разница между предсказательными и мировыми моделями? 2. Существуют ли простые метрики, которые могут проверить это различие? Наша работа посвящена ИИ. Но полезно вернуться на 400 лет назад, чтобы ответить на эти вопросы.

Возможно, самая влиятельная мировая модель началась как предсказательная модель. Прежде чем у нас появились законы гравитации Ньютона, у нас были предсказания Кеплера о планетарных орбитах. Предсказания Кеплера привели к законам Ньютона. Так что добавил Ньютона?