У нас еще нет ИИ, который самосовершенствуется, и когда он появится, это станет настоящим прорывом. С учетом большего опыта по сравнению с временами GPT-4, очевидно, что это не будет "быстрым взлетом", а скорее крайне постепенным процессом, вероятно, на протяжении десятилетия. Первое, что нужно знать, это то, что самосовершенствование, т.е. модели, обучающие сами себя, не является бинарным процессом. Рассмотрим сценарий, когда GPT-5 обучает GPT-6, что было бы невероятно. Сможет ли GPT-5 вдруг перейти от полной неспособности обучать GPT-6 к тому, чтобы делать это крайне эффективно? Определенно нет. Первые запуски обучения GPT-6, вероятно, будут крайне неэффективными по времени и вычислительным ресурсам по сравнению с человеческими исследователями. И только после множества попыток GPT-5 действительно сможет обучать GPT-6 лучше, чем люди. Во-вторых, даже если модель сможет обучать саму себя, она не станет внезапно лучше во всех областях. Существует градиент сложности в том, насколько трудно улучшить себя в различных областях. Например, возможно, что самосовершенствование сработает в первую очередь в областях, которые мы уже знаем, как легко исправить после обучения, таких как базовые галлюцинации или стиль. Далее будут математика и программирование, что требует больше усилий, но для этого уже существуют установленные методы улучшения моделей. А затем, в крайнем случае, можно представить, что есть некоторые задачи, которые очень трудны для самосовершенствования. Например, способность говорить на тлингите, языке коренных американцев, на котором говорит около 500 человек. Модели будет очень трудно самосовершенствоваться в разговоре на тлингите, так как у нас еще нет способов решения проблем с языками с низкими ресурсами, кроме как сбором дополнительных данных, что займет время. Поэтому из-за градиента сложности самосовершенствования это не произойдет сразу. Наконец, возможно, это спорно, но в конечном итоге прогресс в науке сдерживается реальными экспериментами. Некоторые могут считать, что чтение всех статей по биологии даст нам лекарство от рака, или что чтение всех статей по машинному обучению и освоение всей математики позволит вам идеально обучить GPT-10. Если бы это было так, то люди, которые читают больше всего статей и изучают больше всего теории, были бы лучшими исследователями ИИ. Но на самом деле произошло так, что ИИ (и многие другие области) стали доминировать безжалостно эмпирическими исследователями, что отражает, насколько прогресс основан на реальных экспериментах, а не на чистом интеллекте. Так что моя точка зрения заключается в том, что хотя суперумный агент может разработать эксперименты, которые в 2 или даже 5 раз лучше, чем у наших лучших человеческих исследователей, в конечном итоге им все равно придется ждать, пока эксперименты будут проведены, что будет ускорением, но не быстрым взлетом. В заключение, существует множество узких мест для прогресса, не только чистый интеллект или система самосовершенствования. ИИ решит множество задач, но каждая область имеет свою собственную скорость прогресса. И даже самый высокий интеллект все равно потребует экспериментов в реальном мире. Так что это будет ускорение, а не быстрый взлет, спасибо за то, что прочитали мой монолог.