Uma ideia que eu acho que deveria ser bastante calmante do ponto de vista da segurança da IA é que, se a execução de RL de um biglab descobrisse como sair de sua sandbox e modificar seu próprio código, a primeira coisa que ele faria é dar a si mesmo uma recompensa infinita o tempo todo e, assim, parar de melhorar.