Удивлён тем, насколько закон Гудхарта — знакомый всем, кто работал в корпоративной среде — похож на проблему взлома вознаграждений / игрового процесса в RL. Хотя, возможно, одно ключевое отличие заключается в том, что в законе Гудхарта именно сам акт установки метрики в качестве цели делает её плохой метрикой.
26,22K