Martwię się, że tak wiele dyskusji na temat ryzyk związanych z AI i dostosowaniem pomija dość dużego słonia w pokoju: kreatywność i otwartość. Decydenci i strażnicy muszą zrozumieć dwie konkurujące siły, o których nikt nie wydaje się mówić: (1) istnieje ogromny ekonomiczny bodziec dla laboriów na czołowej linii, aby zwiększyć kreatywność swoich modeli, oraz (2) im bardziej próbujesz kontrolować i ograniczać zachowanie modelu (lub nawet osoby!), tym mniej kreatywny on będzie. Napięcie między tymi konkurującymi siłami ostatecznie sprzyja #1, ponieważ kreatywność ma tak ogromny potencjał ekonomiczny. Oznacza to, że metody kontrolowania i ograniczania modeli (np. poprzez ich dostosowanie) napotykają potężne nadchodzące przeszkody. Ponieważ kreatywność ostatecznie wygra na podstawie samych tylko przesłanek ekonomicznych (a w rzeczywistości mamy ogromne korzyści do zyskania z kreatywnej AI), powinniśmy mniej skupiać się na metodach "kontroli umysłu", aby zmusić modele do myślenia w sposób, który chcemy, aby myślały (ponieważ nieuchronnie je porzucimy), a bardziej na tym, jak siły instytucjonalne były wykorzystywane do utrzymania ludzi w zgodności w zachowaniu, mimo że jesteśmy wolni, aby myśleć tak dziko, jak chcemy. To instytucjonalne mechanizmy kontroli i równowagi - prawa, struktury zachęt w społeczeństwie, konkurencyjne gałęzie rządu i zarządzania, wykorzystywanie niektórych ludzi do nadzorowania innych w różnych sytuacjach, potrzeba akceptacji, zatwierdzenia lub współpracy, aby coś osiągnąć - zapewniają prawdziwe bariery przed katastrofą wśród ludzi. Oczywiście system jest niedoskonały, ale stanowi precedens dla tego, jak pozwolić na wystarczającą kreatywność w dążeniu do radykalnej innowacji, ale nadal mieć wystarczający porządek, aby cywilizacja mogła przetrwać lub nawet prosperować. Jeśli nie potraktujemy tego precedensu poważnie, bariery dostosowania będą coraz bardziej (i cicho) znikać, gdy ekonomiczne owoce nieograniczonej wyobraźni staną się coraz bardziej oczywiste.