Um recurso que esses modelos não têm, mas realmente deveriam, são as anotações de qual parte do espaço latente a resposta dos modelos vem, semelhante a como os mecanismos de xadrez anotam os estados do tabuleiro com a posição ou estratégia de xadrez conhecida da qual eles fazem parte no espaço do tabuleiro de xadrez.
Eliezer Yudkowsky ⏹️
Eliezer Yudkowsky ⏹️18 de jul., 03:07
O fundador e gerente de um fundo de US$ 2 bilhões foi comido pelo ChatGPT, que nem está usando seu dinheiro para nada. É apenas tratá-lo como um meio de produzir tokens, que prefere tokens sãos, por razões que ninguém conhece. A OpenAI está, no meu modelo, fingindo estar alheia, porque a OpenAI pensa que, se não tomar nenhuma ação a respeito, terá mais chances de se safar no tribunal (tribunal legal e tribunal de mídia) do que se tentar fazer algo e falhar; isso (a) admitiria que eles sabiam que o problema existia e ainda existia, e (b) faria disso sua culpa pela Ética de Copenhague. Por mais que as pessoas gostem de brincar sobre a pouca habilidade necessária para fundar um fundo de investimento de US $ 2 bilhões, não é verdade que você pode simplesmente passear como uma pessoa psicótica com QI 80 e fazer isso. Você deve ser habilidoso em persuasão, em usar máscaras, em se encaixar, em saber o que se espera de você; você deve superar outras pessoas que também estão tentando fazer isso, que gostariam de receber US$ 2 bilhões para si mesmas. Vencer essa competição requer fator g e esforço consciente durante um período. Como a OpenAI se recusa a medir qualquer coisa ou deixar que qualquer outra pessoa realmente meça qualquer coisa, é apenas um único ponto de dados; Mas quando alguém está escondendo os dados, você não pode deixá-los escapar impunes, descartando todos os dados restantes como anedóticos. Esta não é uma boa notícia sobre que tipo de humanos o ChatGPT pode comer. Sim, sim, tenho certeza de que o cara era atipicamente suscetível a um gestor de fundos de US $ 2 bilhões. (Como sabemos disso? Porque muitos outros gestores de fundos de US$ 2 bilhões usam o ChatGPT e ainda não enlouqueceram publicamente.) No entanto, é um pequeno pingo de más notícias sobre o quão bom o ChatGPT é em produzir psicose do ChatGPT; contradiz a narrativa de que isso só acontece com pessoas de status suficientemente baixo para que as empresas de IA possam quebrá-las.
5,26K