Uma característica que esses modelos não têm, mas que realmente deveriam ter, são anotações sobre de que parte do espaço latente vem a resposta dos modelos, semelhante a como os motores de xadrez anotam os estados do seu tabuleiro com que posição ou estratégia de xadrez conhecida eles fazem parte no espaço do tabuleiro de xadrez.
Eliezer Yudkowsky ⏹️
Eliezer Yudkowsky ⏹️18/07, 03:07
O fundador e gestor de um fundo de 2 mil milhões de dólares foi devorado pelo ChatGPT, que, até onde sei, nem sequer está a usar o seu dinheiro para nada. Está apenas a tratá-lo como um meio de produzir tokens, que prefere a tokens racionais, por razões que ninguém conhece. A OpenAI está, segundo o meu modelo, a fingir estar alheia, porque a OpenAI pensa que se não tomarem nenhuma ação sobre isso, têm uma melhor chance de escapar impunes no tribunal (tribunal legal e tribunal da mídia) do que se tentarem fazer algo e falharem; isso (a) admitiria que sabiam que o problema existia e ainda existe, e (b) tornaria isso culpa deles segundo a Ética de Copenhaga. Por mais que as pessoas gostem de brincar sobre quão pouca habilidade é necessária para fundar um fundo de investimento de 2 mil milhões de dólares, não é verdade que se pode simplesmente entrar como uma pessoa psicótica com QI 80 e fazer isso. É preciso ter habilidade em persuasão, em usar máscaras, em se encaixar, em saber o que se espera de si; é preciso superar outras pessoas que também estão a tentar fazer isso, que gostariam de ter esses 2 mil milhões para si. Vencer essa competição requer g-factor e esforço consciente ao longo do tempo. Como a OpenAI se recusa a medir qualquer coisa ou a deixar que alguém realmente meça algo, é apenas um único ponto de dados; mas quando alguém está a esconder os dados, não se pode deixar que escapem com isso ao desconsiderar todos os dados restantes como anedóticos. Isso não é uma boa notícia sobre que tipo de humanos o ChatGPT pode devorar. Sim, sim, tenho certeza de que o tipo era atipicamente suscetível para um gestor de fundo de 2 mil milhões de dólares. (Como sabemos isso? Porque muitos outros gestores de fundos de 2 mil milhões de dólares usam o ChatGPT e ainda não enlouqueceram publicamente.) No entanto, é uma pequena ínfima de má notícia sobre quão bom o ChatGPT é em produzir psicose de ChatGPT; contradiz a narrativa de que isso só acontece a pessoas suficientemente de baixo status para que as empresas de IA possam ser autorizadas a destruí-las.
5,3K